ΕΝΑ Έρευνα χρόνου έχει αποκαλύψει την πιο σκοτεινή πλευρά της βιομηχανίας chatbot της τεχνητής νοημοσύνης, τονίζοντας πώς τουλάχιστον μία startup χρησιμοποιεί αμφισβητήσιμες πρακτικές για να βελτιώσει την τεχνολογία της.
Δημοσιεύτηκε την Τετάρτη, η έκθεση του Time επικεντρώνεται στο OpenAI που υποστηρίζεται από τη Microsoft και Το chatbot του ChatGPT, μια τεχνολογία που έχει κερδίσει μεγάλη προσοχή πρόσφατα για την αξιοσημείωτη ικανότητά της να παράγει εξαιρετικά φυσικό κείμενο συνομιλίας.
Προτεινόμενα βίντεο
Η έρευνα του Time διαπίστωσε ότι για να εκπαιδεύσει την τεχνολογία AI, το OpenAI χρησιμοποίησε τις υπηρεσίες μιας ομάδας στην Κένυα για να περιγράψει κείμενο που περιελάμβανε ενοχλητικά θέματα όπως σεξουαλική κακοποίηση παιδιών, κτηνωδία, φόνο, αυτοκτονία, βασανιστήρια, αυτοτραυματισμό και αιμομιξία. Και για τις προσπάθειές τους να χαρακτηρίσουν το αποτρόπαιο περιεχόμενο, πολλοί στην ομάδα λάμβαναν λιγότερα από 2 $ την ώρα.
Σχετίζεται με
- Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
- ChatGPT: τα τελευταία νέα, οι διαμάχες και οι συμβουλές που πρέπει να γνωρίζετε
- Η ανάπτυξη ρεκόρ του ChatGPT μόλις εκθρονίστηκε από μια νέα viral εφαρμογή
Το έργο, που ξεκίνησε τον Νοέμβριο του 2021, ήταν απαραίτητο καθώς ο προκάτοχος του ChatGPT, το GPT-3, αν και εντυπωσιακό, είχε την τάση να εκτοξεύεται εκτός προσβλητικού περιεχομένου καθώς το εκπαιδευτικό του σύνολο είχε συγκεντρωθεί με απόξεση εκατοντάδων δισεκατομμυρίων λέξεων από όλες τις γωνιές του ιστός.
Η ομάδα με έδρα την Κένυα, η οποία λειτουργεί από την εταιρεία Sama του Σαν Φρανσίσκο, θα χαρακτηρίσει το προσβλητικό περιεχόμενο για να βοηθήσει εκπαιδεύστε το chatbot του OpenAI, βελτιώνοντας έτσι τα δεδομένα του και μειώνοντας τις πιθανότητες οποιουδήποτε απαράδεκτου παραγωγή.
Ο Time είπε ότι και οι τέσσερις υπάλληλοι της Sama με τους οποίους πήρε συνέντευξη περιέγραψαν ότι είχαν ψυχικά τραύματα από τη δουλειά τους. Η Sama προσέφερε συμβουλευτικές συνεδρίες, αλλά οι εργαζόμενοι είπαν ότι ήταν αναποτελεσματικές και σπάνια πραγματοποιήθηκαν λόγω τις απαιτήσεις της δουλειάς, αν και ένας εκπρόσωπος της Sama είπε στο Time ότι οι θεραπευτές ήταν προσβάσιμοι σε οποιαδήποτε χρόνος.
Ένας εργαζόμενος είπε στο Time ότι η ανάγνωση του συγκλονιστικού υλικού μερικές φορές φαινόταν σαν «βασανιστήριο», προσθέτοντας ότι ένιωθαν «ενοχλημένοι» μέχρι το τέλος της εβδομάδας.
Τον Φεβρουάριο του 2022, τα πράγματα πήραν ακόμη πιο σκοτεινή τροπή για τη Sama όταν το OpenAI ξεκίνησε ένα ξεχωριστό έργο που δεν σχετίζεται με το ChatGPT που απαιτούσε από την ομάδα της στην Κένυα να συλλέγει εικόνες σεξουαλικής και βίαιης φύσης. Το OpenAI είπε στο Time ότι η εργασία ήταν απαραίτητη για να γίνουν ασφαλέστερα τα εργαλεία AI του.
Μέσα σε λίγες εβδομάδες από την έναρξη αυτού του έργου που βασίζεται σε εικόνες, η ανησυχητική φύση των εργασιών ώθησε τη Sama να ακυρώσει όλα τα συμβόλαιά της με Το OpenAI, αν και το Time υποδηλώνει ότι θα μπορούσε επίσης να προκλήθηκε από το αποτέλεσμα δημοσίων σχέσεων από μια έκθεση για παρόμοιο θέμα που δημοσίευσε σχετικά με Facebook περίπου την ίδια στιγμή.
Η Open AI είπε στο Time ότι υπήρξε «μια εσφαλμένη επικοινωνία» σχετικά με τη φύση των εικόνων που ζήτησε από τη Sama συλλέγει, επιμένοντας ότι δεν είχε ζητήσει τις πιο ακραίες εικόνες και δεν είχε δει καμία από αυτές που ήταν Απεσταλμένα.
Όμως, ο τερματισμός των συμβάσεων επηρέασε τα προς το ζην των εργαζομένων, με κάποιους από την ομάδα στην Κένυα να έχασαν τις δουλειές τους, ενώ άλλοι μετακινήθηκαν σε έργα χαμηλότερης αμοιβής.
Η έρευνα του χρόνου προσφέρει μια άβολη αλλά σημαντική ματιά στο είδος της δουλειάς που γίνεται στα chatbot που υποστηρίζονται από τεχνητή νοημοσύνη και που πρόσφατα ενθουσιάζουν τόσο τη βιομηχανία της τεχνολογίας.
Αν και μεταμορφωτική και δυνητικά επωφελής, η τεχνολογία έχει σαφώς ανθρώπινο κόστος και εγείρει μια σειρά από ηθικά ερωτήματα σχετικά με το πώς λειτουργούν οι εταιρείες ανάπτυξη των νέων τεχνολογιών τους και γενικότερα για το πώς οι πλουσιότερες χώρες συνεχίζουν να αναθέτουν λιγότερο επιθυμητά καθήκοντα σε φτωχότερες χώρες για χαμηλότερα οικονομικά έξοδο.
Οι νεοφυείς επιχειρήσεις που βρίσκονται πίσω από την τεχνολογία θα τεθούν υπό πιο εστιασμένη εξέταση τους επόμενους μήνες και χρόνια, και γι' αυτό καλό θα ήταν να αναθεωρήσουν και να βελτιώσουν τις πρακτικές τους με την πρώτη ευκαιρία.
Το Digital Trends επικοινώνησε με το OpenAI για να σχολιάσει την αναφορά του Time και θα ενημερώσουμε αυτό το άρθρο όταν μάθουμε νέα.
Συστάσεις των συντακτών
- Τα καλύτερα εργαλεία επεξεργασίας βίντεο AI
- Ο κατασκευαστής ChatGPT OpenAI αντιμετωπίζει έρευνα της FTC σχετικά με τους νόμους περί προστασίας των καταναλωτών
- Η νέα εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ στοχεύει να «κατανοήσει το σύμπαν»
- Η επισκεψιμότητα του ιστότοπου ChatGPT μειώθηκε για πρώτη φορά
- Οι ανακαλύψεις στην τεχνητή νοημοσύνη θα μπορούσαν να έρθουν μέσω του εγκεφάλου των μελισσών, λένε οι επιστήμονες
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
