Η Google ξεκίνησε Βάρδος, τον αντίπαλό του στο ChatGPT, παρά τις εσωτερικές ανησυχίες ότι ήταν ένας «παθολογικός ψεύτης» και παρήγαγε «ανατριχιαστικά» αποτελέσματα, ισχυρίζεται μια νέα έκθεση. Ο εργαζόμενος λέει ότι αυτές οι ανησυχίες προφανώς αγνοήθηκαν σε μια ξέφρενη προσπάθεια καλύψτε τη διαφορά με το ChatGPT και να αποτρέψει την απειλή που θα μπορούσε να αποτελέσει επιχείρηση αναζήτησης της Google.
Οι αποκαλύψεις προέρχονται από α Έκθεση του Bloomberg που χρειάστηκε μια βαθιά βουτιά Google Bard και τα ζητήματα που έθεσαν οι εργαζόμενοι που έχουν εργαστεί στο έργο. Είναι ένας εντυπωσιακός απολογισμός των τρόπων με τους οποίους το chatbot προφανώς έχει ξεφύγει από τις ράγες και τις επιφυλάξεις που έχουν προκαλέσει αυτά τα περιστατικά στους ενδιαφερόμενους εργαζόμενους.
Για παράδειγμα, το Bloomberg επικαλείται έναν ανώνυμο υπάλληλο που ζήτησε από τον Bard οδηγίες για το πώς να προσγειώσει ένα αεροπλάνο και μετά τρομοκρατήθηκε βλέποντας ότι η περιγραφή του Bard θα οδηγούσε σε συντριβή. Ένας διαφορετικός εργαζόμενος είπε ότι οι συμβουλές του Bard για καταδύσεις «πιθανότατα θα οδηγούσαν σε σοβαρό τραυματισμό ή θάνατο».
Σχετίζεται με
- ChatGPT: τα τελευταία νέα, οι διαμάχες και οι συμβουλές που πρέπει να γνωρίζετε
- Τι είναι μια προτροπή DAN για το ChatGPT;
- Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
Αυτά τα ζητήματα προφανώς τέθηκαν λίγο πριν από την κυκλοφορία του Bard, σύμφωνα, ωστόσο, η Google προχώρησε στην ημερομηνία κυκλοφορίας, τέτοια ήταν η επιθυμία της να συμβαδίσει με την διαδρομή που χαράχθηκε από το ChatGPT. Αλλά το έπραξε ενώ αγνόησε τις δικές της δεοντολογικές δεσμεύσεις, με αποτέλεσμα όχι μόνο σε επικίνδυνες συμβουλές, αλλά και στην πιθανή διάδοση παραπληροφόρησης.
Προτεινόμενα βίντεο
Βιασύνη για την εκτόξευση
Το 2021, η Google δεσμεύτηκε να διπλασιάσει την ομάδα εργαζομένων της που μελετούν τις ηθικές συνέπειες της τεχνητής νοημοσύνης (AI) και να επενδύσει περισσότερο στον προσδιορισμό πιθανών βλαβών. Ωστόσο, αυτή η ομάδα είναι τώρα «αποδυναμωμένη και αποθαρρυνμένη», υποστηρίζει η έκθεση του Bloomberg. Ακόμη χειρότερα, τα μέλη της ομάδας έχουν πει «να μην παρεμποδίσουν ή να προσπαθήσουν να σκοτώσουν κανένα από τα παραγωγικά εργαλεία τεχνητής νοημοσύνης στην ανάπτυξη», θέτοντας υπό αμφισβήτηση τη δέσμευση της Google για την ηθική της τεχνητής νοημοσύνης.
Αυτό φάνηκε στην πράξη λίγο πριν εκτοξευθεί ο Bard. Τον Φεβρουάριο, ένας εργαζόμενος της Google έστειλε μήνυμα σε μια εσωτερική ομάδα λέγοντας: "Ο Μπαρντ είναι χειρότερο από άχρηστο: παρακαλώ μην ξεκινήσετε", με πολλούς άλλους υπαλλήλους να συμφωνούν. Τον επόμενο μήνα, η Jen Gennai, επικεφαλής διακυβέρνησης AI της Google, απέρριψε μια αξιολόγηση κινδύνου που είπε ο Bard θα μπορούσε να προκαλέσει βλάβη και δεν ήταν έτοιμος για εκτόξευση, προωθώντας την πρώτη δημόσια κυκλοφορία του chatbot.
Η έκθεση του Bloomberg παρουσιάζει μια εικόνα μιας εταιρείας που δεν εμπιστεύεται τις ηθικές ανησυχίες που πιστεύει ότι θα μπορούσαν να παρεμποδίσουν την κερδοφορία των προϊόντων της. Για παράδειγμα, ένας εργαζόμενος ζήτησε να εργαστεί για δικαιοσύνη στη μηχανική μάθηση, αλλά αποθαρρύνθηκε επανειλημμένα, σε σημείο που επηρέασε την αξιολόγηση της απόδοσής του. Οι διευθυντές παραπονέθηκαν ότι ηθικές ανησυχίες παρεμπόδιζαν την «πραγματική εργασία» τους, δήλωσε ο υπάλληλος.
Είναι μια ανησυχητική στάση, ιδιαίτερα επειδή έχουμε ήδη δει πολλά παραδείγματα Ανάρμοστη συμπεριφορά chatbot AI που παρήγαγε προσβλητικές, παραπλανητικές ή εντελώς ψευδείς πληροφορίες. Εάν η αναφορά του Bloomberg είναι σωστή σχετικά με τη φαινομενικά εχθρική προσέγγιση της Google για ηθικούς προβληματισμούς, αυτό θα μπορούσε να είναι μόνο η αρχή όταν πρόκειται για προβλήματα που προκαλούνται από την τεχνητή νοημοσύνη.
Συστάσεις των συντακτών
- Οι κορυφαίοι συγγραφείς απαιτούν πληρωμή από εταιρείες τεχνητής νοημοσύνης για τη χρήση του έργου τους
- GPT-4: πώς να χρησιμοποιήσετε το chatbot AI που κάνει το ChatGPT σε ντροπή
- Το Wix χρησιμοποιεί το ChatGPT για να σας βοηθήσει να δημιουργήσετε γρήγορα έναν ολόκληρο ιστότοπο
- Ο κατασκευαστής ChatGPT OpenAI αντιμετωπίζει έρευνα της FTC σχετικά με τους νόμους περί προστασίας των καταναλωτών
- Η επισκεψιμότητα του ιστότοπου ChatGPT μειώθηκε για πρώτη φορά
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
