Το Generative AI κινείται με απίστευτη ταχύτητα τους τελευταίους μήνες, με την κυκλοφορία διαφόρων εργαλείων και ρομπότ όπως π.χ. ChatGPT του OpenAI, Google Bard, κι αλλα. Ωστόσο, αυτή η ταχεία εξέλιξη προκαλεί σοβαρή ανησυχία στους έμπειρους βετεράνους στον τομέα της τεχνητής νοημοσύνης — έτσι πολύ ώστε περισσότεροι από 1.000 από αυτούς έχουν υπογράψει μια ανοιχτή επιστολή καλώντας τους προγραμματιστές τεχνητής νοημοσύνης να πλήξουν το φρένα.
Η επιστολή δημοσιεύτηκε στην ιστοσελίδα του Ινστιτούτο Future of Life, ένας οργανισμός του οποίου η δηλωμένη αποστολή είναι «να κατευθύνει τη μετασχηματιστική τεχνολογία προς όφελος της ζωής και μακριά από ακραίους κινδύνους μεγάλης κλίμακας». Μεταξύ των Οι υπογράφοντες είναι αρκετοί εξέχοντες ακαδημαϊκοί και ηγέτες στην τεχνολογία, όπως ο συνιδρυτής της Apple, Steve Wozniak, ο διευθύνων σύμβουλος του Twitter, Elon Musk και ο πολιτικός Andrew Γιανγκ.
Προτεινόμενα βίντεο
Το άρθρο καλεί όλες τις εταιρείες που εργάζονται σε μοντέλα τεχνητής νοημοσύνης που είναι πιο ισχυρά από το
κυκλοφόρησε πρόσφατα το GPT-4 να σταματήσει αμέσως την εργασία για τουλάχιστον έξι μήνες. Αυτό το μορατόριουμ θα πρέπει να είναι «δημόσιο και επαληθεύσιμο» και θα δώσει χρόνο για «από κοινού ανάπτυξη και εφαρμογή ενός συνόλου κοινών πρωτόκολλα ασφαλείας για προηγμένο σχεδιασμό και ανάπτυξη τεχνητής νοημοσύνης που ελέγχονται αυστηρά και επιβλέπονται από ανεξάρτητο εξωτερικό ειδικοί."Σχετίζεται με
- Ο κατασκευαστής ChatGPT OpenAI αντιμετωπίζει έρευνα της FTC σχετικά με τους νόμους περί προστασίας των καταναλωτών
- Η δυνατότητα περιήγησης Bing του ChatGPT απενεργοποιήθηκε λόγω ελαττώματος πρόσβασης στο paywall
- Ο αντίπαλος ChatGPT της Apple μπορεί να γράψει αυτόματα κώδικα για εσάς
Η επιστολή λέει ότι αυτό είναι απαραίτητο επειδή «τα συστήματα AI με ανθρώπινη-ανταγωνιστική νοημοσύνη μπορούν να θέτουν σοβαρούς κινδύνους για την κοινωνία και την ανθρωπότητα». Εκείνοι Οι κίνδυνοι περιλαμβάνουν τη διάδοση της προπαγάνδας, την καταστροφή θέσεων εργασίας, την πιθανή αντικατάσταση και απαξίωση της ανθρώπινης ζωής και την «απώλεια ελέγχου του πολιτισμού μας». Οι συγγραφείς προσθέτουν ότι η απόφαση για το αν θα προχωρήσουμε σε αυτό το μέλλον δεν πρέπει να αφεθεί σε «μη εκλεγμένους τεχνικούς ηγέτες.”
AI «προς σαφές όφελος όλων»
Η επιστολή έρχεται αμέσως μετά τους ισχυρισμούς ότι το GPT-5, η επόμενη έκδοση του ChatGPT που τροφοδοτεί την τεχνολογία, θα μπορούσε να επιτύχει τεχνητή γενική νοημοσύνη. Εάν είναι σωστό, αυτό σημαίνει ότι θα είναι σε θέση να κατανοήσει και να μάθει οτιδήποτε μπορεί να κατανοήσει ένας άνθρωπος. Αυτό θα μπορούσε να το κάνει απίστευτα ισχυρό με τρόπους που δεν έχουν ακόμη εξερευνηθεί πλήρως.
Επιπλέον, η επιστολή υποστηρίζει ότι ο υπεύθυνος σχεδιασμός και διαχείριση γύρω από την ανάπτυξη συστημάτων τεχνητής νοημοσύνης δεν συμβαίνει, «παρόλο που τους τελευταίους μήνες παρατηρείται τεχνητή νοημοσύνη εργαστήρια εγκλωβισμένα σε έναν αγώνα εκτός ελέγχου για την ανάπτυξη και την ανάπτυξη ολοένα και πιο ισχυρών ψηφιακών μυαλών που κανείς —ακόμα και οι δημιουργοί τους— δεν μπορεί να κατανοήσει, να προβλέψει ή αξιόπιστα έλεγχος."
Αντίθετα, η επιστολή υποστηρίζει ότι πρέπει να δημιουργηθούν νέα συστήματα διακυβέρνησης που θα ρυθμίζουν την ανάπτυξη της τεχνητής νοημοσύνης, θα βοηθούν τους ανθρώπους να διακρίνουν τη δημιουργία τεχνητής νοημοσύνης και περιεχόμενο που δημιουργείται από τον άνθρωπο, να θεωρεί τα εργαστήρια τεχνητής νοημοσύνης όπως το OpenAI υπεύθυνα για οποιαδήποτε βλάβη προκαλούν, να επιτρέψει στην κοινωνία να αντιμετωπίσει τη διαταραχή της τεχνητής νοημοσύνης (ειδικά στη δημοκρατία), κι αλλα.
Οι συγγραφείς τελειώνουν με θετικό σημείωμα, υποστηρίζοντας ότι «η ανθρωπότητα μπορεί να απολαύσει ένα ακμάζον μέλλον με την τεχνητή νοημοσύνη… στο οποίο θα καρπώνουμε τα οφέλη, Κατασκευάστε αυτά τα συστήματα προς σαφή όφελος όλων και δώστε στην κοινωνία την ευκαιρία να προσαρμοστεί». Παύση σε πιο ισχυρά συστήματα AI από GPT-4 θα επέτρεπε να συμβεί αυτό, αναφέρουν.
Θα έχει το γράμμα το επιδιωκόμενο αποτέλεσμα; Αυτό είναι δύσκολο να ειπωθεί. Υπάρχουν ξεκάθαρα κίνητρα για το OpenAI να συνεχίσει να εργάζεται σε προηγμένα μοντέλα, τόσο οικονομικά όσο και με φήμη. Αλλά με τόσους πολλούς πιθανούς κινδύνους - και με πολύ λίγη κατανόησή τους - οι συντάκτες της επιστολής αισθάνονται ξεκάθαρα ότι αυτά τα κίνητρα είναι πολύ επικίνδυνα για να επιδιωχθούν.
Συστάσεις των συντακτών
- Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
- Η επισκεψιμότητα του ιστότοπου ChatGPT μειώθηκε για πρώτη φορά
- Το 81% πιστεύει ότι το ChatGPT αποτελεί κίνδυνο για την ασφάλεια, σύμφωνα με έρευνα
- Δίδαξα το ChatGPT για να με διδάξει επιτραπέζια παιχνίδια και τώρα δεν θα πάω ποτέ πίσω
- Οι δικηγόροι της Νέας Υόρκης επιβλήθηκαν πρόστιμο για χρήση ψεύτικων υποθέσεων ChatGPT σε νομική συνοπτική συντομία
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
