Αν τα άτομα που βρίσκονται στην πρώτη γραμμή της τεχνολογίας τεχνητής νοημοσύνης σχολιάζουν για το δυνητικά καταστροφικές επιπτώσεις των εξαιρετικά ευφυών συστημάτων AI, τότε είναι μάλλον σοφό να καθίσετε και να πάρετε ειδοποίηση.
Μόλις πριν από λίγους μήνες, ο Geoffrey Hinton, ένας άνθρωπος που θεωρείται ένας από τους «νονούς» της τεχνητής νοημοσύνης για την πρωτοποριακή του δουλειά στον τομέα, είπε ότι ο γρήγορος ρυθμός ανάπτυξης της τεχνολογίας σήμαινε ότι "δεν ήταν αδιανόητο" ότι η υπερέξυπνη τεχνητή νοημοσύνη - που θεωρείται ανώτερη από το ανθρώπινο μυαλό - θα μπορούσε να καταλήξει να εξαφανίσει την ανθρωπότητα.
Προτεινόμενα βίντεο
Και ο Sam Altman, Διευθύνων Σύμβουλος της OpenAI, η εταιρεία πίσω το viral ChatGPT chatbot, είχε παραδεχτεί ότι ήταν «λίγο φοβισμένος» για τις πιθανές επιπτώσεις των προηγμένων συστημάτων AI στην κοινωνία.
Σχετίζεται με
- Ο κατασκευαστής ChatGPT OpenAI αντιμετωπίζει έρευνα της FTC σχετικά με τους νόμους περί προστασίας των καταναλωτών
- Η επισκεψιμότητα του ιστότοπου ChatGPT μειώθηκε για πρώτη φορά
- Δίδαξα το ChatGPT για να με διδάξει επιτραπέζια παιχνίδια και τώρα δεν θα πάω ποτέ πίσω
Ο Altman είναι τόσο ανήσυχος που την Τετάρτη η εταιρεία του ανακοίνωσε ότι δημιουργεί μια νέα μονάδα που ονομάζεται Υπερευθυγράμμιση με στόχο να διασφαλίσει ότι η υπερέξυπνη τεχνητή νοημοσύνη δεν θα καταλήξει να προκαλεί χάος ή κάτι μακρινό χειρότερος.
«Η υπερευφυΐα θα είναι η πιο εντυπωσιακή τεχνολογία που έχει εφεύρει ποτέ η ανθρωπότητα και θα μπορούσε να μας βοηθήσει να λύσουμε πολλά από τα πιο σημαντικά προβλήματα του κόσμου». είπε το OpenAI σε μια ανάρτηση που παρουσιάζει τη νέα πρωτοβουλία. «Αλλά η τεράστια δύναμη της υπερνοημοσύνης θα μπορούσε επίσης να είναι πολύ επικίνδυνη και θα μπορούσε να οδηγήσει στην αποδυνάμωση της ανθρωπότητας ή ακόμα και στην ανθρώπινη εξαφάνιση».
Η OpenAI είπε ότι αν και η υπερέξυπνη τεχνητή νοημοσύνη μπορεί να φαίνεται ότι είναι μακριά, πιστεύει ότι θα μπορούσε να αναπτυχθεί έως το 2030. Και παραδέχεται εύκολα ότι αυτή τη στιγμή, δεν υπάρχει κανένα σύστημα «για την καθοδήγηση ή τον έλεγχο μιας δυνητικά υπερευφυούς τεχνητής νοημοσύνης και την αποτροπή του από το να γίνει αδίστακτο».
Για να αντιμετωπίσει την κατάσταση, το OpenAI θέλει να δημιουργήσει έναν «αυτοματοποιημένο ερευνητή ευθυγράμμισης σε ανθρώπινο επίπεδο» που θα εκτελεί ελέγχους ασφαλείας σε υπερέξυπνη τεχνητή νοημοσύνη, προσθέτοντας ότι η διαχείριση αυτών των κινδύνων θα απαιτήσει επίσης νέους θεσμούς για τη διακυβέρνηση και την επίλυση του προβλήματος της υπερευφυΐας ευθυγραμμία.
Για να έχει αποτέλεσμα το Superalignment, το OpenAI πρέπει να συγκεντρώσει μια ομάδα από κορυφαίους ερευνητές και μηχανικούς μηχανικής μάθησης.
Η εταιρεία εμφανίζεται πολύ ειλικρινής σχετικά με την προσπάθειά της, χαρακτηρίζοντάς την ως έναν «απίστευτα φιλόδοξο στόχο», ενώ επίσης παραδέχεται ότι «δεν είναι εγγυημένο ότι θα πετύχει». Αλλά προσθέτει ότι είναι «αισιόδοξο ότι μια εστιασμένη, συντονισμένη προσπάθεια μπορεί να το λύσει αυτό πρόβλημα."
Νέα εργαλεία τεχνητής νοημοσύνης όπως το ChatGPT του OpenAI και το Bard της Google, μεταξύ πολλών άλλων, είναι τόσο επαναστατικά που οι ειδικοί είναι σίγουροι ότι ακόμη και σε αυτό το επίπεδο προ-υπερκατασκοπίας, ο χώρος εργασίας και η ευρύτερη κοινωνία αντιμετωπίζουν θεμελιώδεις αλλαγές στο εγγύς μέλλον όρος.
Αυτός είναι ο λόγος που οι κυβερνήσεις σε όλο τον κόσμο προσπαθούν να παίξουν catchup, κινούνται βιαστικά για να επιβάλουν κανονισμούς η ταχέως αναπτυσσόμενη βιομηχανία τεχνητής νοημοσύνης σε μια προσπάθεια να διασφαλίσει ότι η τεχνολογία θα αναπτυχθεί με ασφάλεια και υπευθυνότητα τρόπος. Ωστόσο, εάν δεν δημιουργηθεί ένας ενιαίος φορέας, κάθε χώρα θα έχει τις δικές της απόψεις για τον καλύτερο τρόπο χρήσης της τεχνολογίας, πράγμα που σημαίνει ότι αυτοί οι κανονισμοί ενδέχεται να ποικίλλουν πολύ και να οδηγήσουν σε σημαντικά διαφορετικά αποτελέσματα. Και είναι αυτές οι διαφορετικές προσεγγίσεις που θα κάνουν τον στόχο του Superalignment ακόμα πιο δύσκολο να επιτευχθεί.
Συστάσεις των συντακτών
- Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
- Η νέα εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ στοχεύει να «κατανοήσει το σύμπαν»
- Το OpenAI αποκαλύπτει την τοποθεσία του πρώτου διεθνούς φυλάκιου του
- Οι δικηγόροι της Νέας Υόρκης επιβλήθηκαν πρόστιμο για χρήση ψεύτικων υποθέσεων ChatGPT σε νομική συνοπτική συντομία
- Αυτό το πρόγραμμα περιήγησης ιστού ενσωματώνει το ChatGPT με έναν συναρπαστικό νέο τρόπο
Αναβαθμίστε τον τρόπο ζωής σαςΤο Digital Trends βοηθά τους αναγνώστες να παρακολουθούν τον γρήγορο κόσμο της τεχνολογίας με όλα τα τελευταία νέα, διασκεδαστικές κριτικές προϊόντων, διορατικά editorial και μοναδικές κρυφές ματιές.
