Ονομάστε το υπόθεση Skynet, Τεχνητή Γενική Νοημοσύνη ή η έλευση του Singularity — εδώ και χρόνια, ειδικοί της τεχνητής νοημοσύνης και οι μη ειδικοί έχουν ανησυχήσει (και, για μια μικρή ομάδα, γιόρτασαν) την ιδέα ότι η τεχνητή νοημοσύνη μπορεί μια μέρα να γίνει πιο έξυπνη παρά τους ανθρώπους.
Σύμφωνα με τη θεωρία, οι προόδους στην τεχνητή νοημοσύνη — ειδικά του τύπου μηχανικής μάθησης που είναι σε θέση να αποκτήσει νέα πληροφορίες και ξαναγράψτε τον κώδικά του αναλόγως — θα καλύψει τελικά τη διαφορά με το wetware του βιολογικού εγκέφαλος. Σε αυτήν την ερμηνεία των γεγονότων, κάθε AI προχωρά από Διακινδύνευση-κερδίζοντας μηχανές IBM στο μοντέλο μαζικής γλώσσας AI GPT-3 φέρνει την ανθρωπότητα ένα βήμα πιο κοντά σε μια υπαρξιακή απειλή. Κυριολεκτικά χτίζουμε το δικό μας διαδόχους που θα γίνουν σύντομα ευαίσθητοι.
Προτεινόμενα βίντεο
Μόνο που δεν θα γίνει ποτέ. Τουλάχιστον, σύμφωνα με τους συγγραφείς του νέου βιβλίου Γιατί οι μηχανές δεν θα κυβερνήσουν ποτέ τον κόσμο: Τεχνητή Νοημοσύνη χωρίς φόβο.
Συν-συγγραφείς καθηγητής φιλοσοφίας στο Πανεπιστήμιο του Μπάφαλο Μπάρι Σμιθ και Jobst Landgrebe, ιδρυτής της γερμανικής εταιρείας AI Cognotekt υποστηρίζουν ότι η ανθρώπινη νοημοσύνη δεν θα ξεπεραστεί από έναν «αθάνατο δικτάτορα» σύντομα — ή ποτέ. Αυτοι ειπαν Ψηφιακές Τάσεις τους λόγους τους.
Digital Trends (DT): Πώς βρέθηκε αυτό το θέμα στο ραντάρ σας;
Jobst Landgrebe (JL): Είμαι γιατρός και βιοχημικός από εκπαίδευση. Όταν ξεκίνησα την καριέρα μου, έκανα πειράματα που δημιούργησαν πολλά δεδομένα. Άρχισα να μελετώ τα μαθηματικά για να μπορώ να ερμηνεύσω αυτά τα δεδομένα και είδα πόσο δύσκολο είναι να μοντελοποιήσω βιολογικά συστήματα χρησιμοποιώντας μαθηματικά. Υπήρχε πάντα αυτή η αναντιστοιχία μεταξύ των μαθηματικών μεθόδων και των βιολογικών δεδομένων.
Στα μέσα των τριάντα μου, άφησα τον ακαδημαϊκό χώρο και έγινα σύμβουλος επιχειρήσεων και επιχειρηματίας που εργαζόταν σε συστήματα λογισμικού τεχνητής νοημοσύνης. Προσπαθούσα να δημιουργήσω συστήματα τεχνητής νοημοσύνης για να μιμηθούν αυτά που μπορούν να κάνουν τα ανθρώπινα όντα. Συνειδητοποίησα ότι αντιμετώπιζα το ίδιο πρόβλημα που είχα χρόνια πριν στη βιολογία.
Οι πελάτες μου είπαν, «γιατί δεν δημιουργείς chatbots;» Είπα, «επειδή δεν θα λειτουργήσουν. δεν μπορούμε να μοντελοποιήσουμε σωστά αυτόν τον τύπο συστήματος.» Αυτό με οδήγησε τελικά να γράψω αυτό το βιβλίο.
Καθηγητής Barry Smith (BS): Νόμιζα ότι ήταν ένα πολύ ενδιαφέρον πρόβλημα. Είχα ήδη εννοήσεις για παρόμοια προβλήματα με την τεχνητή νοημοσύνη, αλλά δεν τα είχα σκεφτεί ποτέ καλά. Αρχικά, γράψαμε μια εργασία με τίτλο «Δίνοντας ξανά νόημα στην τεχνητή νοημοσύνη.’ (Αυτό ήταν στην εποχή Τραμπ.) Αφορούσε γιατί τα νευρωνικά δίκτυα αποτυγχάνουν στη μοντελοποίηση γλώσσας. Στη συνέχεια αποφασίσαμε να επεκτείνουμε την εργασία σε ένα βιβλίο που διερευνά αυτό το θέμα πιο βαθιά.
DT: Το βιβλίο σας εκφράζει σκεπτικισμό για τον τρόπο με τον οποίο τα νευρωνικά δίκτυα, τα οποία είναι ζωτικής σημασίας για τη σύγχρονη βαθιά μάθηση, μιμούνται τον ανθρώπινο εγκέφαλο. Είναι προσεγγίσεις και όχι ακριβή μοντέλα για το πώς λειτουργεί ο βιολογικός εγκέφαλος. Αλλά αποδέχεστε την βασική προϋπόθεση ότι είναι πιθανό αυτό, εάν καταλάβαμε τον εγκέφαλο σε κόκκους αρκετή λεπτομέρεια, θα μπορούσε να αναπαραχθεί τεχνητά – και ότι αυτό θα οδηγούσε σε νοημοσύνη ή αισθητικότης?
JL: Το όνομα «νευρωνικό δίκτυο» είναι εντελώς εσφαλμένη ονομασία. Τα νευρωνικά δίκτυα που έχουμε τώρα, ακόμα και τα πιο εξελιγμένα, δεν έχουν καμία σχέση με τον τρόπο λειτουργίας του εγκεφάλου. Η άποψη ότι ο εγκέφαλος είναι ένα σύνολο διασυνδεδεμένων κόμβων με τον τρόπο που χτίζονται τα νευρωνικά δίκτυα είναι εντελώς αφελής.
Αν κοιτάξετε το πιο πρωτόγονο βακτηριακό κύτταρο, δεν καταλαβαίνουμε ακόμη πώς λειτουργεί. Κατανοούμε ορισμένες από τις πτυχές του, αλλά δεν έχουμε μοντέλο για το πώς λειτουργεί – πόσο μάλλον ένας νευρώνας, ο οποίος είναι πολύ πιο περίπλοκος, ή δισεκατομμύρια νευρώνες διασυνδεδεμένοι. Πιστεύω ότι είναι επιστημονικά αδύνατο για να κατανοήσουν πώς λειτουργεί ο εγκέφαλος. Μπορούμε να κατανοήσουμε μόνο ορισμένες πτυχές και να αντιμετωπίσουμε αυτές τις πτυχές. Δεν έχουμε, και δεν θα έχουμε, πλήρη κατανόηση του πώς λειτουργεί ο εγκέφαλος.
Αν είχαμε τέλεια κατανόηση του πώς λειτουργεί κάθε μόριο του εγκεφάλου, τότε πιθανότατα θα μπορούσαμε να το αντιγράψουμε. Αυτό θα σήμαινε να βάλουμε τα πάντα σε μαθηματικές εξισώσεις. Στη συνέχεια, θα μπορούσατε να το επαναλάβετε χρησιμοποιώντας έναν υπολογιστή. Το πρόβλημα είναι απλώς ότι δεν είμαστε σε θέση να γράψουμε και να δημιουργήσουμε αυτές τις εξισώσεις.
BS: Πολλά από τα πιο ενδιαφέροντα πράγματα στον κόσμο συμβαίνουν σε επίπεδα ευαισθησίας που δεν μπορούμε να προσεγγίσουμε. Απλώς δεν έχουμε τον εξοπλισμό απεικόνισης, και πιθανότατα δεν θα έχουμε ποτέ τον εξοπλισμό απεικόνισης, για να καταγράψουμε το μεγαλύτερο μέρος του τι συμβαίνει στα πολύ λεπτά επίπεδα του εγκεφάλου.
Αυτό σημαίνει ότι δεν γνωρίζουμε, για παράδειγμα, τι είναι υπεύθυνο για τη συνείδηση. Υπάρχουν, στην πραγματικότητα, μια σειρά από αρκετά ενδιαφέροντα φιλοσοφικά προβλήματα, τα οποία, σύμφωνα με τη μέθοδο που ακολουθούμε, θα είναι πάντα άλυτα – και επομένως θα πρέπει απλώς να τα αγνοούμε.
Ένα άλλο είναι η ελευθερία της θέλησης. Είμαστε πολύ υπέρ της ιδέας ότι τα ανθρώπινα όντα έχουν θέληση. μπορούμε να έχουμε προθέσεις, στόχους και ούτω καθεξής. Αλλά δεν ξέρουμε αν είναι ή όχι ελεύθερη βούληση. Αυτό είναι ένα θέμα που έχει να κάνει με τη φυσική του εγκεφάλου. Όσον αφορά τα στοιχεία που έχουμε στη διάθεσή μας, οι υπολογιστές δεν μπορούν να έχουν θέληση.
Δ.Τ.: Ο υπότιτλος του βιβλίου είναι «τεχνητή νοημοσύνη χωρίς φόβο». Ποιος είναι ο συγκεκριμένος φόβος στον οποίο αναφέρεστε;
BS: Αυτό προκλήθηκε από τη βιβλιογραφία για τη μοναδικότητα, την οποία γνωρίζω ότι γνωρίζετε. Ο Νικ Μπόστρομ, ο Ντέιβιντ Τσάλμερς, ο Έλον Μασκ και άλλοι. Όταν μιλήσαμε με τους συναδέλφους μας στον πραγματικό κόσμο, μας έγινε σαφές ότι όντως υπήρχε α βέβαιος φόβος μεταξύ του πληθυσμού ότι η τεχνητή νοημοσύνη τελικά θα κυριαρχούσε και θα άλλαζε τον κόσμο εις βάρος του του ανθρώπου.
Έχουμε πολλά στο βιβλίο για τα επιχειρήματα τύπου Bostrum. Το βασικό επιχείρημα εναντίον τους είναι ότι αν η μηχανή δεν μπορεί να έχει θέληση, τότε δεν μπορεί να έχει και κακή θέληση. Χωρίς μια κακή θέληση, δεν υπάρχει τίποτα να φοβηθείς. Τώρα, βέβαια, μπορούμε ακόμα να φοβόμαστε τις μηχανές, όπως μπορούμε να φοβόμαστε τα όπλα.
Αλλά αυτό συμβαίνει επειδή τα μηχανήματα διαχειρίζονται άνθρωποι με κακό σκοπό. Αλλά τότε δεν είναι το AI που είναι κακό. είναι οι άνθρωποι που κατασκευάζουν και προγραμματίζουν το AI
DT: Γιατί αυτή η έννοια της μοναδικότητας ή της τεχνητής γενικής νοημοσύνης ενδιαφέρει τόσο πολύ τους ανθρώπους; Είτε φοβούνται είτε γοητεύονται από αυτό, υπάρχει κάτι σε αυτή την ιδέα που έχει απήχηση στους ανθρώπους σε ευρύ επίπεδο.
JL: Υπάρχει αυτή η ιδέα, που ξεκίνησε στις αρχές του 19ου αιώνα και στη συνέχεια δήλωσε ο Νίτσε στα τέλη εκείνου του αιώνα, ότι ο Θεός είναι νεκρός. Εφόσον οι ελίτ της κοινωνίας μας δεν είναι πια Χριστιανοί, χρειάζονταν αντικατάσταση. Ο Μαξ Στίρνερ, ο οποίος ήταν, όπως ο Καρλ Μαρξ, μαθητής του Χέγκελ, έγραψε ένα βιβλίο σχετικά με αυτό, λέγοντας: «Είμαι ο θεός του εαυτού μου».
Αν είσαι Θεός, θέλεις να γίνεις και δημιουργός. Αν μπορούσες να δημιουργήσεις μια υπερευφυΐα τότε είσαι σαν τον Θεό. Νομίζω ότι έχει να κάνει με τις υπερναρκισσιστικές τάσεις στην κουλτούρα μας. Δεν μιλάμε για αυτό στο βιβλίο, αλλά αυτό μου εξηγεί γιατί αυτή η ιδέα είναι τόσο ελκυστική στην εποχή μας όπου δεν υπάρχει πια υπερβατική οντότητα για να στραφώ.
DT: Ενδιαφέρον. Επομένως, για να το ακολουθήσουμε, είναι η ιδέα ότι η δημιουργία της τεχνητής νοημοσύνης - ή ο στόχος για τη δημιουργία AI - είναι μια ναρκισσιστική πράξη. Σε αυτή την περίπτωση, η ιδέα ότι αυτές οι δημιουργίες θα γίνουν κατά κάποιο τρόπο πιο ισχυρές από εμάς είναι μια εφιαλτική ανατροπή σε αυτό. Είναι το παιδί που σκοτώνει τον γονιό.
JL: Κάπως έτσι, ναι.
DT: Ποιο θα ήταν για εσάς το τελικό αποτέλεσμα του βιβλίου σας αν όλοι πείθονταν από τα επιχειρήματά σας; Τι θα σήμαινε αυτό για το μέλλον της ανάπτυξης AI;
JL: Είναι μια πολύ καλή ερώτηση. Μπορώ να σας πω ακριβώς τι πιστεύω ότι θα συμβεί – και θα συμβεί. Νομίζω ότι στο μεσοπρόθεσμο οι άνθρωποι θα δεχτούν τα επιχειρήματά μας και αυτό θα δημιουργήσει καλύτερα εφαρμοσμένα μαθηματικά.
Κάτι που όλοι οι μεγάλοι μαθηματικοί και φυσικοί γνωρίζουν πλήρως ήταν οι περιορισμοί του τι μπορούσαν να επιτύχουν μαθηματικά. Επειδή το γνωρίζουν αυτό, εστιάζουν μόνο σε ορισμένα προβλήματα. Αν γνωρίζετε καλά τους περιορισμούς, τότε περνάτε από τον κόσμο και αναζητάτε αυτά τα προβλήματα και τα λύνετε. Έτσι βρήκε ο Αϊνστάιν τις εξισώσεις για την κίνηση Brown. πώς κατέληξε στις θεωρίες της σχετικότητας; πώς ο Planck έλυσε την ακτινοβολία του μαύρου σώματος και έτσι ξεκίνησε την κβαντική θεωρία της ύλης. Είχαν καλό ένστικτο για το ποια προβλήματα επιδέχονται λύσεις με τα μαθηματικά και ποια όχι.
Εάν οι άνθρωποι μάθουν το μήνυμα του βιβλίου μας, θα μπορέσουν, πιστεύουμε, να δημιουργήσουν καλύτερα συστήματα, γιατί αυτοί θα επικεντρωθεί σε αυτό που είναι πραγματικά εφικτό - και θα σταματήσει να σπαταλά χρήματα και προσπάθεια σε κάτι που δεν μπορεί να είναι επιτεύχθηκε.
BS: Νομίζω ότι ένα μέρος του μηνύματος έχει ήδη περάσει, όχι λόγω αυτού που λέμε αλλά λόγω του εμπειρίες που έχουν οι άνθρωποι όταν δίνουν μεγάλα χρηματικά ποσά σε έργα τεχνητής νοημοσύνης και στη συνέχεια τα έργα τεχνητής νοημοσύνης αποτυγχάνουν. Υποθέτω ότι γνωρίζετε για το Κοινό Κέντρο Τεχνητής Νοημοσύνης. Δεν μπορώ να θυμηθώ το ακριβές ποσό, αλλά νομίζω ότι ήταν περίπου 10 δισεκατομμύρια δολάρια, που έδωσαν σε έναν διάσημο εργολάβο. Τελικά δεν πήραν τίποτα από αυτό. Ακύρωσαν το συμβόλαιο.
(Σημείωση του συντάκτη: Η JAIC, μια υποδιαίρεση των Ενόπλων Δυνάμεων των Ηνωμένων Πολιτειών, είχε σκοπό να επιταχύνει την «παράδοση και υιοθέτηση της τεχνητής νοημοσύνης για την επίτευξη του αντίκτυπου της αποστολής σε κλίμακα." Διπλώθηκε σε έναν μεγαλύτερο ενοποιημένο οργανισμό, τον Chief Digital and Artificial Intelligence Officer, με δύο άλλα γραφεία τον Ιούνιο του τρέχοντος έτους. Η JAIC έπαψε να υπάρχει ως δική της οντότητα.)
DT: Ποιο πιστεύετε, με όρους υψηλού επιπέδου, είναι το μόνο πιο συναρπαστικό επιχείρημα που προβάλλετε στο βιβλίο;
BS: Κάθε σύστημα AI είναι μαθηματικού χαρακτήρα. Επειδή δεν μπορούμε να μοντελοποιήσουμε τη συνείδηση, τη θέληση ή τη νοημοσύνη μαθηματικά, αυτά δεν μπορούν να μιμηθούν χρησιμοποιώντας μηχανές. Επομένως, οι μηχανές δεν θα γίνουν έξυπνες, πόσο μάλλον υπερέξυπνες.
JL: Η δομή του εγκεφάλου μας επιτρέπει μόνο περιορισμένα μοντέλα της φύσης. Στη φυσική, επιλέγουμε ένα υποσύνολο της πραγματικότητας που ταιριάζει στις μαθηματικές μας δυνατότητες μοντελοποίησης. Έτσι απέκτησαν τα διάσημα και όμορφα μοντέλα τους ο Νιούτον, ο Μάξγουελ, ο Αϊνστάιν ή ο Σρέντινγκερ. Αλλά αυτά μπορούν να περιγράψουν ή να προβλέψουν μόνο ένα μικρό σύνολο συστημάτων. Τα καλύτερα μοντέλα μας είναι αυτά που χρησιμοποιούμε για την κατασκευή τεχνολογίας. Δεν είμαστε σε θέση να δημιουργήσουμε ένα πλήρες μαθηματικό μοντέλο έμψυχης φύσης.
Αυτή η συνέντευξη έχει επιμεληθεί για λόγους έκτασης και σαφήνειας.
Συστάσεις των συντακτών
- Οι κορυφαίοι συγγραφείς απαιτούν πληρωμή από εταιρείες τεχνητής νοημοσύνης για τη χρήση του έργου τους
- Το Bing Chat αντεπιτίθεται στις απαγορεύσεις τεχνητής νοημοσύνης στο χώρο εργασίας
- Το Google Bard μπορεί τώρα να μιλήσει, αλλά μπορεί να πνίξει το ChatGPT;
- Η νέα εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ στοχεύει να «κατανοήσει το σύμπαν»
- Η ανάπτυξη ρεκόρ του ChatGPT μόλις εκθρονίστηκε από μια νέα viral εφαρμογή
