უწოდეთ მას სკაინეტის ჰიპოთეზა, ხელოვნური ზოგადი ინტელექტი ან სინგულარობის გამოჩენა - წლების განმავლობაში, ხელოვნური ინტელექტის ექსპერტები და არაექსპერტებს ერთნაირად აწუხებდნენ (და, მცირე ჯგუფისთვის, აღნიშნეს) იდეა, რომ ხელოვნური ინტელექტი შეიძლება ერთ დღეს უფრო ჭკვიანი გახდეს ვიდრე ადამიანები.
თეორიის თანახმად, წინსვლა AI–ში – კონკრეტულად მანქანათმცოდნეობის ტიპისაა, რომელსაც შეუძლია ახლის მიღება ინფორმაცია და შესაბამისად გადაწერე მისი კოდი — საბოლოოდ მიაღწევს ბიოლოგიურ ქსელს ტვინი. მოვლენების ამ ინტერპრეტაციაში, ყოველი AI წინ მიიწევს საფრთხე-გამარჯვებული IBM მანქანები მასიური AI ენის მოდელი GPT-3 კაცობრიობას ერთი ნაბიჯით უახლოვდება ეგზისტენციალურ საფრთხესთან. ჩვენ ფაქტიურად ვაშენებთ ჩვენს მალე გონიერი მემკვიდრეები.
რეკომენდებული ვიდეოები
გარდა იმისა, რომ ეს არასდროს მოხდება. ყოველ შემთხვევაში, ახალი წიგნის ავტორების აზრით რატომ ვერასდროს მართავენ მანქანები მსოფლიოს: ხელოვნური ინტელექტი შიშის გარეშე.
თანაავტორები ბუფალოს უნივერსიტეტის ფილოსოფიის პროფესორი ბარი სმიტი და Jobst Landgrebeგერმანული ხელოვნური ინტელექტის კომპანია Cognotekt-ის დამფუძნებელი ამტკიცებს, რომ ადამიანურ ინტელექტს „უკვდავი დიქტატორი“ არც მალე და არც ოდესმე, არ გადალახავს. უთხრეს
ციფრული ტენდენციები მათი მიზეზები.
ციფრული ტენდენციები (DT): როგორ მოხვდა ეს თემა თქვენს რადარში?
Jobst Landgrebe (JL): მე ვარ ექიმი და ბიოქიმიკოსი ტრენინგით. როდესაც დავიწყე ჩემი კარიერა, ჩავატარე ექსპერიმენტები, რომლებმაც ბევრი მონაცემი გამოიმუშავეს. დავიწყე მათემატიკის შესწავლა, რომ შემეძლოს ამ მონაცემების ინტერპრეტაცია და დავინახე, რამდენად რთულია ბიოლოგიური სისტემების მოდელირება მათემატიკის გამოყენებით. ყოველთვის იყო ეს შეუსაბამობა მათემატიკურ მეთოდებსა და ბიოლოგიურ მონაცემებს შორის.
ოცდაათიანი წლების შუა ხანებში დავტოვე აკადემია და გავხდი ბიზნეს კონსულტანტი და მეწარმე, რომელიც მუშაობდა ხელოვნური ინტელექტის პროგრამულ სისტემებში. მე ვცდილობდი შემექმნა ხელოვნური ინტელექტის სისტემები, რათა მიბაძავდი იმას, რისი გაკეთებაც ადამიანებს შეუძლიათ. მივხვდი, რომ იგივე პრობლემა მქონდა, რაც წლების წინ მქონდა ბიოლოგიაში.
მომხმარებლებმა მითხრეს, „რატომ არ აშენებ ჩეთბოტებს?“ მე ვუთხარი, „რადგან ისინი არ იმუშავებენ; ჩვენ არ შეგვიძლია ამ ტიპის სისტემის სწორად მოდელირება.“ ამან საბოლოოდ განაპირობა მე დავწერე ეს წიგნი.
პროფესორი ბარი სმიტი (BS): ვფიქრობდი, რომ ეს ძალიან საინტერესო პრობლემა იყო. მე უკვე მქონდა მსგავსი პრობლემები AI-სთან დაკავშირებით, მაგრამ არასდროს მიფიქრია მათზე. თავდაპირველად ჩვენ დავწერეთ ნაშრომი ე.წ.ხელოვნური ინტელექტის კიდევ ერთხელ მნიშვნელოვნება.’ (ეს იყო ტრამპის ეპოქაში.) ეს იყო იმის შესახებ, თუ რატომ ვერ ხერხდება ნერვული ქსელები ენის მოდელირებაში. შემდეგ გადავწყვიტეთ ნაშრომი გაგვეფართოებინა წიგნად, რომელიც ამ საკითხს უფრო ღრმად იკვლევდა.
DT: თქვენი წიგნი გამოხატავს სკეპტიციზმს იმის შესახებ, თუ როგორ ხდება ნერვული ქსელები, რომლებიც გადამწყვეტია თანამედროვე ღრმა სწავლისთვის, ამსგავსებენ ადამიანის ტვინს. ისინი მიახლოებებია და არა ზუსტი მოდელები იმისა, თუ როგორ მუშაობს ბიოლოგიური ტვინი. მაგრამ ეთანხმებით თუ არა ძირითად წინაპირობას, რომ ეს შესაძლებელია, თუ ჩვენ გვესმოდა ტვინი მარცვლებში საკმარისი დეტალი, ის შეიძლება ხელოვნურად განმეორდეს - და ეს გამოიწვევს ინტელექტს ან გრძნობა?
JL: სახელი "ნერვული ქსელი" არის სრული მცდარი ტერმინი. ნეირონული ქსელები, რომლებიც ახლა გვაქვს, თუნდაც ყველაზე დახვეწილი, საერთო არ აქვს ტვინის მუშაობასთან. მოსაზრება, რომ ტვინი არის ურთიერთდაკავშირებული კვანძების ერთობლიობა ნერვული ქსელების აგების გზით, სრულიად გულუბრყვილოა.
თუ გადავხედავთ ყველაზე პრიმიტიულ ბაქტერიულ უჯრედს, ჩვენ ჯერ კიდევ არ გვესმის, როგორ მუშაობს იგი. ჩვენ გვესმის მისი ზოგიერთი ასპექტი, მაგრამ ჩვენ არ გვაქვს მოდელი, თუ როგორ მუშაობს იგი - რომ აღარაფერი ვთქვათ ნეირონი, რომელიც ბევრად უფრო რთულია, ან მილიარდობით ნეირონი ერთმანეთთან დაკავშირებული. მე მჯერა, რომ ეს მეცნიერულად არის შეუძლებელია იმის გაგება, თუ როგორ მუშაობს ტვინი. ჩვენ შეგვიძლია მხოლოდ გარკვეული ასპექტების გაგება და ამ ასპექტებთან გამკლავება. ჩვენ არ გვაქვს და არ მივიღებთ სრულყოფილ გაგებას, თუ როგორ მუშაობს ტვინი.
ჩვენ რომ მშვენივრად გვესმოდეს, თუ როგორ მუშაობს ტვინის თითოეული მოლეკულა, მაშინ შეგვეძლო მისი გამეორება. ეს ნიშნავს ყველაფრის მათემატიკურ განტოლებებს. ამის შემდეგ შეგიძლიათ ამის გამეორება კომპიუტერის გამოყენებით. პრობლემა მხოლოდ ისაა, რომ ჩვენ ვერ ვახერხებთ ამ განტოლებების ჩამოწერას და შექმნას.
BS: ბევრი ყველაზე საინტერესო რამ მსოფლიოში ხდება იმ დონეზე, რომელსაც ჩვენ ვერ მივუდგებით. ჩვენ უბრალოდ არ გვაქვს გამოსახულების მოწყობილობა და, ალბათ, არასდროს გვექნება გამოსახულების აპარატურა, რათა აღვბეჭდოთ უმეტესი ნაწილი, რაც ხდება ტვინის ძალიან კარგ დონეზე.
ეს ნიშნავს, რომ ჩვენ არ ვიცით, მაგალითად, რა არის პასუხისმგებელი ცნობიერებაზე. ფაქტობრივად, არსებობს საკმაოდ საინტერესო ფილოსოფიური პრობლემების სერია, რომლებიც, იმ მეთოდის მიხედვით, რომელსაც ჩვენ მივყვებით, ყოველთვის გადაუჭრელი იქნება - და ამიტომ უბრალოდ უნდა უგულებელვყოთ ისინი.
სხვა არის ნების თავისუფლება. ჩვენ ძალიან მტკიცედ ვართ მომხრე იმ აზრს, რომ ადამიანებს აქვთ ნება; ჩვენ შეგვიძლია გვქონდეს განზრახვები, მიზნები და ა.შ. მაგრამ ჩვენ არ ვიცით არის თუ არა ეს თავისუფალი ნება. ეს არის საკითხი, რომელიც დაკავშირებულია ტვინის ფიზიკასთან. რაც შეეხება ჩვენს ხელთ არსებულ მტკიცებულებებს, კომპიუტერებს არ შეუძლიათ ნებისყოფა.
DT: წიგნის ქვესათაურია „ხელოვნური ინტელექტი შიშის გარეშე“. რა არის კონკრეტული შიში, რომელსაც თქვენ მიუთითებთ?
BS: ეს პროვოცირებული იყო სინგულარობის შესახებ ლიტერატურამ, რომელიც ვიცი, რომ თქვენ იცნობთ. ნიკ ბოსტრომი, დევიდ ჩალმერსი, ილონ მასკი და სხვები. როდესაც რეალურ სამყაროში ვესაუბრეთ ჩვენს კოლეგებს, ჩვენთვის ნათელი გახდა, რომ მართლაც იყო ა მოსახლეობაში გარკვეული შიში იმისა, რომ ხელოვნური ინტელექტი საბოლოოდ აიღებს ხელში და შეცვლიდა სამყაროს საზიანოდ ადამიანები.
წიგნში საკმაოდ ბევრი გვაქვს ბოსტრუმის ტიპის არგუმენტების შესახებ. ძირითადი არგუმენტი მათ წინააღმდეგ არის ის, რომ თუ მანქანას არ შეუძლია ჰქონდეს ნება, მაშინ მას ასევე არ შეიძლება ჰქონდეს ბოროტი ნება. ბოროტი ნების გარეშე, არაფრის გეშინია. ახლა, რა თქმა უნდა, ჩვენ კვლავ შეგვიძლია გვეშინოდეს მანქანების, ისევე როგორც ჩვენ შეგვიძლია გვეშინოდეს იარაღის.
მაგრამ ეს იმიტომ ხდება, რომ მანქანებს მართავენ ბოროტი მიზნების მქონე ადამიანები. მაგრამ მაშინ ეს არ არის ხელოვნური ინტელექტი, რომელიც ბოროტია; ეს არის ხალხი, ვინც აშენებს და პროგრამირებს AI-ს
DT: რატომ აინტერესებს ეს ცნება სინგულარობის ან ხელოვნური ზოგადი ინტელექტის შესახებ ასე ძალიან? ეშინიათ თუ არა ამით მოხიბლული, ამ იდეაში არის რაღაც, რაც ფართო დონეზე ასახავს ადამიანებს.
JL: არის ეს იდეა, რომელიც მე-19 საუკუნის დასაწყისში დაიწყო და შემდეგ ამ საუკუნის ბოლოს ნიცშემ გამოაცხადა, რომ ღმერთი მოკვდა. ვინაიდან ჩვენი საზოგადოების ელიტა აღარ არის ქრისტიანი, მათ ჩანაცვლება სჭირდებოდათ. მაქს შტირნერმა, რომელიც, ისევე როგორც კარლ მარქსი, ჰეგელის მოსწავლე იყო, დაწერა წიგნი ამის შესახებ, სადაც თქვა: „მე ვარ ჩემი ღმერთი“.
თუ ღმერთი ხარ, შენც გინდა იყო შემოქმედი. თუ სუპერინტელექტის შექმნა შეგიძლია, მაშინ ღმერთს ჰგავხარ. ვფიქრობ, ეს დაკავშირებულია ჩვენს კულტურაში არსებულ ჰიპერ-ნარცისულ ტენდენციებთან. ჩვენ არ ვსაუბრობთ ამაზე წიგნში, მაგრამ ეს ხსნის ჩემთვის, თუ რატომ არის ეს იდეა ასე მიმზიდველი ჩვენს დროში, სადაც აღარ არსებობს ტრანსცენდენტული არსება, რომ მივმართო.
DT: საინტერესოა. ასე რომ, ამის შემდეგ, ეს არის იდეა, რომ ხელოვნური ინტელექტის შექმნა - ან AI-ს შექმნის მიზანი - ნარცისული აქტია. ამ შემთხვევაში, კონცეფცია, რომ ეს ქმნილებები როგორღაც ჩვენზე უფრო ძლიერი გახდებიან, არის კოშმარული გადახვევა ამის შესახებ. ეს ბავშვი კლავს მშობელს.
JL: ცოტა ასე, კი.
DT: რა იქნებოდა თქვენთვის თქვენი წიგნის საბოლოო შედეგი, თუ ყველა დარწმუნებული იყო თქვენი არგუმენტებით? რას ნიშნავს ეს AI განვითარების მომავალზე?
JL: ძალიან კარგი კითხვაა. მე შემიძლია გითხრათ ზუსტად ის, რაც მე ვფიქრობ, რომ მოხდებოდა - და მოხდება. ვფიქრობ, შუალედური პერიოდის განმავლობაში ხალხი მიიღებს ჩვენს არგუმენტებს და ეს შექმნის უკეთეს მათემატიკას.
ის, რაც ყველა დიდმა მათემატიკოსმა და ფიზიკოსმა იცის, იყო შეზღუდვები იმისა, რისი მიღწევაც შეეძლოთ მათემატიკურად. რადგან მათ ეს იციან, ყურადღებას ამახვილებენ მხოლოდ გარკვეულ პრობლემებზე. თუ კარგად იცნობთ შეზღუდვებს, მაშინ გაივლით სამყაროს და ეძებთ ამ პრობლემებს და გადაჭრით მათ. ასე იპოვა აინშტაინმა ბრაუნის მოძრაობის განტოლებები; როგორ მოიფიქრა მან ფარდობითობის თეორიები; როგორ ამოხსნა პლანკმა შავი სხეულის გამოსხივება და ამით წამოიწყო მატერიის კვანტური თეორია. მათ ჰქონდათ კარგი ინსტინქტი, თუ რომელი ამოცანები ემორჩილება მათემატიკით ამოხსნას და რომელი არა.
თუ ხალხი გაიგებს ჩვენი წიგნის გზავნილს, ისინი, ჩვენ გვჯერა, შეძლებენ უკეთესი სისტემების შემუშავებას, რადგან ისინი კონცენტრირდება იმაზე, რაც ნამდვილად შესაძლებელია - და შეაჩერებს ფულის და ძალისხმევის ხარჯვას ისეთ რამეზე, რაც არ შეიძლება მიღწეული.
BS: მე ვფიქრობ, რომ ზოგიერთი მესიჯი უკვე გადის, არა იმის გამო, რასაც ჩვენ ვამბობთ, არამედ იმის გამო ადამიანების გამოცდილება, როდესაც ისინი დიდ თანხებს აძლევენ AI პროექტებს და შემდეგ AI პროექტები მარცხდება. ვფიქრობ, თქვენ იცით ერთობლივი ხელოვნური ინტელექტის ცენტრის შესახებ. ზუსტი თანხა არ მახსოვს, მაგრამ ვფიქრობ, ეს იყო დაახლოებით 10 მილიარდი დოლარი, რომელიც მათ ცნობილ კონტრაქტორს მისცეს. საბოლოოდ მათ არაფერი გამოუვიდათ. მათ კონტრაქტი გააუქმეს.
(რედაქტორის შენიშვნა: JAIC, შეერთებული შტატების შეიარაღებული ძალების ქვედანაყოფი, მიზნად ისახავდა დაეჩქარებინა AI-ის მიწოდება და მიღება მისიის გავლენის მისაღწევად მასშტაბით.” მიმდინარე წლის ივნისში, იგი დაიშალა უფრო დიდ ერთიან ორგანიზაციად, ციფრული და ხელოვნური ინტელექტის მთავარი ოფიცერი, ორ სხვა ოფისთან ერთად. JAIC-მა შეწყვიტა არსებობა, როგორც საკუთარი ერთეული.)
DT: როგორ ფიქრობთ, მაღალი დონის თვალსაზრისით, რა არის ყველაზე დამაჯერებელი არგუმენტი, რომელსაც წიგნში ამტკიცებთ?
BS: ყველა AI სისტემა მათემატიკური ხასიათისაა. იმის გამო, რომ ჩვენ არ შეგვიძლია ცნობიერების, ნების ან ინტელექტის მოდელირება მათემატიკურად, მათი ემულაცია შეუძლებელია მანქანების გამოყენებით. აქედან გამომდინარე, მანქანები არ გახდებიან ინტელექტუალური, რომ აღარაფერი ვთქვათ სუპერინტელექტუალური.
JL: ჩვენი ტვინის სტრუქტურა მხოლოდ ბუნების შეზღუდული მოდელების საშუალებას იძლევა. ფიზიკაში ჩვენ ვირჩევთ რეალობის ქვეჯგუფს, რომელიც შეესაბამება ჩვენს მათემატიკური მოდელირების შესაძლებლობებს. ასე მიიღეს ნიუტონმა, მაქსველმა, აინშტაინმა ან შრედინგერმა თავიანთი ცნობილი და ლამაზი მოდელები. მაგრამ მათ შეუძლიათ მხოლოდ სისტემის მცირე ნაკრების აღწერა ან პროგნოზირება. ჩვენი საუკეთესო მოდელებია ის მოდელები, რომლებსაც ვიყენებთ ტექნოლოგიის ინჟინერიისთვის. ჩვენ არ შეგვიძლია შევქმნათ ანიმაციური ბუნების სრული მათემატიკური მოდელი.
ეს ინტერვიუ რედაქტირებულია სიგრძისა და სიცხადისთვის.
რედაქტორების რეკომენდაციები
- საუკეთესო ავტორები ითხოვენ ანაზღაურებას ხელოვნური ინტელექტის ფირმებისგან მათი ნამუშევრის გამოყენებისთვის
- Bing Chat ებრძვის AI-ის სამუშაო ადგილზე აკრძალვებს
- Google Bard-ს ახლა შეუძლია ლაპარაკი, მაგრამ შეუძლია თუ არა მას ჩაახშოს ChatGPT?
- ელონ მასკის ახალი AI კომპანია მიზნად ისახავს "სამყაროს გაგებას"
- ChatGPT-ის რეკორდული ზრდა ახლახან ჩამოაგდეს ახალმა ვირუსულმა აპლიკაციამ
