რობოტებს შეუძლიათ ბავშვების ზეწოლის გაკონტროლება, მაგრამ ერთი წამითაც არ იფიქროთ, რომ ჩვენ იმუნიტეტი ვართ

ცნობილი სატელევიზიო შოუს სათაურის ოდნავ შესაცვლელად: ბავშვები აკეთებენ ყველაზე საშინელ საქმეებს. ცოტა ხნის წინ, მკვლევარებმა გერმანიიდან და დიდი ბრიტანეთიდან ჩაატარეს კვლევა, გამოქვეყნდა ჟურნალში მეცნიერება რობოტიკა, ამან აჩვენა, რამდენად მგრძნობიარეა ბავშვები რობოტების თანატოლების ზეწოლის მიმართ. TLDR ვერსია: პასუხი მშობლის ძველ კითხვაზე: „შენმა ყველა მეგობარმა რომ გითხრას კლდიდან გადახტომა, შენ?“ შეიძლება იყოს „რა თქმა უნდა. ყველა ჩემი მეგობარი რომ იყოს რობოტები.”

ტესტი განაახლეს 1951 წლის ცნობილ ექსპერიმენტს, რომლის პიონერად ჩატარდა პოლონელი ფსიქოლოგი სოლომონ აშ. ექსპერიმენტმა აჩვენა, თუ როგორ შეიძლება ადამიანებზე გავლენა მოახდინოს ჯგუფური აზროვნების ზეწოლაზე, მაშინაც კი, როდესაც ეს არ ეწინააღმდეგება იმ ინფორმაციას, რომელიც მათ იციან, რომ სწორია. ასშის ექსპერიმენტებში კოლეჯის სტუდენტების ჯგუფი შეიკრიბა და აჩვენეს ორი ბარათი. მარცხნივ ბარათზე გამოსახულია ერთი ვერტიკალური ხაზი. ბარათზე მარჯვნივ იყო გამოსახული სამი სხვადასხვა სიგრძის ხაზი. შემდეგ ექსპერიმენტატორმა მონაწილეებს ჰკითხა, მარჯვენა ბარათზე რომელი ხაზი ემთხვეოდა მარცხენა ბარათზე ნაჩვენები ხაზის სიგრძეს.

ჯერჯერობით, ასე პირდაპირ. თუმცა, იქ, სადაც ყველაფერი უფრო მზაკვრული გახდა, ჯგუფის შემადგენლობაში იყო. ჯგუფიდან მხოლოდ ერთი ადამიანი იყო ნამდვილი მონაწილე, დანარჩენები კი ყველა მსახიობები იყვნენ, რომლებსაც წინასწარ უთხრეს რა ეთქვათ. ექსპერიმენტი იყო იმის შესამოწმებლად, წავა თუ არა რეალური მონაწილე დანარჩენ ჯგუფთან ერთად, როდესაც ისინი ერთხმად გასცემდნენ არასწორ პასუხს. როგორც აღმოჩნდა, უმეტესობა ამას აკეთებდა. თანატოლების ზეწოლა ნიშნავს, რომ ადამიანების უმრავლესობა უარყოფს ინფორმაციას, რომელიც აშკარად სწორია, თუ ეს ნიშნავს უმრავლესობის მოსაზრებების შესაბამისობას.

ექსპერიმენტის 2018 წლის რემიქსში იგივე პრინციპი იქნა გამოყენებული - მხოლოდ კოლეჯის ასაკის თანატოლების ჯგუფის ნაცვლად, „ნამდვილი მონაწილე“ იყო ბავშვი, შვიდიდან ცხრა წლამდე. "მსახიობებს" სამი რობოტი თამაშობდა, რომლებიც დაპროგრამებული იყო არასწორი პასუხის გასაცემად. 43 მოხალისეთა ნიმუშში, ბავშვების 74 პროცენტმა გასცა იგივე არასწორი პასუხი, რაც რობოტებმა. შედეგები ვარაუდობს, რომ ამ ასაკის ბავშვების უმეტესობა რობოტების ზეწოლას ისევე ექცევა, როგორც მათი ხორციელი თანატოლების ზეწოლას.

”ბავშვების ამ ასაკობრივ დიაპაზონში განსაკუთრებული რამ არის ის, რომ ისინი ჯერ კიდევ იმ ასაკში არიან, როდესაც ისინი შეაჩერებენ ურწმუნოებას.” ტონი ბელპემი, ინტელექტუალური და ავტონომიური კონტროლის სისტემების პროფესორმა, რომელიც დაეხმარა კვლევის განხორციელებას, განუცხადა Digital Trends-ს. „ისინი ითამაშებენ სათამაშოებით და მაინც სჯერათ, რომ მათი სამოქმედო ფიგურები ან თოჯინები რეალურია; ისინი მაინც უყურებენ თოჯინების შოუს და ნამდვილად დაიჯერებენ, რაც ხდება; მათ შეიძლება ჯერ კიდევ სჯერათ [თოვლის ბაბუის]. იგივეა, როცა რობოტს უყურებენ: ელექტრონიკას და პლასტმასს კი არ ხედავენ, არამედ სოციალურ ხასიათს.

საინტერესოა, რომ ექსპერიმენტმა ეს დააპირისპირა უფროსების პასუხთან. ბავშვებისგან განსხვავებით, მოზარდები რობოტების შეცდომებმა არ იმოქმედა. ”როდესაც ზრდასრულმა დაინახა, რომ რობოტი არასწორ პასუხს იძლეოდა, მათ გაკვირვებული შეხედეს და შემდეგ სწორი პასუხი გასცეს”, - განაგრძო ბელპემემ.

მერე სანერვიულო არაფერია? სანამ ბავშვებს შევაჩერებთ რობოტებზე, რომლებიც დაპროგრამებულნი არიან ცუდი პასუხის გასაცემად, ყველაფერი კარგად უნდა იყოს, არა? ნუ იქნები ასე სწრაფი.

მართლა ასე უფრო ჭკვიანები არიან მოზარდები?

როგორც ბელპემემ აღიარა, ეს ამოცანა იმდენად მარტივი იყო, რომ არ იყო გაურკვეველი პასუხის შესახებ. რეალური სამყარო განსხვავებულია. როდესაც ჩვენ ვფიქრობთ მანქანებზე ადვილად გადაცემული სამუშაოების შესახებ, ეს არის ხშირად ამოცანები, რომლებიც ჩვენ, როგორც ადამიანებს, ყოველთვის არ შეგვიძლია სრულყოფილად შესრულება.

შესაძლოა, ამოცანა წარმოუდგენლად მარტივია, მაგრამ მანქანას შეუძლია მისი შესრულება ბევრად უფრო სწრაფად, ვიდრე ჩვენ შეგვიძლია. ან ეს შეიძლება იყოს უფრო რთული ამოცანა, რომელშიც კომპიუტერს აქვს წვდომა გაცილებით მეტ მონაცემზე, ვიდრე ჩვენ. სამუშაოს პოტენციური ზემოქმედებიდან გამომდინარე, გასაკვირი არ არის, რომ ბევრი ჩვენგანი უკმაყოფილო იქნება მანქანის გამოსწორებით.

მოხარული იქნება თუ არა საავადმყოფოში ექთანი მისი გადალახვით FDA-ს მიერ დამტკიცებული ალგორითმი რა შეიძლება დაეხმაროს პაციენტის ჯანმრთელობის პრიორიტეტიზაციას სასიცოცხლო მნიშვნელობის ნიშნების მონიტორინგით და შემდეგ სამედიცინო პერსონალისთვის გაფრთხილებების გაგზავნით? ან მძღოლს კომფორტულად აეღო საჭე უმართავი მანქანიდან განსაკუთრებით რთული გზის სცენართან დაკავშირებით? ან თუნდაც პილოტი არღვევს ავტოპილოტს, რადგან ფიქრობენ, რომ არასწორი გადაწყვეტილება მიიღება? ყველა ამ შემთხვევაში, გვსურს ვიფიქროთ, რომ პასუხი არის „დიახ“. თუმცა, ყველა სახის მიზეზის გამო, ეს შეიძლება არ იყოს რეალობა.

ამის შესახებ ნიკოლას კარი წერს თავის 2014 წლის წიგნში შუშის გალია: სადაც ავტომატიზაცია მიგვიყვანს. მისი აღწერის გზა ხაზს უსვამს იმ გაურკვევლობას, რომელსაც მოიცავს ავტომატიზაციის რეალური შემთხვევები, სადაც პრობლემებია. ბევრად უფრო რთული ვიდრე ბარათზე ხაზის სიგრძე, მანქანები ბევრად უფრო ჭკვიანია და შედეგი პოტენციურად მეტია გადამწყვეტი.

„როგორ აფასებთ ძალისხმევისა და ჩართულობის ეროზიის ხარჯს, ან უფლებამოსილების და ავტონომიის დაქვეითებას, ან უნარების დახვეწილ გაუარესებას? არ შეგიძლია, - წერს ის. ”ეს არის ისეთი ჩრდილოვანი, არამატერიალური საგნები, რომლებსაც ჩვენ იშვიათად ვაფასებთ სანამ არ გაქრება, და მაშინაც კი, ჩვენ შეიძლება გაგვიჭირდეს ზარალის კონკრეტულად გამოხატვა.”

სოციალური რობოტები ისეთი ტიპის სოციალური რობოტები, რომლებზეც ბელპემემ თეორიას ამტკიცებს კვლევით ნაშრომში, ჯერ კიდევ არ არის მთავარი, მაგრამ უკვე არსებობს ამ თავსატეხების ზოგიერთი ილუსტრაცია მოქმედებაში. მაგალითად, კარი ხსნის თავის წიგნს ფედერალური საავიაციო ადმინისტრაციის მემორანდუმის მოხსენიებით, რომელშიც აღნიშნულია, თუ როგორ უნდა გაატარონ მფრინავები ნაკლები დრო ავტოპილოტზე ფრენაზე რისკების გამო. ეს ეყრდნობოდა ავარიის მონაცემების ანალიზს, რაც აჩვენებს, რომ პილოტები ხშირად ძალიან დიდად ეყრდნობიან კომპიუტერიზებულ სისტემებს.

მსგავს საქმეს ეხებოდა 2009 წლის სასამართლო პროცესი, რომელშიც ქალი, სახელად ლორენ როზენბერგი შეიტანა სარჩელი Google-ის წინააღმდეგ მას შემდეგ, რაც მას ურჩიეს სიარული მარშრუტის გასწვრივ, რომელიც მიემართებოდა სახიფათო მოძრაობაში. მიუხედავად იმისა, რომ საქმე სასამართლოდან იქნა გადაყრილი, ეს აჩვენებს, რომ ადამიანები არღვევენ საკუთარ საღ აზრს იმ რწმენით, რომ მანქანურ დაზვერვას ჩვენზე მეტი ინტელექტი აქვს.

ყველა გემზე არის ჩაძირული გემი

საბოლოო ჯამში, როგორც Belpaeme აღიარებს, საკითხი ისაა, რომ ზოგჯერ ჩვენ გვინდა გადაწყვეტილების მიღება მანქანებს გადავცეთ. რობოტები გპირდებით, რომ შეასრულებთ მოსაწყენ, ბინძურ და სახიფათო საქმეებს - და თუ ჩვენ მოგვიწევს ყოველი გადაწყვეტილების გამოცნობა, ისინი ნამდვილად არ არიან შრომის დამზოგავი მოწყობილობები, რომლებსაც დაპირდნენ. თუ ჩვენ ვაპირებთ საბოლოოდ მოვიწვიოთ რობოტები ჩვენს სახლში, ჩვენ გვინდა, რომ მათ შეძლონ დამოუკიდებლად იმოქმედონ და ეს მოიცავს ნდობის გარკვეულ დონეს.

„რობოტები, რომლებიც თქვენზე სოციალურ ზეწოლას ახდენენ, შეიძლება კარგი იყოს; ეს არ უნდა იყოს ბოროტი, - განაგრძო ბელპემემ. ”თუ თქვენ გაქვთ რობოტები, რომლებიც გამოიყენება ჯანდაცვისა და განათლების სფეროში, გინდათ მათ შეეძლოთ თქვენზე გავლენის მოხდენა. მაგალითად, თუ გსურთ წონაში დაკლება, შეგიძლიათ მოგცეთ წონის დაკლების რობოტი ორი თვის განმავლობაში მონიტორები თქვენი კალორიების მიღებას და გიბიძგებთ მეტი ვარჯიშისკენ. გსურთ, რომ ასეთი რობოტი იყოს დამაჯერებელი და თქვენზე გავლენა მოახდინოს. მაგრამ ნებისმიერი ტექნოლოგია, რომელიც შეიძლება გამოყენებულ იქნას სიკეთისთვის, შეიძლება გამოყენებულ იქნას ბოროტებისთვისაც“.

რა არის ამაზე პასუხი? ასეთი კითხვები განიხილება თითოეულ შემთხვევაში. თუ ცუდი საბოლოოდ გადაწონის კარგს, ტექნოლოგია, როგორიცაა სოციალური რობოტები, ვერასოდეს გაივლის. მაგრამ მნიშვნელოვანია, რომ სწორი გაკვეთილები მივიღოთ ისეთი კვლევებიდან, როგორიცაა რობოტების მიერ გამოწვეული თანატოლების ზეწოლის შესახებ. და ეს არ არის ის ფაქტი, რომ ჩვენ ბავშვებზე ბევრად ჭკვიანები ვართ.

რედაქტორების რეკომენდაციები

• ავტომატიზაციის მომავალი: რობოტები მოდიან, მაგრამ ისინი არ აიღებენ თქვენს სამუშაოს
• ეს რობოტები ანადგურებენ სარეველებს, რათა ფერმერებს არ დასჭირდეთ ქიმიური ჰერბიციდები