გენერაციული AI ბოლო თვეებში წარმოუდგენელი სიჩქარით მოძრაობს, სხვადასხვა ხელსაწყოებისა და ბოტების გამოშვებით, როგორიცაა OpenAI-ის ChatGPT, Google Bard, და მეტი. მიუხედავად ამისა, ეს სწრაფი განვითარება სერიოზულ შეშფოთებას იწვევს ხელოვნური ინტელექტის სფეროში გამოცდილი ვეტერანებში - ასე რომ მათგან 1000-ზე მეტმა ხელი მოაწერა ღია წერილს, რომელიც AI დეველოპერებს მოუწოდებს, გააკრიტიკონ მუხრუჭები.
წერილი ორგანიზაციის ვებგვერდზე გამოქვეყნდა სიცოცხლის მომავლის ინსტიტუტიორგანიზაცია, რომლის მისია არის „ტრანსფორმაციული ტექნოლოგიების წარმართვა სიცოცხლის სარგებლობისკენ და უკიდურესი მასშტაბური რისკებისგან თავის დაღწევისკენ“. მათ შორის ხელმომწერები არიან რამდენიმე ცნობილი აკადემიკოსი და ტექნიკური ლიდერი, მათ შორის Apple-ის თანადამფუძნებელი სტივ ვოზნიაკი, Twitter-ის აღმასრულებელი დირექტორი ელონ მასკი და პოლიტიკოსი ენდრიუ. იანგ.
რეკომენდებული ვიდეოები
სტატია მოუწოდებს ყველა კომპანიას, რომელიც მუშაობს ხელოვნური ინტელექტის მოდელებზე, რომლებიც უფრო მძლავრია ახლახან გამოუშვა GPT-4 დაუყოვნებლივ შეწყვიტოს მუშაობა მინიმუმ ექვსი თვით. ეს მორატორიუმი უნდა იყოს „საჯარო და შემოწმებადი“ და მისცემდა დროს „ერთად განვავითაროთ და განვახორციელოთ საერთო უსაფრთხოების პროტოკოლები მოწინავე ხელოვნური ინტელექტის დიზაინისა და განვითარებისთვის, რომლებიც მკაცრად შემოწმდება და კონტროლდება დამოუკიდებელი გარედან ექსპერტები.”
დაკავშირებული
- ChatGPT-ის შემქმნელი OpenAI-ის წინაშე დგას FTC გამოძიება მომხმარებელთა დაცვის კანონების გამო
- ChatGPT-ის Bing-ის დათვალიერების ფუნქცია გამორთულია paywall-ზე წვდომის ხარვეზის გამო
- Apple-ის ChatGPT კონკურენტმა შეიძლება ავტომატურად დაგიწეროთ კოდი
წერილში ნათქვამია, რომ ეს აუცილებელია, რადგან „ადამიანის კონკურენტუნარიანი ინტელექტის მქონე ხელოვნური ინტელექტის სისტემებმა შეიძლება სერიოზული საფრთხე შეუქმნას საზოგადოებას და კაცობრიობას“. იმათ რისკები მოიცავს პროპაგანდის გავრცელებას, სამუშაო ადგილების განადგურებას, ადამიანის სიცოცხლის პოტენციურ ჩანაცვლებას და მოძველებას და „კონტროლის დაკარგვას“. ჩვენი ცივილიზაციის“. ავტორები დასძენს, რომ გადაწყვეტილება იმის შესახებ, წინ წავიწიოთ თუ არა ამ მომავალში, არ უნდა დარჩეს „არარჩეულ ტექ ლიდერები.”
ხელოვნური ინტელექტი "ყველას აშკარა სარგებლობისთვის"
წერილი მოვიდა მას შემდეგ, რაც გავრცელდა პრეტენზია, რომ GPT-5, ChatGPT-ის ტექნიკური მხარდაჭერის შემდეგი ვერსია, შეეძლო ხელოვნური ზოგადი ინტელექტის მიღწევა. თუ ეს სწორია, ეს ნიშნავს, რომ მას შეუძლია გაიგოს და ისწავლოს ყველაფერი, რაც ადამიანს შეუძლია. ამან შეიძლება ის წარმოუდგენლად ძლიერი გახადოს ისეთი გზებით, რომლებიც ჯერ ბოლომდე არ არის გამოკვლეული.
უფრო მეტიც, წერილში ნათქვამია, რომ AI სისტემების განვითარების გარშემო პასუხისმგებელი დაგეგმვა და მართვა არ ხდება, „მიუხედავად იმისა, რომ ბოლო თვეებში AI ლაბორატორიები ჩაკეტილნი არიან უკონტროლო რბოლაში, რათა განავითარონ და განათავსონ უფრო ძლიერი ციფრული გონება, რომლის გაგება, პროგნოზირება ან საიმედოდ ვერავინ - მათი შემქმნელებიც კი ვერ შეძლებს კონტროლი.”
ამის ნაცვლად, წერილში ნათქვამია, რომ ახალი მმართველობის სისტემები უნდა შეიქმნას, რომელიც დაარეგულირებს ხელოვნური ინტელექტის განვითარებას, დაეხმარება ადამიანებს განასხვავონ ხელოვნური ინტელექტი შექმნილი და ადამიანის მიერ შექმნილი კონტენტი, აკისრებს AI ლაბორატორიებს, როგორიცაა OpenAI, პასუხისმგებელნი ნებისმიერი ზიანის გამო, რაც მათ მიაწვდიან, საშუალებას აძლევს საზოგადოებას გაუმკლავდეს ხელოვნური ინტელექტის დარღვევას (განსაკუთრებით დემოკრატიას), და მეტი.
ავტორები ასრულებენ პოზიტიურ ნოტას და აცხადებენ, რომ „კაცობრიობას შეუძლია ისარგებლოს აყვავებული მომავლით AI-ით… რომელშიც ჩვენ მივიღებთ ჯილდოებს, შექმენით ეს სისტემები ყველასათვის აშკარა სარგებლობისთვის და მიეცით საზოგადოებას ადაპტაციის შანსი. ” AI სისტემებზე პაუზის დარტყმა უფრო ძლიერია ვიდრე GPT-4 ამის საშუალებას მისცემს, აცხადებენ ისინი.
ექნება თუ არა წერილს დასახული ეფექტი? ამის თქმა ძნელია. აშკარაა, რომ OpenAI-ს აქვს სტიმული, გააგრძელოს მუშაობა მოწინავე მოდელებზე, როგორც ფინანსურ, ასევე რეპუტაციაზე. მაგრამ ამდენი პოტენციური რისკის გამო - და მათი ძალიან მცირე გაგებით - წერილის ავტორები აშკარად გრძნობენ, რომ ეს სტიმული ძალიან საშიშია.
რედაქტორების რეკომენდაციები
- Google Bard-ს ახლა შეუძლია ლაპარაკი, მაგრამ შეუძლია თუ არა მას ჩაახშოს ChatGPT?
- ChatGPT ვებსაიტის ტრაფიკი პირველად დაეცა
- 81% ფიქრობს, რომ ChatGPT არის უსაფრთხოების რისკი, გამოკითხვის თანახმად
- მე ვასწავლიდი ChatGPT-ს, რომ მესწავლებინა სამაგიდო თამაშები და ახლა აღარასდროს დავბრუნდები
- ნიუ-იორკის იურისტები დაჯარიმდნენ ყალბი ChatGPT შემთხვევების იურიდიულ მოკლედ გამოყენების გამო
განაახლეთ თქვენი ცხოვრების წესიDigital Trends ეხმარება მკითხველს თვალყური ადევნონ ტექნოლოგიების სწრაფ სამყაროს ყველა უახლესი სიახლეებით, სახალისო პროდუქტების მიმოხილვებით, გამჭრიახი რედაქციებითა და უნიკალური თვალით.
