თუ ადამიანები, რომლებიც ხელოვნური ინტელექტის ტექნოლოგიის წინა პლანზე არიან, კომენტარს აკეთებენ ამის შესახებ უაღრესად ინტელექტუალური ხელოვნური ინტელექტის სისტემების პოტენციურად კატასტროფული ეფექტები, მაშინ ალბათ გონივრული იქნება დაჯდეთ და აიღოთ შენიშვნა.
სულ რაღაც ორიოდე თვის წინ ჯეფრი ჰინტონმა, ადამიანმა, რომელიც მიჩნეულია ხელოვნური ინტელექტის ერთ-ერთ „ნათლიად“ ამ სფეროში თავისი პიონერული მუშაობისთვის, თქვა, რომ ტექნოლოგიის განვითარების სწრაფი ტემპი ნიშნავს, რომ ეს არ იყო "წარმოუდგენელი" რომ სუპერინტელექტუალური ხელოვნური ინტელექტი, რომელიც ადამიანის გონებაზე მაღლა ითვლებოდა, შეიძლება საბოლოოდ მოსპობდეს კაცობრიობას.
რეკომენდებული ვიდეოები
და სემ ალტმანი, OpenAI-ს აღმასრულებელი დირექტორი, კომპანია უკან ვირუსული ChatGPT ჩატბოტიმან აღიარა, რომ „ცოტა ეშინოდა“ საზოგადოებაზე მოწინავე AI სისტემების პოტენციური ეფექტების გამო.
დაკავშირებული
- ChatGPT-ის შემქმნელი OpenAI-ის წინაშე დგას FTC გამოძიება მომხმარებელთა დაცვის კანონების გამო
- ChatGPT ვებსაიტის ტრაფიკი პირველად დაეცა
- მე ვასწავლიდი ChatGPT-ს, რომ მესწავლებინა სამაგიდო თამაშები და ახლა აღარასდროს დავბრუნდები
ალტმანი იმდენად შეშფოთებულია, რომ ოთხშაბათს მისმა კომპანიამ გამოაცხადა ახალი განყოფილების შექმნის შესახებ სუპერგანლაგება, რომელიც მიზნად ისახავს იმის უზრუნველსაყოფად, რომ სუპერინტელექტუალური ხელოვნური ინტელექტი არ გამოიწვევს ქაოსს ან რაიმე შორს უარესი.
„სუპერინტელექტი იქნება ყველაზე გავლენიანი ტექნოლოგია, რომელიც კაცობრიობამ ოდესმე გამოიგონა და დაგვეხმარება მსოფლიოს მრავალი ყველაზე მნიშვნელოვანი პრობლემის გადაჭრაში“. განაცხადა OpenAI-მ ახალი ინიციატივის გაცნობის პოსტში. ”მაგრამ სუპერინტელექტის უზარმაზარი ძალა ასევე შეიძლება იყოს ძალიან საშიში და შეიძლება გამოიწვიოს კაცობრიობის დაქვეითება ან თუნდაც ადამიანის გადაშენება.”
OpenAI-მ თქვა, რომ მიუხედავად იმისა, რომ სუპერინტელექტუალური ხელოვნური ინტელექტი შეიძლება ჩანდეს, რომ ეს მოშორებულია, მას მიაჩნია, რომ ის შეიძლება განვითარდეს 2030 წლისთვის. და ის ადვილად აღიარებს, რომ ამ დროისთვის, არ არსებობს სისტემა „პოტენციურად სუპერინტელექტუალური ხელოვნური ინტელექტის მართვისა და კონტროლისთვის და მისი ბოროტმოქმედების თავიდან ასაცილებლად“.
სიტუაციის მოსაგვარებლად, OpenAI-ს სურს შექმნას "ადამიანის დონის ავტომატური განლაგების მკვლევარი", რომელიც შეასრულებს უსაფრთხოების შემოწმებას სუპერინტელექტუალური AI, დასძინა, რომ ამ რისკების მართვა ასევე მოითხოვს ახალ ინსტიტუტებს მმართველობისთვის და სუპერინტელექტის პრობლემის გადასაჭრელად. გასწორება.
იმისათვის, რომ Superalignment-ს ჰქონდეს ეფექტი, OpenAI-მ უნდა შეაგროვოს მანქანათმცოდნეების და ინჟინრების საუკეთესო გუნდი.
კომპანია ძალიან გულწრფელად ეჩვენება თავის ძალისხმევას და აღწერს მას, როგორც "წარმოუდგენლად ამბიციურ მიზანს" და ასევე აღიარებს, რომ ეს "არ არის გარანტირებული წარმატების მისაღწევად". მაგრამ ის დასძენს, რომ ”ოპტიმისტურია, რომ ფოკუსირებულ, შეთანხმებულ ძალისხმევას შეუძლია ამის გადაჭრა პრობლემა.”
ახალი AI ინსტრუმენტები, როგორიცაა OpenAI's ChatGPT და Google's Bard, სხვა მრავალთა შორის, იმდენად რევოლუციურია, რომ ექსპერტები დარწმუნებული არიან. რომ წინა სუპერდაზვერვის დონეზეც კი სამუშაო ადგილი და ფართო საზოგადოება ფუნდამენტური ცვლილებების წინაშე დგანან ვადა.
სწორედ ამიტომ, მთავრობები მთელს მსოფლიოში იბრძვიან, რომ ითამაშონ დაწყებული რეგულაციების დაწესებაზე სწრაფად განვითარებადი AI ინდუსტრია, რათა უზრუნველყოს ტექნოლოგია უსაფრთხო და პასუხისმგებლობით განლაგებული მანერა. თუმცა, თუ ერთი ორგანო არ ჩამოყალიბდება, თითოეულ ქვეყანას ექნება საკუთარი შეხედულებები იმის შესახებ, თუ როგორ გამოიყენოს ეს ტექნოლოგია საუკეთესოდ, რაც იმას ნიშნავს, რომ ეს რეგულაციები შეიძლება მნიშვნელოვნად განსხვავდებოდეს და გამოიწვიოს მკვეთრად განსხვავებული შედეგები. და სწორედ ეს განსხვავებული მიდგომები გაართულებს Superalignment-ის მიზნის მიღწევას.
რედაქტორების რეკომენდაციები
- Google Bard-ს ახლა შეუძლია ლაპარაკი, მაგრამ შეუძლია თუ არა მას ჩაახშოს ChatGPT?
- ელონ მასკის ახალი AI კომპანია მიზნად ისახავს "სამყაროს გაგებას"
- OpenAI ავლენს მისი პირველი საერთაშორისო ფორპოსტის ადგილს
- ნიუ-იორკის იურისტები დაჯარიმდნენ ყალბი ChatGPT შემთხვევების იურიდიულ მოკლედ გამოყენების გამო
- ეს ვებ ბრაუზერი აერთიანებს ChatGPT-ს ახალი მომხიბლავი გზით
განაახლეთ თქვენი ცხოვრების წესიDigital Trends ეხმარება მკითხველს თვალყური ადევნონ ტექნოლოგიების სწრაფ სამყაროს ყველა უახლესი სიახლეებით, სახალისო პროდუქტების მიმოხილვებით, გამჭრიახი რედაქციებითა და უნიკალური თვალით.
