როგორ ჩუმად იყენებს GPT-3 A.I. რევოლუცია

რისთვის არის კარგი? აბსოლუტურად ყველაფერი

ცოტა ხნის წინ სტარტაპის დამფუძნებელმა ფრენსის ჯერვისმა დარეკა აგენტირებული, გამოიყენა GPT-3, რათა დაეხმარა ადამიანებს, რომლებიც იჯარით სარგებლობენ, დაწერონ წერილები ქირავნობის ფასდაკლების შესახებ მოლაპარაკებების შესახებ. ”მე აღვწერდი აქ გამოყენების შემთხვევას, როგორც ”სტილის გადაცემას”, - განუცხადა ჯერვისმა Digital Trends-ს. ”[იღებს] პუნქტებს, რომლებიც არც კი უნდა იყოს სრულყოფილ ინგლისურ ენაზე და [გამოიყვანს] ორ-სამ წინადადებას ოფიციალურ ენაზე.”

ამ ულტრა მძლავრი ენობრივი მოდელის წყალობით, Jervis-ის ინსტრუმენტი საშუალებას აძლევს გამქირავებელებს აღწერონ თავიანთი მდგომარეობა და მიზეზი, რის გამოც მათ სჭირდებათ ფასდაკლებით დაფარვა. „უბრალოდ შეიყვანეთ ორიოდე სიტყვა იმის შესახებ, თუ რატომ დაკარგეთ შემოსავალი და რამდენიმე წამში მიიღებთ შემოთავაზებულ დამაჯერებელ, ფორმალურ აბზაცს თქვენს წერილში დასამატებლად“, - ამტკიცებს კომპანია.

ეს მხოლოდ აისბერგის მწვერვალია. Როდესაც ადიტია ჯოშიმანქანური სწავლების მეცნიერი და ამაზონის ვებ სერვისების ყოფილი ინჟინერი, პირველად შეხვდა GPT-3, ის იმდენად გაოცებული იყო ნანახით, რომ შექმნა ვებსაიტი, www.gpt3examples.com, რომ თვალყური ადევნოთ საუკეთესოებს.

”მას შემდეგ, რაც OpenAI-მ გამოაცხადა თავისი API, დეველოპერებმა დაიწყეს GPT-3-ის გამოყენებით შექმნილი აპლიკაციების შთამბეჭდავი დემოების გამოქვეყნება,” - განუცხადა მან Digital Trends-ს. ”ისინი საოცრად კარგები იყვნენ. მე შევქმენი [ჩემი ვებსაიტი] იმისათვის, რომ საზოგადოებას გაუადვილდეს ამ მაგალითების პოვნა და GPT-3-ის გამოყენების კრეატიული გზების აღმოჩენა საკუთარ დომენში არსებული პრობლემების გადასაჭრელად.”

სრულად ინტერაქტიული სინთეზური პერსონები GPT-3 და https://t.co/ZPdnEqR0Hn 🎇

მათ იციან ვინ არიან, სად მუშაობდნენ, ვინ არის მათი უფროსი და მრავალი სხვა. ეს არ არის მამის ბოტი... pic.twitter.com/kt4AtgYHZL

- ტაილერ ლასტოვიჩი (@tylerlastovich) 2020 წლის 18 აგვისტო

ჯოში მიუთითებს რამდენიმე დემოზე, რამაც ნამდვილად მოახდინა გავლენა მასზე. ერთი, ა განლაგების გენერატორი, ასახავს ფუნქციურ განლაგებას JavaScript კოდის გენერირებით მარტივი ტექსტის აღწერილობიდან. გსურთ ღილაკი, რომელიც ამბობს "გამოწერა" საზამთროს სახით? გსურთ ბანერის ტექსტი ცისარტყელას ფერების ღილაკების სერიით? უბრალოდ აუხსენით ისინი ძირითად ტექსტში და შარიფ შამიმის განლაგების გენერატორი დაგიწერთ კოდს. სხვა, ა GPT-3 დაფუძნებული საძიებო სისტემა Paras Chopra-ს მიერ შექმნილი, შეუძლია ნებისმიერი წერილობითი შეკითხვა გადააქციოს პასუხად და URL ბმულად მეტი ინფორმაციის მისაღებად. კიდევ ერთი, ფრენსის ჯერვისის შებრუნებული მაიკლ ტეფულა, თარგმნის იურიდიულ დოკუმენტებს უბრალო ინგლისურად. კიდევ ერთი, რაფაელ მილიერის მიერ, წერს ფილოსოფიურ ნარკვევებს. და კიდევ ერთი, გვერნ ბრანვენის მიერ, შეუძლია შემოქმედებითი მხატვრული ლიტერატურის გენერირება.

„არ ველოდი, რომ ერთი ენის მოდელი ასე კარგად შეასრულებდა ამოცანების ასეთ მრავალფეროვნებას, ენის თარგმნიდან და გენერირებიდან ტექსტის შეჯამებამდე და ერთეულების ამოღებამდე“, - თქვა ჯოშიმ. „ში ჩემი ერთ-ერთი ექსპერიმენტიმე გამოვიყენე GPT-3 ქიმიური წვის რეაქციების პროგნოზირებისთვის და მან ეს საოცრად კარგად გააკეთა“.

მეტი საიდან მოვიდა

GPT-3-ის ტრანსფორმაციული გამოყენება არც ამით მთავრდება. კომპიუტერული მეცნიერი ტაილერ ლასტოვიჩი გამოიყენა GPT-3 რომ ყალბი ადამიანების შექმნა, მათ შორის ისტორიის ჩათვლით, რომელთანაც შემდეგ შესაძლებელია ტექსტის საშუალებით ურთიერთობა. იმავდროულად, ენდრიუ მეინმა აჩვენა, რომ GPT-3 შეიძლება იყოს გამოიყენება ფილმების სათაურების ემოციებად გადაქცევისთვის. ნიკ უოლტონი, Latitude-ის ტექნოლოგიის მთავარი ოფიცერი, სტუდია GPT-ის მიერ გენერირებული ტექსტური სათავგადასავლო თამაშის უკან AI Dungeon ცოტა ხნის წინ იგივე გააკეთა, რათა ენახა, შეიძლებოდა თუ არა შემობრუნება ტექსტის აღწერის გრძელი სტრიქონები emoji-ში. და Copy.ai, სტარტაპი, რომელიც აშენებს საავტორო გადაწერის ინსტრუმენტებს GPT-3-ით, იყენებს მოდელს, რაც ღირს, ყოველთვიურად განმეორებითი შემოსავალი $67,000 მარტის მდგომარეობით - და ბოლო 2,9 მილიონი დოლარის დაფინანსების რაუნდი.

”რა თქმა უნდა, იყო გაოცება და დიდი შიში იმ შემოქმედებითობის თვალსაზრისით, რისთვისაც ხალხმა გამოიყენა GPT-3.” სანდინი აგარვალი, A.I. Digital Trends-ს OpenAI-ის პოლიტიკის მკვლევარმა განუცხადა. ”გამოყენების ამდენი შემთხვევა უბრალოდ ისეთი კრეატიულია და იმ დომენებში, რომლებზეც მე არც კი მქონდა გათვალისწინებული, მას ბევრი ცოდნა ექნებოდა. ეს საინტერესო სანახავია. მაგრამ როგორც ითქვა, GPT-3 - და კვლევის მთელი ეს მიმართულება, რომელსაც OpenAI ატარებდა - იყო ძალიან დიდი იმედით, რომ ეს მოგვცემდა A.I. მოდელი, რომელიც უფრო ზოგადი დანიშნულების იყო. ზოგადი დანიშნულების A.I.-ის მთელი აზრი. მოდელი არის [რომ ეს იქნება] ერთი მოდელი, რომელსაც შეუძლია გააკეთოს ყველა ეს განსხვავებული A.I. დავალებები."

ბევრი პროექტი ხაზს უსვამს GPT-3-ის ერთ-ერთ დიდ მნიშვნელობას: ტრენინგის ნაკლებობას ეს მოითხოვს. მანქანათმცოდნეობა ტრანსფორმაციული იყო ყველანაირი გზით ბოლო რამდენიმე ათწლეულის განმავლობაში. მაგრამ მანქანათმცოდნეობა მოითხოვს სასწავლო მაგალითების დიდ რაოდენობას, რათა შეძლოს სწორი პასუხების გამოტანა. მეორეს მხრივ, GPT-3-ს აქვს „რამდენიმე გასროლის უნარი“, რაც საშუალებას აძლევს მას ასწავლოს რაღაცის გაკეთება მხოლოდ მცირე რაოდენობის მაგალითებით.

დამაჯერებელი ხარი***ტ

GPT-3 ძალიან შთამბეჭდავია. მაგრამ ის ასევე იწვევს გამოწვევებს. ზოგიერთი მათგანი დაკავშირებულია ღირებულებასთან: მაღალი მოცულობის სერვისებისთვის, როგორიცაა ჩეთბოტები, რომლებსაც შეუძლიათ ისარგებლონ GPT-3-ის მაგიით, ინსტრუმენტი შეიძლება იყოს ძალიან ძვირი გამოსაყენებლად. (ერთი შეტყობინება შეიძლება ღირდეს 6 ცენტი, რაც, მართალია, ბანკის დაშლა არ არის, რა თქმა უნდა, ჯდება.)

სხვები დაკავშირებულია მის ფართო ხელმისაწვდომობასთან, რაც იმას ნიშნავს, რომ სავარაუდოდ რთული იქნება სტარტაპის შექმნა ექსკლუზიურად გარშემო, რადგან სასტიკი კონკურენცია სავარაუდოდ შეამცირებს ზღვარს.

მეორე არის მეხსიერების ნაკლებობა; მისი კონტექსტური ფანჯარა 2000 სიტყვაზე ცოტათი ნაკლები იყო ერთდროულად, როგორც გაი პირსის პერსონაჟი ფილმში სამახსოვრო, მისი მეხსიერება გადატვირთულია. ”ეს მნიშვნელოვნად ზღუდავს ტექსტის სიგრძეს, რომელიც მას შეუძლია შექმნას, დაახლოებით მოკლე აბზაცამდე თითო მოთხოვნაზე”, - თქვა ლასტოვიჩმა. ”პრაქტიკულად რომ ვთქვათ, ეს ნიშნავს, რომ მას არ შეუძლია გრძელი დოკუმენტების გენერირება, თუმცა ჯერ კიდევ ახსოვს, რა მოხდა დასაწყისში.”

თუმცა, ალბათ, ყველაზე მნიშვნელოვანი გამოწვევა ასევე დაკავშირებულია მის უდიდეს სიძლიერესთან: კონფაბულაციის შესაძლებლობებთან. კონფაბულაცია არის ტერმინი, რომელსაც ხშირად იყენებენ ექიმები, რათა აღწერონ ის გზა, რომლითაც მეხსიერების პრობლემების მქონე ზოგიერთ ადამიანს შეუძლია შექმენით ინფორმაცია, რომელიც თავდაპირველად დამაჯერებლად გამოიყურება, მაგრამ რომელიც სულაც არ ეწინააღმდეგება დეტალურ შემოწმებას შემოწმება. GPT-3-ის კონფაბულაციის უნარი, კონტექსტიდან გამომდინარე, არის ძლიერი და სისუსტე. კრეატიული პროექტებისთვის, ეს შეიძლება იყოს შესანიშნავი, რაც საშუალებას მისცემს მას თემებზე გადაიტანოს რაიმე ისეთივე ამქვეყნიური, როგორც სიმართლე. სხვა პროექტებისთვის, ეს შეიძლება იყოს უფრო რთული.

ფრენსის ჯერვისი Augrented-დან აღნიშნავს GPT-3-ის უნარს, შექმნას სარწმუნო სისულელე. ნიკ უოლტონი AI Dungeon თქვა: „GPT-3 ძალიან კარგად წერს კრეატიულ ტექსტს, რომელიც, როგორც ჩანს, შეიძლება დაწერილი იყოს ადამიანის მიერ… თუმცა, სისუსტე არის ის, რომ მას ხშირად შეუძლია წეროს ისე, თითქოს ძალიან თავდაჯერებული იყოს - მაშინაც კი, თუ წარმოდგენა არ აქვს რა პასუხის გაცემაზე კითხვა არის. ”

ისევ ჩინურ ოთახში

ამასთან დაკავშირებით, GPT-3 გვაბრუნებს ჯონ სერლის ჩინური ოთახის ნაცნობ ადგილზე. 1980 წელს ფილოსოფოსმა სირლმა გამოაქვეყნა ერთ-ერთი ყველაზე ცნობილი A.I. სააზროვნო ექსპერიმენტები, ორიენტირებულია თემაზე „გაგება“. ჩინური ოთახი გვთხოვს, წარმოვიდგინოთ ოთახში გამოკეტილი ადამიანი, სადაც მათ გაუგებარი ენაზე წერია. მხოლოდ ისინი აღიარებენ აბსტრაქტულ სიმბოლოებს. ოთახი ასევე შეიცავს წესების ერთობლიობას, რომელიც აჩვენებს, თუ როგორ შეესაბამება სიმბოლოების ერთი ნაკრები მეორეს. თუ გავითვალისწინებთ პასუხების სერიას, ოთახის ბინადარმა უნდა შეესაბამებოდეს კითხვის სიმბოლოებს პასუხის სიმბოლოებს. ამ დავალების მრავალჯერ გამეორების შემდეგ, ისინი ახერხებენ მის შესრულებას - მიუხედავად იმისა, რომ წარმოდგენა არ აქვთ, რას ნიშნავს სიმბოლოების რომელიმე ნაკრები, უბრალოდ, რომ ერთი შეესაბამება მეორეს.

GPT-3 არის სამყარო დაშორებული ენობრივი A.I. რომელიც არსებობდა იმ დროს, როცა სერლი წერდა. თუმცა, გაგების საკითხი ისეთივე ეკლიანია, როგორც არასდროს.

”ეს არის დაკითხვის ძალიან საკამათო სფერო, როგორც დარწმუნებული ვარ, თქვენ იცით, რადგან ძალიან ბევრი განსხვავებაა მოსაზრებები იმის შესახებ, ზოგადად, ენობრივ მოდელებს ექნებათ თუ არა ოდესმე [ჭეშმარიტი] გაგება“, - თქვა OpenAI-ს სანდინიმ აგარვალი. „თუ ახლა მეკითხებით GPT-3-ზე, ის ზოგჯერ ძალიან კარგად მუშაობს, მაგრამ სხვა დროს არც ისე კარგად. არის ეს შემთხვევითობა გარკვეულწილად იმის შესახებ, თუ რამდენად მნიშვნელოვანი შეიძლება მოგეჩვენოთ შედეგი. ხანდახან შეიძლება გაგაოცოთ გამომავალმა, ზოგჯერ კი გამომავალი უბრალოდ უაზრო იქნება. იმის გათვალისწინებით, რომ ახლა, ჩემი აზრით... GPT-3-ს არ აქვს გაგება. ”

დღეს ჩინური ოთახის ექსპერიმენტის დამატებითი ცვლილება არის ის, რომ GPT-3 არ არის დაპროგრამებული ყოველ ნაბიჯზე მკვლევართა მცირე ჯგუფის მიერ. ეს არის მასიური მოდელი, რომელიც მომზადებულია უზარმაზარ მონაცემთა ბაზაზე, რომელიც შედგება ინტერნეტისგან. ეს ნიშნავს, რომ მას შეუძლია მიიღოს დასკვნები და მიკერძოებები, რომლებიც შეიძლება იყოს კოდირებული ინტერნეტში ნაპოვნი ტექსტში. გსმენიათ გამოთქმა, რომ თქვენ ხართ საშუალოდ იმ ხუთი ადამიანისგან, რომელთანაც გარშემო ხართ? ისე, GPT-3 გაწვრთნილი იყო ტექსტური მონაცემების თითქმის გაუგებარ რაოდენობაზე მრავალი წყაროდან, მათ შორის წიგნებიდან, ვიკიპედიიდან და სხვა სტატიებიდან. აქედან, ის სწავლობს შემდეგი სიტყვის პროგნოზირებას ნებისმიერი თანმიმდევრობით, მისი სასწავლო მონაცემების გაწმენდით, რათა დაინახოს ადრე გამოყენებული სიტყვების კომბინაციები. ამან შეიძლება გამოიწვიოს არასასურველი შედეგები.

სტოქასტური თუთიყუშების კვება

ეს გამოწვევა დიდი ენობრივი მოდელებით პირველად გამოიკვეთა ა ინოვაციური ქაღალდი ე.წ სტოქასტური თუთიყუშების თემაზე. სტოქასტური თუთიყუში - ტერმინი, რომელიც გამოიგონეს ავტორებმა, რომლებმაც თავიანთ რიგებში შეიტანეს Google-ის ეთიკური A.I.-ის ყოფილი თანახელმძღვანელი. გუნდი, Timnit Gebru — ეხება დიდ ენობრივ მოდელს, რომელიც „შემთხვევით [აკერავს] ენობრივი ფორმების თანმიმდევრობას, რომელიც მან შეამჩნია თავის უზარმაზარ სასწავლო მონაცემებში, სავარაუდო ინფორმაციის მიხედვით, თუ როგორ აერთიანებს ისინი, მაგრამ ყოველგვარი მითითების გარეშე. მნიშვნელობისკენ“.

„ინტერნეტის დიდ ნაწილზე გავლილი ტრენინგის შემდეგ, მნიშვნელოვანია ვაღიაროთ, რომ მას ექნება გარკვეული მიკერძოება“. ალბერტ გოზი, GPT-3-ის სხვა მომხმარებელმა განუცხადა Digital Trends-ს. ”მე ვიცი, რომ OpenAI-ის გუნდი ბევრს მუშაობს ამის შერბილებაზე რამდენიმე განსხვავებული გზით, მაგრამ მე ველი, რომ ეს საკითხი [გარკვეული] მომავალში იქნება.”

OpenAI-ის კონტრზომები მიკერძოებისგან დასაცავად მოიცავს ტოქსიკურობის ფილტრს, რომელიც ფილტრავს გარკვეულ ენას ან თემებს. OpenAI ასევე მუშაობს ადამიანთა უკუკავშირის ინტეგრირების გზებზე, რათა შეძლოს განსაზღვროს რომელ სფეროებში არ უნდა გადახვიდეთ. გარდა ამისა, გუნდი აკონტროლებს ხელსაწყოზე წვდომას ისე, რომ ინსტრუმენტის გარკვეულ ნეგატიურ გამოყენებას არ მიეცეს წვდომა.

”ერთ-ერთი მიზეზი, რის გამოც თქვენ არ გინახავთ, როგორც ამ მავნე მომხმარებლებმა, არის ის, რომ ჩვენ გვაქვს შიდა განხილვის ინტენსიური პროცესი,” - თქვა აგარვალმა. ”ჩვენი მუშაობა არის ის, რომ ყოველ ჯერზე, როდესაც გსურთ გამოიყენოთ GPT-3 პროდუქტში, რომელიც რეალურად განთავსდება, თქვენ უნდა გაიაროს პროცესი, სადაც გუნდი - ისევე როგორც ადამიანების გუნდი - რეალურად განიხილავს, თუ როგორ გსურთ გამოიყენოთ ის. … შემდეგ, იმის საფუძველზე, რომ დარწმუნდებით, რომ ეს არ არის რაიმე მავნე, თქვენ მოგეცემათ წვდომა.”

ზოგიერთი მათგანი რთულია, თუმცა - განსაკუთრებით იმიტომ, რომ მიკერძოება ყოველთვის არ არის გარკვეული სიტყვების გამოყენების მკაფიო შემთხვევა. ჯერვისი აღნიშნავს, რომ ზოგჯერ მისი GPT-3 ქირავნობის შეტყობინებები შეიძლება „მიდრეკილი იყოს სტერეოტიპული სქესის [ან] კლასისკენ. ვარაუდები. ” უყურადღებოდ დატოვება, შესაძლოა სუბიექტის გენდერული იდენტობა იჯარის წერილში, მათი ოჯახის მიხედვით როლი ან სამსახური. ეს შეიძლება არ იყოს ყველაზე საშინელი მაგალითი A.I. მიკერძოება, მაგრამ ის ხაზს უსვამს იმას, თუ რა ხდება, როდესაც დიდი რაოდენობით მონაცემი მიიღება და შემდეგ ალბათობით ხელახლა იკრიბება ენის მოდელში.

”მიკერძოება და აშკარა დაბრუნების პოტენციალი აბსოლუტურად არსებობს და მოითხოვს დეველოპერების ძალისხმევას, რათა თავიდან იქნას აცილებული,” - თქვა ტაილერ ლასტოვიჩმა. „OpenAI ასახელებს პოტენციურად ტოქსიკურ შედეგებს, მაგრამ საბოლოოდ ის ამატებს პასუხისმგებლობას, რაზეც მომხმარებლებმა კარგად უნდა იფიქრონ მოდელის წარმოებაში ჩართვამდე. კონკრეტულად რთულად განსავითარებელი შემთხვევაა მოდელის ტყუილისადმი მიდრეკილება – რადგან მას არ გააჩნია ჭეშმარიტი ან ყალბი ინფორმაციის კონცეფცია.

ენის მოდელები და მომავალი A.I.

დებიუტიდან ცხრა თვის შემდეგ, GPT-3, რა თქმა უნდა, ამართლებს თავის ბილინგის, როგორც თამაშის შემცვლელს. ის, რაც ოდესღაც წმინდა პოტენციალი იყო, აჩვენა, რომ იყო პოტენციური რეალიზებული. GPT-3-ის გამოყენების დამაინტრიგებელი შემთხვევების რაოდენობა ხაზს უსვამს იმას, თუ როგორ ხდება ტექსტის გენერირების A.I. არის ბევრად უფრო მრავალმხრივი, ვიდრე ეს აღწერა შეიძლება გვთავაზობდეს.

არა, რომ ეს არის ახალი ბავშვი ბლოკში ამ დღეებში. ამ წლის დასაწყისში GPT-3 გადალახეს, როგორც ყველაზე დიდი ენობრივი მოდელი. Google Brain-მა წარმოადგინა ახალი ენის მოდელი დაახლოებით 1,6 ტრილიონი პარამეტრით, რაც მას ცხრაჯერ აღემატება OpenAI-ს შეთავაზებაზე. არც ეს იქნება ენის მოდელების გზის დასასრული. ეს არის უაღრესად ძლიერი ინსტრუმენტები - პოტენციალით გარდაქმნის საზოგადოებას, პოტენციურად უკეთესობისკენ და უარესისთვის.

რა თქმა უნდა, გამოწვევები არსებობს ამ ტექნოლოგიებთან დაკავშირებით და ისეთ კომპანიებს, როგორიცაა OpenAI, დამოუკიდებელი მკვლევარები და სხვები, უნდა გააგრძელონ გადაჭრა. მაგრამ მთლიანობაში, ძნელია იმის მტკიცება, რომ ენის მოდელები არ იქცევა ხელოვნური ინტელექტის კვლევის ერთ-ერთ ყველაზე საინტერესო და მნიშვნელოვან საზღვრად.

ვინ იფიქრებდა, რომ ტექსტის გენერატორები შეიძლება იყოს ასე ღრმად მნიშვნელოვანი? კეთილი იყოს თქვენი მობრძანება ხელოვნური ინტელექტის მომავალზე.

რედაქტორების რეკომენდაციები

• ანალოგი A.I.? ეს გიჟურად ჟღერს, მაგრამ ეს შეიძლება იყოს მომავალი
• წაიკითხეთ A.I.-ის საოცრად ლამაზი "სინთეზური წერილი". რომ ფიქრობს, რომ ღმერთია
• ალგორითმული არქიტექტურა: უნდა დავუშვათ A.I. შენობების დიზაინი ჩვენთვის?
• ქალები ბაითით: ვივიენ მინგის გეგმა გადაჭრას "ადამიანური არეულობა" A.I.
• რატომ შეიძლება რობოტებისთვის დამალვაში თამაშის სწავლება იყოს შემდეგი თაობის A.I.