Deepfakes საშიშია? შემქმნელები და მარეგულირებლები არ ეთანხმებიან

ბოლო რამდენიმე წლის განმავლობაში, ღრმაფეიქსი გაჩნდა, როგორც ინტერნეტის უახლესი საშუალება მემებისა და პაროდიული შინაარსისთვის.

ადვილი მისახვედრია რატომ: ისინი შემქმნელებს საშუალებას აძლევენ დაამახინჯონ რეალობის წესები ისე, როგორც აქამდე არცერთი სხვა ტექნოლოგია. Deepfakes-ის მაგიის საშუალებით შეგიძლიათ უყუროთ ჯენიფერ ლოურენსი სიტყვით გამოვიდა სტივ ბუშემის სახით, ნახეთ რა რაიან რეინოლდსი ვილი ვონკას ჰგავდა, და დაჭერაც კი ჰიტლერი და სტალინი მღერიანვიდეო მოკლა რადიო ვარსკვლავი დუეტში.

გაუთვითცნობიერებელებისთვის, ღრმა ფეიქი ტექნოლოგია არის სინთეზური მედიის ფორმა, რომელიც მომხმარებლებს საშუალებას აძლევს, სხვის სახეზე გადაანაწილონ განსხვავებული სახე ისე, რომ თითქმის არ განასხვავონ ორიგინალისგან. ის ამას აკეთებს მონაცემთა გროვის წაკითხვით, რათა გაიგოს სახის კონტურები და სხვა მახასიათებლები, რათა ბუნებრივად შეერწყას და გააცოცხლოს იგი სცენაში.

ამ ეტაპზე, თქვენ ალბათ შეგხვედრიათ ისეთ კლიპებზე, როგორიცაა TikTok (სადაც ჰეშთეგი „#deepfake“ დაახლოებით 200 მილიონი ნახვა აქვს), YouTube და სხვაგან. იქნება ეს ფან ფიქციის შესრულება და ხელახლა სცენები ვარსკვლავებით მათ სურდათ, რომ ფილმს თავდაპირველად შეეტანა ან მკვდარი ადამიანის თანამედროვე, ვირუსულ მემში ჩაეყენებინა, ღრმა ფეიქი მიღებულ იქნა როგორც შემოქმედებითი საშუალება იმ მიზნებისთვის, რომლებიც ადრე თითქმის შეუძლებელი იყო.

ცვლილებამ შექმნა ახალი შემქმნელების ლიგა, როგორიცაა Ctrl Shift Face, რომლის ღრმა ფაქიზი ვიდეოები რეგულარულად აგროვებს მილიონობით ნახვას და ხშირად არის განხილვის მთავარი თემა გვიან ღამით თოქ-შოუებში.

„ეს არის სრულიად ახალი გზა სასაცილო ინტერნეტ ვიდეოების გადასაღებად, ან ისეთი ისტორიების თხრობისთვის, როგორიც აქამდე არასდროს გვინახავს“, ამბობს ჰოლანდიელი შემქმნელი ჰიტის უკან.ოზის შურისმაძიებლებიღრმა ფეიქი კლიპი, რომელიც ითხოვდა, რომ მისი ნამდვილი სახელი არ გამოეყენებინათ. „ეს არის მომხიბვლელობის მშვენიერი კომბინაცია A.I. ტექნოლოგია და იუმორი. ”

მაგრამ არსებობს საშიშროება, რომელიც საფრთხეს უქმნის ღრმა Fake ტექნოლოგიის მომავალს: მისი შელახული რეპუტაცია.

დიდი სიმძლავრით მოდის დიდი ხელახალი განთავსება

სამწუხაროდ, გარდა მათი პოტენციალისა, როგორც კრეატიული ინსტრუმენტის კარგი განზრახვის მქონე ვიდეო შემსრულებლებისთვის, ღრმა ფეიქი ასევე შეიცავს უზარმაზარ პოტენციალს ზიანის მოტანისთვის.

Ბოლო კვლევა Dawes Center for Future Crime UCL Jill Dando Institute of Security and Crime Science შეაფასა ღრმა ფეიქი, როგორც ყველაზე სერიოზული A.I. ჩართული საფრთხე. სენ. ბენ სასე, ნებრასკანელი რესპუბლიკელი, რომელმაც წარადგინა კანონპროექტი ღრმა ფეიქების მავნე შექმნის კრიმინალიზაციის შესახებ, გაფრთხილებული გასულ წელს ტექნოლოგიამ შეიძლება „გაანადგუროს ადამიანთა სიცოცხლე“, „გააფუჭოს ფინანსური ბაზრები“ და კიდევ „გააძლიეროს სამხედრო კონფლიქტები მთელ მსოფლიოში“.

გარკვეულწილად, ეს შეშფოთება სამართლიანია. ყოველივე ამის შემდეგ, ღრმა ფეიკის ტექნოლოგიის გავრცელებამ უკვე მისცა საშუალება ისეთი რამ, როგორიცაა ყალბი ზრდასრული კონტენტის წარმოება ცნობილი ადამიანების მონაწილეობით და პოლიტიკოსების სატირისთვის რეალური იმიტაცია. ამ წლის დასაწყისში თეთრი სახლის სოციალური მედიის დირექტორი დენ სკავინო, ტვიტერში ცუდად მანიპულირებული კლიპი, რომელიც ასევე გადააქვეყნა პრეზიდენტმა დონალდ ტრამპმა, სადაც ტრამპის კონკურენტი ჯო ბაიდენი სთხოვს ხალხს ხელახლა აირჩიონ ტრამპი.

თუმცა, ეს ნაკლებად დამაჯერებელი ხუმრობები სწრაფად განადგურდა მასების მიღწევამდე. რაც მთავარია, ექსპერტები ვარაუდობენ, რომ ღრმა ფაქიზი ვიდეოებს ჯერჯერობით ნაკლებად ჰქონიათ გავლენა საზოგადოებაზე და რომ ისინი ამჟამად არ წარმოადგენენ რაიმე გარდაუვალ საფრთხეს. მაგალითად, კვლევა ჩაატარა მგრძნობელობა, კიბერუსაფრთხოების ფირმა, რომელიც ორიენტირებულია ვიზუალურ საფრთხეებზე, ამტკიცებს, რომ ღრმა ფაქიზი ვიდეოების დიდი უმრავლესობა არის პორნოგრაფიული (96%) და რომ ტექნოლოგიას ჯერ არ მიუღწევია რაიმე მნიშვნელოვან დეზინფორმაციაში კამპანიები.

ანალოგიურად, ა ჯორჯთაუნის უნივერსიტეტის ანგარიში დაასკვნა, რომ მიუხედავად იმისა, რომ ღრმა ფეიქი არის „შთამბეჭდავი ტექნიკური წარმატება“, პოლიტიკის შემქმნელებმა არ უნდა იჩქარონ აჟიოტაჟი, რადგან ტექნოლოგია არ არის სრულყოფილი ამ მომენტში და არ შეუძლია გავლენა მოახდინოს რეალურ სამყაროში არსებულ მოვლენებზე ჯერ კიდევ.

ყველაზე პოპულარული ღრმა ფაქი არხის Ctrl Shift Face შემქმნელს, რომლის ვიდეოებს მილიონობით ნახულობს, სჯერა "ისტერიას". ღრმა ფეიკის თემის ირგვლივ ტრიალი დეპუტატების ყურადღებას აშორებს რეალურ საკითხებს, როგორიცაა ცუდად რეგულირებული რეკლამა ქსელები ჩართულია ფეისბუქი რომლებიც რეალურად არიან პასუხისმგებელი ადამიანების შეცდომაში შეყვანაზე.

"თუ ოდესმე იქნება მავნე ღრმა ფეიქი, Facebook არის ადგილი, სადაც ის გავრცელდება", - თქვა Ctrl Shift Face-მა Digital Trends-თან ინტერვიუში. „ამ შემთხვევაში რა არის უფრო დიდი პრობლემა? მედია თუ პლატფორმა?”

მფლობელი BabyZone, YouTube სათამაშო არხი ნახევარ მილიონზე მეტი გამომწერით, რომელიც ხშირად ხდის ცნობილ ადამიანებს ვიდეოში თამაშები, ეხმიანება მსგავს შეშფოთებას: ”მე ვფიქრობ, რომ ღრმა ფეიქი არის ტექნოლოგია, როგორც ყველა სხვა არსებული ტექნოლოგიები. მათი გამოყენება შესაძლებელია როგორც კარგი, ასევე ცუდი მიზნებისთვის“.

მოძრაობა ღრმაფეიქების გადასარჩენად

ბოლო ერთი-ორი წლის განმავლობაში, როდესაც მთავრობები და ტექნიკური კომპანიები იკვლევენ ამის პოტენციურ რისკებს ტექნოლოგია, ღრმა ფეიკის დამცველები ცდილობდნენ ამ შეშფოთების აღმოფხვრას და ტექნოლოგიის საზოგადოების გამოსწორებას გამოსახულება. Reddit თემები რომლებიც „ამ სტიგმის კორექტირებას“ ცდილობენ და ზოგიერთი დამოუკიდებელი მკვლევარი აქტიურად აშენებს სისტემებს, რომლებიც შეძლებენ ღრმა ფეიქების დაფიქსირებას, სანამ ისინი ვირუსული გახდებიან.

რომან მოგილნი, აღმასრულებელი დირექტორი და Reface-ის თანადამფუძნებელი, პოპულარული აპლიკაცია, რომელიც საშუალებას გაძლევთ სწრაფად შეცვალოთ თქვენი სახე ნებისმიერ GIF-ში. ამბობს, რომ მისი სტარტაპი ახლა ავითარებს გამოვლენის ინსტრუმენტს, რომელსაც შეუძლია თქვას, არის თუ არა ვიდეო Reface's-ით გადაღებული ტექნოლოგია. „ჩვენ გვჯერა, რომ ფართო წვდომა ჩვენს მსგავს სინთეზირებულ მედია ინსტრუმენტებზე გაზრდის კაცობრიობის თანაგრძნობას და კრეატიულია და ხელს შეუწყობს ტექნოლოგიის აღქმის უკეთესად შეცვლას,” - განუცხადა მოგილნიმ Digital-ს ტენდენციები.

მსგავსი პერსპექტივა აქვს ერან დაგანს, Botika-ს დამფუძნებელს და აღმასრულებელ დირექტორს, სტარტაპს, რომელიც დგას პოპულარული სახის შემცვლელი აპლიკაციის Jiggy-ის უკან. ღრმა ფეიქეების მიმართ და თვლის, რომ რაც უფრო მეინსტრიმ გახდება, „ადამიანები ბევრად უფრო აცნობიერებენ მათ პოზიტიურ გამოყენებას შემთხვევები.”

ღრმა ფეიქების პოტენციური საფრთხის გათვალისწინებით, სავარაუდოა, რომ კონგრესი საბოლოოდ ჩაერთვება. ძირითადი ტექნიკური პლატფორმები Facebook-ის, Twitter-ისა და YouTube-ის ჩათვლით უკვე განაახლეს თავიანთი პოლიტიკა, რათა მონიშნოთ ან წაშალოთ მანიპულირებული მედია, რომელიც შექმნილია შეცდომაში შეყვანისთვის. მრავალ სახელმწიფოს მოსწონს კალიფორნია და ნიუ-იორკმა მიიღეს კანონპროექტები, რომლებიც დაისჯებიან განზრახ მატყუარა ღრმა ფეიქების შემქმნელებს, ისევე როგორც მათ, ვინც გაათავისუფლებენ იმ პირის თანხმობის გარეშე, ვისი სახეც გამოიყენება.

უნდა დარეგულირდეს თუ არა ღრმა ფეიქი?

მიუხედავად იმისა, რომ ეს წესები გამორიცხავს პაროდიულ შინაარსს, ექსპერტებს, ცუდად განსაზღვრული კანონების ან ტექნოლოგიის სრული აკრძალვის შიშით, ჯერ კიდევ სჯერა, რომ კონგრესმა უნდა დარჩეს მასზე უარის თქმა და ნება დართოს ღრმა ფეიქის გატარების ბუნებრივი კურსი, რასაც მედიის ნებისმიერი ახალი ფორმა მიდის მეშვეობით.

დევიდ გრინი, Electronic Frontier Foundation-ის სამოქალაქო თავისუფლებების დირექტორი, ამბობს „კონგრესის ნებისმიერი მცდელობა ღრმა ყალბების რეგულირება ან მართლაც ნებისმიერი სახის ვიზუალური კომუნიკაცია იქნება მეტყველების რეგულირება და პირველს გულისხმობს შესწორება.

გრინი დასძენს, რომ ეს კანონები ზუსტი უნდა იყოს და - კარგად განსაზღვრული და ადვილად გასაგები ტერმინებით - უნდა მიმართოს იმ ზიანს, რომლის შემცირებასაც ცდილობენ. ”რაც ჩვენ ვნახეთ აქამდე… სახელმწიფო დონეზე მარეგულირებელი მცდელობები არის ბუნდოვანი და ზედმეტად ფართო კანონები, რომლებსაც არ გააჩნიათ პირველი შესწორების სიზუსტე. მათ არ აქვთ გამონაკლისები პაროდიისა და პოლიტიკური კომენტარებისთვის. ”

ჯორჯო პატრინი, Sensity-ის აღმასრულებელი დირექტორი, ალგორითმებისა და პროგრამული უზრუნველყოფის აკრძალვას „ინტერნეტის ეპოქაში უაზროდ“ მიიჩნევს. Patrini ადარებს ამ თავსატეხს მავნე პროგრამას დაცვა და რამდენად შეუძლებელია ყველა კომპიუტერულ ვირუსს ან მათ ავტორებს ბოლო მოეღოს, ამიტომ უმჯობესია უბრალოდ ჩადოთ ინვესტიცია მავნე პროგრამების მექანიზმებში სამაგიეროდ. „საზოგადოებამ უნდა შექმნას ახალი მექანიზმები იმის დასადასტურებლად, თუ რისი ნდობაა შესაძლებელი და როგორ ავიცილოთ თავიდან სინთეზური შინაარსის უარყოფითი ზემოქმედება ინდივიდებსა და ორგანიზაციებზე“, - თქვა მან.

ტიმ ვანგი წერდა ჯორჯთაუნის უნივერსიტეტის მოხსენებაში, რომ ღრმა ყალბი ხელსაწყოების კომოდიფიკაციით, გამოვლენისა და ფილტრაციის ტექნოლოგია ის ავტომატურად, შესაბამისად, განვითარდება და გახდება უფრო ზუსტი - ამით ანეიტრალებს მათ უნარს წარმოადგინონ რაიმე სერიოზული მუქარები.

Microsoft-მა ახლახან გამოუშვა ღრმა ყალბი ამოცნობის ინსტრუმენტიმაგალითად, აანალიზებს ვიდეოებს, რათა შემოგთავაზოთ ნდობის ქულა, რომელიც მიუთითებს, რამდენად სავარაუდოა, რომ ვიდეო შეიცვალა.

„დიპფეიკები მედიის მანიპულირების ახალი ფორმაა, მაგრამ არა პირველი შემთხვევა, როდესაც ჩვენ ამ ტიპის გამოწვევის წინაშე ვდგავართ. ჩვენ ვიკვლევთ და ინვესტირებას ვახორციელებთ სინთეზური მედიის მოსაგვარებლად“, - თქვა YouTube-ის წარმომადგენელმა.

მკვლევარები უკან CtrlShiftLab, ღრმა სიყალბის შექმნის მოწინავე პროგრამული უზრუნველყოფა, რომელსაც ახლა იყენებს მრავალი YouTuber, მათ შორის Ctrl Shift Face ასევე მუშაობს ღია კოდის პროექტებზე ცნობიერების ამაღლებისა და უფრო სრულყოფილი გამოვლენის შესაქმნელად მომსახურება.

„ამ [სიღრმისეული ბოროტად გამოყენების] თავიდან აცილების ერთადერთი გზა არის ღრმა ფეიკთან დაკავშირებული ღია კოდის პროექტის შექმნა და საზოგადოების ყურადღების მიპყრობა. ასე რომ, საჯარო ქსელის მომხმარებლებს შეუძლიათ გააცნობიერონ, რომ ღრმა ფეიქი არსებობს“, - განუცხადა Digital Trends-ს კუნლინ ლიუმ, CtrlShiftLab-ის ერთ-ერთმა მკვლევარმა.

დიპფეიქის რამდენიმე შემქმნელმა Digital Trends ისაუბრა, რომ ოპტიმისტურად იყო განწყობილი და აღმოაჩინა, რომ ქვეყნების წინააღმდეგობა ღრმა ფეიქების წინააღმდეგ ნაადრევია. ისინი თანხმდებიან, რომ Deepfake-ის მზარდი როლი მემებსა და პაროდიულ კულტურაში მნიშვნელოვანი იქნება ამ განვითარებადი ტექნოლოგიის უხეში რეპუტაციის გამოსწორებაში. და სანამ ვიდეოებს აქვთ პასუხისმგებლობის უარყოფა და პლატფორმები ინვესტიციას უკეთებენ აღმოჩენის უფრო ეფექტურ ფენებს, დაამატეს მათ, ღრმა ფეიქი აქ დარჩება.

„ვფიქრობ, რომ ღრმად ფეიქების რეპუტაცია საგრძნობლად უმჯობესდება. ორი წლის წინ სიტყვა deepfake ავტომატურად პორნოს ნიშნავდა“, - თქვა Ctrl Shift Face-ის შემქმნელმა. „ახლა ადამიანების უმეტესობამ იცის ღრმა ფეიქი ინტერნეტში გავრცელებული ამ გასართობი ვიდეოების გამო“.

რედაქტორების რეკომენდაციები

• ციფრული ტენდენციების Tech For Change CES 2023 ჯილდოები
• მხიარულ პროექტში Gucciberg, ღრმად გაყალბებული Gucci Mane კითხულობს კლასიკურ რომანებს
• როგორ იყენებენ მხატვრები და აქტივისტები ღრმა ფეიქს, როგორც სიკეთის ძალა
• ტვიტერი 2020 წლის არჩევნების წინ აკრძალავს ღრმა ფეიქეებს, რომლებიც „ზიანს აყენებენ“.
• კალიფორნია არღვევს ღრმა ფეიქებს პოლიტიკისა და პორნოსთვის