Šis A.I. Varētu mainīt veidu, kā mēs lasām komentārus tiešsaistē

Kā atrisināt tādu problēmu kā internets? Tas ir jautājums, kam, atklāti sakot, nebija lielas jēgas pat pirms ceturtdaļgadsimta. Internets ar spēju izplatīt gan informāciju, gan demokrātiskās vērtības visos attālos Zemes stūros, bija atbilde.

Lūgt izārstēt internetu bija tas pats, kas lūgt zāles pret vēzi. Šeit 2020. gadā aina ir nedaudz dubļaināka. Jā, internets ir pārsteidzoši izcils visu veidu lietām. Taču tas rada arī problēmas, sākot no viltus ziņu izplatīšana uz digitālo atkritumu tvertnes, kas ir katra YouTube komentāru sadaļa jebkad. Citiem vārdiem sakot, internets var būt visa veida toksisks. Kā mēs to iztīrām?

Šeit nav vienkāršu atbilžu. Vai atbilde ir algoritmiska vai cilvēka vadīta cenzūra? Vai mums vajadzētu aizvērt visas komentāru sadaļas par strīdīgām tēmām? Vai tiešām privātai platformai ir jājūtas pienākums ikvienam nodrošināt balsi? Kā ārzemju viedokļu bloķēšana sabiedrības labā saskan ar interneta sapni paust balsi ikvienam?

Kārnegija Melona universitātes pētnieki ir izveidojuši jaunu intriģējošu rīku, kas, viņuprāt, varētu palīdzēt. Tas ir mākslīgā intelekta algoritms, kas darbojas nevis, bloķējot negatīvu runu, bet gan izceļot vai pastiprinot “palīdzības runu”, lai to būtu vieglāk atrast. Šajā procesā viņi cer, ka tas varētu palīdzēt īstenot kibertopiskos mērķus labāk padarīt internetu par balsi bezbalsīgajiem.

Balss bezbalsīgajiem

A.I. izstrādājusi komanda no Kārnegija Melona Valodu tehnoloģiju institūts, izsijā YouTube komentārus un izceļ komentārus, kas šajā gadījumā aizstāv vai simpatizē minoritātēm, kurām ir atņemtas tiesības, piemēram, rohingu kopienai. Kopš 2016. gada oktobra Mjanmas valdība pārsvarā ir vajājusi musulmaņu rohingu tautu. Genocīda krīze ir likusi vairāk nekā miljonam rohingu bēgt uz kaimiņvalstīm. Tā ir izmisīga nožēlojama situācija, kas saistīta ar reliģiskām vajāšanām un etnisko tīrīšanu, taču jūs to noteikti nezinātu no daudziem komentāriem, kas ir parādījušies vietējos sociālajos medijos; ļoti daudz komentāru par jautājuma otru pusi.

"Mēs izstrādājām sistēmu, lai aizstāvētu mazākumtautības, šajā gadījumā rohingju, atņemtās tiesības, lai automātiski noteiktu tīmekļa saturu, kas viņus atbalsta." Ašike Khudabukhsh, projekta zinātnieks Kārnegija Melona Datorzinātņu nodaļā pastāstīja Digital Trends. “Mēs koncentrējāmies uz YouTube, sociālo mediju platformu, kas ir ārkārtīgi populāra Dienvidāzijā. Mūsu analīze atklāja, ka daudzi komentāri par rohingjiem viņus bija nievājoši. Mēs izstrādājām automatizētu metodi, lai atklātu komentārus, kas aizstāv to cēloni un kas pretējā gadījumā tiktu apslāpēti ar lielu skaitu skarbu, negatīvu komentāru.

“No vispārīgā ietvara viedokļa mūsu darbs atšķiras no tradicionālā naida runas noteikšanas darba, kurā galvenā uzmanība tiek pievērsta ir par negatīvā satura bloķēšanu, [lai gan šī ir] aktīva un ļoti svarīga pētniecības joma," Khudabukhsh turpinājās. "Turpretim mūsu darbs, atklājot atbalstošus komentārus — ko mēs saucam par palīdzības runu - iezīmē jaunu virzienu tiešsaistes pieredzes uzlabošanai, pastiprinot pozitīvos aspektus."

Lai apmācītu viņu A.I. filtrēšanas sistēma, pētnieki savāca vairāk nekā ceturtdaļmiljonu YouTube komentāru. Izmantojot jaunākās lingvistiskās modelēšanas tehnoloģijas, viņi izveidoja algoritmu, kas var izpētīt šos komentārus, lai ātri izceltu komentārus, kas ir saistīti ar rohingu kopienu. Automātiskā lietotāju komentāru semantiskā analīze, kā jūs varētu gaidīt, nav vienkārša. Indijas subkontinentā vien ir 22 galvenās valodas. Bieži vien ir arī pareizrakstības kļūdas un nestandarta pareizrakstības variācijas, kas jārisina, vērtējot valodu.

Akcentējiet pozitīvo

Neskatoties uz to, A.I. izstrādātās komandas spēja ievērojami palielināt pozitīvo komentāru redzamību. Vēl svarīgāk ir tas, ka tas spēja to izdarīt daudz ātrāk, nekā tas būtu iespējams moderatoram, kuri nevarētu manuāli ievadīt lielu daudzumu komentāru reāllaikā un īpaši piespraust komentāri. Tas varētu būt īpaši svarīgi scenārijos, kuros vienai pusei var būt ierobežotas prasmes dominējošā valodā, ierobežota piekļuve tai internets vai augstākas prioritātes problēmas (lasi: izvairīšanās no vajāšanas), kas varētu būt svarīgākas par dalību tiešsaistes sarunas.

"Mēs visi esam pieredzējuši, ka esam viens draugs, kurš iestājās par citu draugu viņa prombūtnes laikā," turpināja Khudabukhsh. "Tagad apsveriet to globālā mērogā. Ko darīt, ja jūs nepiedalāties globālā diskusijā par jums un nevarat sevi aizstāvēt? Kā var A.I. palīdzēt šajā situācijā? Mēs to saucam par 21. gadsimta problēmu: migrantu krīzes visuresošā interneta laikmetā, kad bēgļu balsis ir maz un tālu. Mēs uzskatām, ka ģeopolitiskie jautājumi, klimata un resursu izraisīti iemesli var izraisīt jaunas migrantu krīzes, un mūsu darbs, lai aizsargātu apdraudētas kopienas tiešsaistes pasaulē, ir ļoti svarīgs.

Bet vai pietiek tikai ar atsevišķu minoritāšu balsu izcelšanu, vai arī šī ir tikai ik pēc dažiem gadiem izstrādātās koncepcijas algoritmiskā versija par ziņu izlaiduma izveidi, kas vēsta tikai labas ziņas? Varbūt dažos veidos, bet tas arī sniedzas daudz tālāk par tikai simbolisku komentāru izcelšanu, nepiedāvājot veidus, kā risināt plašākas problēmas. Paturot to prātā, pētnieki jau ir paplašinājuši projektu, lai izpētītu veidus, kā A.I. var izmantot, lai pastiprinātu pozitīvo saturu citā atšķirīgā, bet tomēr augstā sociālajā ietekmē scenāriji. Viens no piemēriem ir tiešsaistes diskusijas paaugstinātas politiskās spriedzes laikā starp kodolieroču pretiniekiem. Šo darbu, ko komanda prezentēs Eiropas Mākslīgā intelekta konferencē (ECAI 2020) jūnijā, varētu izmantot, lai palīdzētu atklāt un parādīt naidīgumu izkliedējošu saturu. Līdzīgu tehnoloģiju varētu izveidot daudziem citiem scenārijiem — ar piemērotu pielāgošanu katram.

Šīs ir pieņemšanas likmes #ECAI2020 iemaksas:
– Pilni darbi: 26,8%
- Izceltie dokumenti: 45%

Liels paldies par pūlēm, ko ieguldījāt pārskatīšanas procesā!

— ECAI2020 (@ECAI2020) 2020. gada 15. janvāris

"Pamatnoteikums, kā kopienai var palīdzēt, ir atkarīgs no attiecīgās kopienas," sacīja Khudabukhsh. “Pat dažādām bēgļu krīzēm būtu nepieciešami dažādi palīdzības jēdzieni. Piemēram, krīzes gadījumos, kad infekcijas slimību uzliesmojums ir liela problēma, medicīniskās palīdzības sniegšana var būt ļoti noderīga. Dažām ekonomiski nelabvēlīgākām grupām cilvēku veiksmes stāstu izcelšana sabiedrībā varētu būt motivējošs faktors. Tādējādi katrai kopienai būtu nepieciešami dažādi niansēti palīdzības runas klasifikatori, lai automātiski atrastu pozitīvu saturu. Mūsu darbs sniedz priekšstatu par to.

Nav vienkāršu labojumu

Lai cik aizraujošs būtu šis darbs, tiešsaistes runas problēmas risināšanai nav vienkāršu labojumu. Daļa no izaicinājumiem ir tāda, ka internets, kāds tas pašlaik pastāv, atalgo skaļas balsis. Piemēram, Google PageRank algoritms sarindo tīmekļa lapas pēc to uztvertās svarīguma, saskaitot saišu skaitu un kvalitāti uz lapu. Populārākās tēmas vietnē Twitter nosaka tas, par ko tviterī raksta lielākais cilvēku skaits. Komentāru sadaļās bieži tiek izcelti tie viedokļi, kas izraisa visspēcīgākās reakcijas.

Neiedomājami lielais balsu skaits internetā var apslāpēt dažādas balsis; bieži marginalizē balsis, kurām vismaz teorētiski ir tāda pati platforma kā jebkuram citam.

Lai to mainītu, būs nepieciešams daudz vairāk nekā viens foršs YouTube komentāru tīrīšanas algoritms. Tomēr tas nav slikts sākums.

Redaktoru ieteikumi

• Apdare: kā zinātnieki robotiem piešķir cilvēkiem līdzīgas taustes sajūtas
• Smieklīgā formula: kāpēc mašīnu radīts humors ir A.I. svētais grāls?
• A.I. parasti neko neaizmirst, bet Facebook jaunā sistēma aizmirst. Lūk, kāpēc
• Emociju sensors A.I. ir šeit, un tas varētu būt jūsu nākamajā darba intervijā
• Valodas supermodele: kā GPT-3 klusi ievada A.I. revolūcija