Ovaj A.I. Moglo bi uzdrmati način na koji čitamo komentare na internetu

Kako riješiti problem poput interneta? To je pitanje koje, iskreno, ne bi imalo smisla ni prije četvrt stoljeća. Internet, sa svojom sposobnošću širenja informacija i demokratskih vrijednosti u svaki daleki kutak Zemlje, bio je odgovor.

Tražiti lijek za internet bilo je kao tražiti lijek za lijek protiv raka. Ovdje u 2020. slika je malo mutnija. Da, internet je zapanjujuće briljantan za razne stvari. Ali to također predstavlja probleme, od širenje lažnih vijesti do, pa, digitalne septičke jame koja je svaki odjeljak za komentare na YouTubeu. Drugim riječima, internet može biti svakakav. Kako ćemo to očistiti?

Ovdje nema jednostavnih odgovora. Je li odgovor algoritamska ili ljudska cenzura? Trebamo li zatvoriti sve odjeljke s komentarima o kontroverznim temama? Treba li se platforma u privatnom vlasništvu doista osjećati obveznom pružiti svima mogućnost glasa? Kako se blokiranje rubnih mišljenja za javno dobro slaže sa snom interneta da se svima da glas?

Istraživači sa Sveučilišta Carnegie Mellon stvorili su intrigantan novi alat za koji vjeruju da bi mogao pomoći. To je algoritam umjetne inteligencije koji ne funkcionira blokiranjem negativnog govora, već isticanjem ili pojačavanjem "govora pomoći" kako bi ga lakše pronašli. U procesu se nadaju da bi to moglo pomoći u cybertopijskim ambicijama boljeg pretvaranja interneta u glas za osnaživanje onih bez glasa.

Glas za one bez glasa

A.I. osmislio tim iz Carnegie Mellona Institut za jezične tehnologije, prebira po komentarima na YouTubeu i ističe komentare koji brane ili simpatiziraju, u ovom slučaju, obespravljene manjine kao što je zajednica Rohingya. Muslimanski narod Rohingya bio je predmet niza progona koje vlada u Mjanmaru uglavnom nastavlja od listopada 2016. Genocidna kriza natjerala je više od milijun Rohingya da pobjegnu u susjedne zemlje. To je očajnička situacija koja uključuje vjerski progon i etničko čišćenje - ali to ne biste nužno znali iz mnogih komentara koji su se pojavili na lokalnim društvenim medijima; nevjerojatan broj komentara na drugu stranu problema.

"Razvili smo okvir za promicanje prava obespravljene manjine - u ovom slučaju Rohinja - kako bismo automatski otkrili web sadržaj koji ih podržava," Ashique Khudabukhsh, projektni znanstvenik na Odjelu za računalne znanosti na Carnegie Mellonu, rekao je za Digital Trends. “Usredotočili smo se na YouTube, platformu društvenih medija iznimno popularnu u Južnoj Aziji. Naše analize otkrile su da je veliki broj komentara o Rohinjama bio omalovažavajući prema njima. Razvili smo automatiziranu metodu za otkrivanje komentara koji se zalažu za svoju svrhu, a koji bi inače bili zatamnjeni velikim brojem oštrih, negativnih komentara.”

“Iz perspektive općeg okvira, naš se rad razlikuje od tradicionalnog rada na otkrivanju govora mržnje gdje je glavni fokus je na blokiranju negativnog sadržaja, [iako je to] aktivno i vrlo važno istraživačko područje,” Khudabukhsh nastavio. "Nasuprot tome, naš rad na otkrivanju komentara podrške - ono što nazivamo govorom pomoći - označava novi smjer poboljšanja online iskustva kroz pojačavanje pozitivnih strana."

Kako bi uvježbali svoj A.I. sustavom filtriranja, istraživači su prikupili više od četvrt milijuna YouTube komentara. Koristeći vrhunsku tehnologiju lingvističkog modeliranja, stvorili su algoritam koji može pretražiti te komentare kako bi brzo istaknuo komentare koji su na strani zajednice Rohingya. Automatizirana semantička analiza korisničkih komentara, kao što možete očekivati, nije laka. Samo na indijskom potkontinentu postoje 22 glavna jezika. Također postoje česte pravopisne pogreške i nestandardne pravopisne varijacije s kojima se treba pozabaviti kada je u pitanju procjena jezika.

Naglasite pozitivno

Bez obzira na to, A.I. razvijen od strane tima uspjeli su uvelike povećati vidljivost pozitivnih komentara. Što je još važnije, mogao je to učiniti mnogo brže nego što bi to bilo moguće za ljudskog moderatora, koji ne bi mogli ručno pregledati velike količine komentara u stvarnom vremenu i posebno ih prikvačiti komentari. To bi moglo biti osobito važno u scenarijima u kojima jedna strana može imati ograničene vještine u dominantnom jeziku, kojemu je ograničen pristup internet ili pitanja višeg prioriteta (čitaj: izbjegavanje proganjanja) koja bi mogla imati prednost nad sudjelovanjem u online razgovori.

“Svi smo iskusili da smo bili taj jedan prijatelj koji se zauzeo za drugog prijatelja u njihovoj odsutnosti,” nastavio je Khudabukhsh. “Sada razmotrite ovo na globalnoj razini. Što ako niste prisutni u globalnoj raspravi o vama i ne možete se braniti? Kako A.I. pomoći u ovoj situaciji? To nazivamo problemom 21. stoljeća: migrantske krize u eri sveprisutnog interneta gdje su glasovi izbjeglica rijetki. Ubuduće smatramo da bi geopolitička pitanja, klima i razlozi potaknuti resursima mogli izazvati nove migrantske krize i naš rad na obrani rizičnih zajednica u online svijetu je vrlo važan.”

No, je li jednostavno isticanje glasova određenih manjina dovoljno ili je ovo samo algoritamska verzija koncepta pokretanja novinske kuće koja govori samo dobre vijesti svakih nekoliko godina? Možda na neki način, ali također nadilazi puko isticanje token komentara bez nuđenja načina za rješavanje širih problema. Imajući to na umu, istraživači su već proširili projekt kako bi istražili načine na koje A.I. može se koristiti za pojačavanje pozitivnog sadržaja u drugim različitim, ali unatoč tome visokim društvenim utjecajem scenariji. Jedan primjer su online rasprave tijekom pojačanih političkih napetosti između nuklearnih protivnika. Ovaj rad, koji će tim predstaviti na Europskoj konferenciji o umjetnoj inteligenciji (ECAI 2020.) u lipnju, mogao bi se koristiti za otkrivanje i predstavljanje sadržaja koji širi neprijateljstvo. Slična tehnologija mogla bi se stvoriti za mnoštvo drugih scenarija — s odgovarajućim prilagođavanjem za svaki.

Ovo su stope prihvaćanja za #ECAI2020 doprinosi:
– Puni radovi: 26,8%
– Istaknuti radovi: 45%

Puno vam hvala na trudu koji ste uložili u postupak pregleda!

— ECAI2020 (@ECAI2020) 15. siječnja 2020

"Osnovna premisa o tome kako se zajednici može pomoći ovisi o zajednici o kojoj je riječ", rekao je Khudabukhsh. “Čak i različite izbjegličke krize zahtijevale bi različite pojmove pomoći. Na primjer, u krizama u kojima je izbijanje zarazne bolesti veliki problem, pružanje medicinske pomoći može biti od goleme pomoći. Za neku skupinu u ekonomski nepovoljnom položaju isticanje uspješnih priča ljudi u zajednici moglo bi biti motivirajući čimbenik. Stoga bi svaka zajednica zahtijevala različite nijansirane pomoćne klasifikatore govora za automatsko pronalaženje pozitivnog sadržaja. Naš rad daje nacrt za to.”

Nema lakih rješenja

Koliko god ovaj rad bio fascinantan, nema lakih rješenja kada je riječ o rješavanju problema govora na internetu. Dio izazova je to što internet kakav trenutno postoji nagrađuje glasne glasove. Googleov algoritam PageRank, na primjer, rangira web stranice prema njihovoj percipiranoj važnosti brojeći broj i kvalitetu poveznica na stranicu. Teme u trendu na Twitteru diktira ono o čemu najveći broj ljudi tweeta. Odjeljci komentara često ističu ona mišljenja koja izazivaju najjače reakcije.

Nezamislivo velik broj glasova na internetu može ugušiti glasove koji se ne slažu; često marginalizirajući glasove koji, barem u teoriji, imaju istu platformu kao i bilo tko drugi.

Da biste to promijenili, trebat će mnogo više od jednog cool YouTube algoritma za čišćenje komentara. Ipak, nije loš početak.

Preporuke urednika

• Završni dodir: Kako znanstvenici daju robotima ljudska osjetila za dodir
• Smiješna formula: zašto je strojno generirani humor sveti gral AI-ja
• A.I. obično ništa ne zaboravlja, ali Facebookov novi sustav zaboravlja. Evo zašto
• Umjetna inteligencija koja osjeća emocije je ovdje, a moglo bi biti na vašem sljedećem razgovoru za posao
• Jezični supermodel: Kako GPT-3 tiho uvodi A.I. revolucija