See A.I. Võib raputada viisi, kuidas me veebis kommentaare loeme

Kuidas lahendada sellist probleemi nagu Internet? See on küsimus, millel poleks ausalt öeldes isegi veerand sajandit tagasi olnud vähe mõtet. Internet, mis suudab levitada nii teavet kui ka demokraatlikke väärtusi Maa igasse kaugemasse nurka, oli vastus.

Internetist ravimi küsimine oli nagu vähiravimite küsimine. Siin 2020. aastal on pilt veidi porisem. Jah, internet on hämmastavalt geniaalne igasuguste asjade jaoks. Kuid see tekitab ka probleeme võltsuudiste levitamine digitaalsesse prügikasti, mis on iga YouTube'i kommentaaride jaotis. Teisisõnu öeldes võib internet olla kõikvõimalik mürgine. Kuidas me seda puhastame?

Siin pole lihtsaid vastuseid. Kas lahendus on algoritmiline või inimtsensuur? Kas peaksime sulgema kõik vastuoluliste teemade kommentaaride jaotised? Kas eraomanduses olev platvorm peab tõesti tundma kohustust anda kõigile hääl? Kuidas ühtib äärmuslike arvamuste blokeerimine avalikkuse huvides Interneti unistusega anda kõigile hääl?

Carnegie Melloni ülikooli teadlased on loonud uue intrigeeriva tööriista, mis võib nende arvates aidata. See on tehisintellekti algoritm, mis ei blokeeri negatiivset kõnet, vaid pigem tõstab esile või võimendab "abikõnet", et seda oleks lihtsam leida. Protsessi käigus loodavad nad, et see võib aidata kaasa kübertoopilisele ambitsioonile muuta Internet hääletute võimestamiseks paremini hääleks.

Hääl hääletutele

A.I. Carnegie Melloni meeskonna poolt välja töötatud Keeletehnoloogia instituut, sõelub YouTube'i kommentaare ja tõstab esile kommentaare, mis kaitsevad antud juhul valimisõiguseta vähemusi, nagu rohingya kogukond, või tunnevad neile kaasa. Myanmari valitsus on moslemitest rohingya rahvast alates 2016. aasta oktoobrist suures osas tagakiusanud. Genotsiidikriis on sundinud enam kui miljonit rohingjat naaberriikidesse põgenema. See on meeleheitlik olukord, mis hõlmab usulist tagakiusamist ja etnilist puhastust, kuid te ei pruugi seda teada paljudest kommentaaridest, mis on ilmunud kohalikus sotsiaalmeedias; tohutult palju kommentaare teema teisel poolel.

"Me töötasime välja raamistiku valimisõiguseta vähemuse – antud juhul rohingjade – eest võitlemiseks, et tuvastada automaatselt neid toetav veebisisu," Ashique Khudabukhsh, ütles Carnegie Melloni arvutiteaduse osakonna projektiteadlane väljaandele Digital Trends. „Keskendusime YouTube'ile, Lõuna-Aasias ülipopulaarsele sotsiaalmeediaplatvormile. Meie analüüsid näitasid, et suur hulk rohingjade kohta käivaid kommentaare oli nende jaoks halvustav. Töötasime välja automatiseeritud meetodi, et tuvastada oma põhjust toetavaid kommentaare, mis muidu jääksid suure hulga karmide negatiivsete kommentaaride alla.

„Üldise raamistiku vaatenurgast erineb meie töö traditsioonilisest vihakõne tuvastamise tööst, kus on põhirõhk tegeleb negatiivse sisu blokeerimisega, [kuigi see on] aktiivne ja väga oluline uurimisvaldkond," Khudabukhsh jätkus. „Seevastu meie töö toetavate kommentaaride tuvastamisel – mida me nimetame abikõneks – tähistab uut suunda veebikogemuse parandamiseks positiivsete külgede võimendamise kaudu.”

Et koolitada oma A.I. filtreerimissüsteemi, kogusid teadlased YouTube'i rohkem kui veerand miljonit kommentaari. Kasutades tipptasemel lingvistilist modelleerimistehnoloogiat, lõid nad algoritmi, mis suudab neid kommentaare uurida, et tõsta kiiresti esile rohingja kogukonna poolel olevad kommentaarid. Kasutajate kommentaaride automaatne semantiline analüüs, nagu arvata võib, pole lihtne. Ainuüksi India subkontinendil on 22 peamist keelt. Keele hindamisel tuleb tegeleda ka sageli õigekirjavigade ja ebastandardsete õigekirjavariatsioonidega.

Rõhutage positiivset

Sellest hoolimata on A.I. meeskonna poolt arendatud suutsid positiivsete kommentaaride nähtavust oluliselt suurendada. Veelgi olulisem on see, et see suutis seda teha palju kiiremini, kui oleks võimalik inimmoderaatori jaoks, kes ei suudaks käsitsi reaalajas suurel hulgal kommentaare läbi vaadata ja eriti neid kinnitada kommentaarid. See võib olla eriti oluline stsenaariumide puhul, kus ühel poolel võivad domineeriva keele oskused olla piiratud ja juurdepääs sellele piiratud Internet või kõrgema prioriteediga probleemid (loe: tagakiusamise vältimine), mis võivad olla veebipõhises osalemise suhtes ülimuslikud vestlused.

"Me kõik oleme kogenud, et oleme üks sõber, kes seisis teise sõbra eest nende puudumisel," jätkas Khudabukhsh. "Mõelge sellele nüüd globaalses mastaabis. Mis saab siis, kui te ei osale teie üle toimuvas ülemaailmses arutelus ega saa end kaitsta? Kuidas saab A.I. aidata selles olukorras? Nimetame seda 21. sajandi probleemiks: rändekriisid kõikjal leviva Interneti ajastul, kus pagulaste hääli on vähe. Tulevikus leiame, et geopoliitilised küsimused, kliima ja ressurssidest tingitud põhjused võivad vallandada uusi rändekriise ning meie töö ohus olevate kogukondade kaitsmisel veebimaailmas on väga oluline.

Kuid kas piisab vaid teatud vähemuste häälte esiletõstmisest või on see vaid algoritmiline versioon iga paari aasta tagant välja käidud kontseptsioonist käivitada uudisteväljaanne, mis räägib ainult häid uudiseid? Võib-olla mõnes mõttes, kuid see läheb ka palju kaugemale pelgalt sümboolsete kommentaaride esiletõstmisest, pakkumata võimalusi laiemate probleemide lahendamiseks. Seda silmas pidades on teadlased projekti juba laiendanud, et uurida viise, kuidas A.I. saab kasutada positiivse sisu võimendamiseks muus erinevas, kuid siiski suure sotsiaalse mõjuga stsenaariumid. Üks näide on võrguarutelud tuumavastaste vahelise kõrgendatud poliitilise pinge ajal. Seda tööd, mida meeskond esitleb juunis Euroopa tehisintellekti konverentsil (ECAI 2020), saab kasutada vaenulikkust levitava sisu tuvastamiseks ja esitamiseks. Sarnast tehnoloogiat saab luua paljude muude stsenaariumide jaoks – igaühe jaoks sobiva kohandamisega.

Need on vastuvõtumäärad #ECAI2020 panused:
– täispaberid: 26,8%
– Esiletõstetud paberid: 45%

Suur tänu ülevaatusprotsessi tehtud pingutuste eest!

— ECAI2020 (@ECAI2020) 15. jaanuar 2020

"Põhieeldus, kuidas kogukonda saab aidata, sõltub kõnealusest kogukonnast," ütles Khudabukhsh. „Isegi erinevad pagulaskriisid nõuaksid erinevaid arusaamu abistamisest. Näiteks kriiside korral, kus nakkushaiguste puhkemine on suur probleem, võib meditsiinilise abi osutamine olla tohutult abiks. Mõne majanduslikult ebasoodsas olukorras oleva rühma jaoks võib kogukonna inimeste edulugude esiletõstmine olla motiveeriv tegur. Seetõttu vajaks iga kogukond positiivse sisu automaatseks leidmiseks erinevaid nüansirikkaid abikõne klassifikaatoreid. Meie töö annab selleks plaani.

Pole lihtsaid parandusi

Nii põnev kui see töö ka pole, pole võrgukõne probleemi lahendamisel lihtsaid lahendusi. Osa väljakutsest seisneb selles, et praegune internet premeerib valju häält. Näiteks Google'i PageRank algoritm järjestab veebilehed nende tajutava tähtsuse järgi, loendades lehele viivate linkide arvu ja kvaliteedi. Populaarsed teemad Twitteris on tingitud sellest, millest kõige rohkem inimesi säutsub. Kommentaaride jaotises tuuakse sageli esile need arvamused, mis kutsuvad esile kõige tugevama reaktsiooni.

Internetis levivate kujuteldamatult suur häälte hulk võib eriarvamusel olevad hääled summutada; sageli marginaliseerivad hääled, millel on vähemalt teoreetiliselt sama platvorm kui kellelgi teisel.

Selle muutmiseks kulub palju rohkem kui üks lahe YouTube'i kommentaaride puhastamise algoritm. See pole siiski halb algus.

Toimetajate soovitused

• Viimistlus: kuidas teadlased annavad robotitele inimlikke puutetundlikkusi
• Naljakas valem: miks masinaga loodud huumor on A.I püha graal?
• A.I. ei unusta tavaliselt midagi, aga Facebooki uus süsteem seda teeb. Siin on põhjus
• Emotsioone tajuv A.I. on siin ja see võib olla teie järgmisel tööintervjuul
• Keele supermodell: kuidas GPT-3 hakkab vaikselt sisse juhatama A.I. revolutsioon