Tämä A.I. Voisi muuttaa tapaamme lukea kommentteja verkossa

Miten ratkaiset Internetin kaltaisen ongelman? Se on kysymys, jolla ei suoraan sanottuna olisi ollut mitään järkeä vielä neljännesvuosisata sitten. Internet, jolla on kyky levittää sekä tietoa että demokraattisia arvoja jokaiseen maapallon kulmaan, oli vastaus.

Lääkkeen pyytäminen Internetistä oli kuin pyytäisi parannuskeinoa syöpään. Täällä vuonna 2020 kuva on hieman mutkaisempi. Kyllä, internet on hämmästyttävän loistava kaikenlaisiin asioihin. Mutta se aiheuttaa myös ongelmia valeuutisten leviäminen digitaaliseen roskakoriin, joka on jokaisen YouTube-kommenttiosion kautta koskaan. Toisin sanoen Internet voi olla kaikenlaista myrkyllistä. Kuinka puhdistamme sen?

Tässä ei ole yksinkertaisia ​​vastauksia. Onko algoritminen vai ihmislähtöinen sensuuri vastaus? Pitäisikö meidän sulkea kaikki kiistanalaisia ​​aiheita koskevat kommenttiosat? Pitääkö yksityisomistuksessa olevan alustan todella tuntea olevansa velvollisuus tarjota kaikille ääni? Miten rajallisten mielipiteiden estäminen yleisön hyväksi sopii yhteen internetin unelman kanssa antaa ääni kaikille?

Carnegie Mellonin yliopiston tutkijat ovat luoneet kiehtovan uuden työkalun, jonka he uskovat voivan auttaa. Se on tekoälyalgoritmi, joka ei toimi estämällä negatiivista puhetta, vaan pikemminkin korostamalla tai vahvistamalla "apupuhetta", jotta se on helpompi löytää. Prosessissa he toivovat, että se voisi auttaa kybertooppisessa kunnianhimossa tehdä Internetistä entistä parempi ääni äänettömien voimaannuttamiseksi.

Ääni äänettömälle

A.I. Carnegie Mellonin tiimin suunnittelema Language Technologies Institute, selaa YouTube-kommentteja ja korostaa kommentteja, jotka puolustavat tai myötätuntoisia tässä tapauksessa vailla olevia vähemmistöjä, kuten Rohingya-yhteisöä. Myanmarin hallitus on vainonnut muslimikansaa lokakuusta 2016 lähtien. Kansanmurhakriisi on pakottanut yli miljoona rohingyaa pakenemaan naapurimaihin. Se on epätoivoinen ahdinko, johon liittyy uskonnollinen vaino ja etninen puhdistus – mutta et välttämättä tiedä sitä monista kommenteista, joita on esiintynyt paikallisessa sosiaalisessa mediassa; ylivoimainen määrä kommentteja asian toisella puolella.

"Kehitimme viitekehyksen oikeutensa menettäneen vähemmistön - tässä tapauksessa rohingyan - asian puolustamiseksi, jotta voimme automaattisesti havaita heitä tukevan verkkosisällön." Ashique Khudabukhsh, Carnegie Mellonin tietojenkäsittelytieteen osaston projektitutkija kertoi Digital Trendsille. ”Keskityimme YouTubeen, Etelä-Aasiassa erittäin suosittuun sosiaalisen median alustaan. Analyysimme paljasti, että suuri määrä rohingyalaisia ​​koskevia kommentteja oli heitä halveksivaa. Kehitimme automatisoidun menetelmän havaitaksemme syynsä puolustavat kommentit, jotka muuten hukkuisivat suureen määrään ankaria, negatiivisia kommentteja.

”Yleisen viitekehyksen näkökulmasta työmme eroaa perinteisestä vihapuheentunnistustyöstä, jossa pääpaino on aikoo estää negatiivisen sisällön, [vaikka tämä on] aktiivinen ja erittäin tärkeä tutkimusalue", Khudabukhsh jatkui. "Päinvastoin, työmme, jossa havaitsemme tukevia kommentteja, joita kutsumme avuksi, merkitsee uutta suuntaa parantaa verkkokokemusta vahvistamalla positiivisia puolia."

Kouluttaakseen A.I. suodatusjärjestelmässä tutkijat keräsivät yli neljännesmiljoonaa YouTube-kommenttia. Käyttämällä huippuluokan kielellistä mallinnustekniikkaa he loivat algoritmin, joka voi tutkia nämä kommentit ja korostaa kommentteja nopeasti rohingyayhteisön puolella. Käyttäjien kommenttien automaattinen semanttinen analyysi ei ole, kuten arvata saattaa, helppoa. Pelkästään Intian niemimaalla on 22 suurta kieltä. Kielen arvioinnissa on myös usein käsiteltävä kirjoitusvirheitä ja epätyypillisiä kirjoitusmuunnelmia.

Korosta positiivista

Siitä huolimatta A.I. tiimin kehittämät lisäsivät huomattavasti positiivisten kommenttien näkyvyyttä. Vielä tärkeämpää on, että se pystyi tekemään tämän paljon nopeammin kuin olisi mahdollista ihmismoderaattorille, jotka eivät pystyisi manuaalisesti läpi suuria määriä kommentteja reaaliajassa ja kiinnittää erityisesti kommentteja. Tämä voi olla erityisen tärkeää skenaarioissa, joissa toisella osapuolella voi olla rajalliset taidot hallitsevassa kielessä, rajoitettu pääsy siihen Internet tai tärkeämpiä asioita (lue: vainon välttäminen), jotka saattavat olla etusijalla verkkoon osallistumiseen verrattuna keskusteluja.

"Olemme kaikki kokeneet olevansa se yksi ystävä, joka puolustaa toista ystävää heidän poissa ollessaan", Khudabukhsh jatkoi. "Mieti tätä nyt maailmanlaajuisesti. Entä jos et ole mukana maailmanlaajuisessa keskustelussa sinusta etkä pysty puolustamaan itseäsi? Miten A.I. apua tässä tilanteessa? Kutsumme tätä 2000-luvun ongelmaksi: siirtolaiskriisit kaikkialla läsnä olevan internetin aikakaudella, jolloin pakolaisten äänet ovat harvassa. Jatkossa katsomme, että geopoliittiset kysymykset, ilmasto- ja resurssivetoiset syyt voivat laukaista uusia siirtolaiskriisejä, ja työmme verkkomaailman riskiyhteisöjen puolustamiseksi on erittäin tärkeää.

Mutta riittääkö vain tiettyjen vähemmistöäänien korostaminen, vai onko tämä vain algoritminen versio muutaman vuoden välein raivatusta konseptista avata uutiskanava, joka kertoo vain hyviä uutisia? Ehkä jollain tapaa, mutta se menee myös paljon pidemmälle kuin pelkkä merkkikommenttien korostaminen tarjoamatta tapoja käsitellä laajempia ongelmia. Tätä silmällä pitäen tutkijat ovat jo laajentaneet projektia tarkastellakseen tapoja, joilla A.I. voidaan käyttää vahvistamaan positiivista sisältöä muissa erilaisissa, mutta kuitenkin suurissa sosiaalisissa vaikutuksissa skenaarioita. Eräs esimerkki on verkkokeskustelu ydinvastustajien välisen kohonneen poliittisen jännitteen aikana. Tätä työtä, jonka tiimi esittelee Euroopan tekoälyn konferenssissa (ECAI 2020) kesäkuussa, voitaisiin käyttää vihamielisyyttä levittävän sisällön havaitsemiseen ja esittämiseen. Samanlaista tekniikkaa voitaisiin luoda lukuisille muille skenaarioille – jokaiselle sopivalla räätälöinnillä.

Nämä ovat hyväksymisprosentit #ECAI2020 lahjoitukset:
– Kokopaperit: 26,8 %
– Kohopaperit: 45 %

Paljon kiitoksia vaivannäöstäsi, jota osoitit tarkistusprosessiin!

— ECAI2020 (@ECAI2020) 15. tammikuuta 2020

"Peruslähtökohta siitä, kuinka yhteisöä voidaan auttaa, riippuu kyseisestä yhteisöstä", sanoi Khudabukhsh. ”Jopa erilaiset pakolaiskriisit vaatisivat erilaisia ​​käsityksiä auttamisesta. Esimerkiksi kriiseissä, joissa tarttuvien tautien puhkeaminen on suuri ongelma, lääketieteellisen avun tarjoaminen voi olla valtava apu. Joillekin taloudellisesti heikossa asemassa oleville ryhmille yhteisön ihmisten menestystarinoiden esille tuominen voisi olla motivoiva tekijä. Tästä syystä kukin yhteisö tarvitsee erilaisia ​​vivahteikkoja apua puheen luokittelijoille löytääkseen positiivista sisältöä automaattisesti. Työmme tarjoaa siihen mallin."

Ei helppoja korjauksia

Niin kiehtova kuin tämä työ onkin, verkkopuheen ongelman ratkaisemisessa ei ole helppoja korjauksia. Osa haastetta on se, että internet nykyisessä muodossaan palkitsee kovia ääniä. Esimerkiksi Googlen PageRank-algoritmi luokittelee verkkosivut niiden tärkeyden mukaan laskemalla sivulle johtavien linkkien määrän ja laadun. Twitterin trendaavat aiheet sanelevat sen, mistä suurin osa ihmisistä twiittaa. Kommenttiosioissa korostetaan usein niitä mielipiteitä, jotka herättävät voimakkaimman reaktion.

Internetin käsittämättömän suuri määrä ääniä voi tukahduttaa eriävät äänet; usein marginalisoivat ääniä, joilla on ainakin teoriassa sama alusta kuin muillakin.

Sen muuttaminen vaatii paljon enemmän kuin yhden hienon YouTube-kommenttien pesualgoritmin. Se ei kuitenkaan ole huono aloitus.

Toimittajien suositukset

• Viimeistely: Kuinka tiedemiehet antavat roboteille ihmismäisiä tuntoaisteja
• Hauska kaava: Miksi koneella luotu huumori on A.I: n pyhä malja?
• A.I. ei yleensä unohda mitään, mutta Facebookin uusi järjestelmä unohtaa. Tässä on syy
• Tunteita tunnistava A.I. on täällä, ja se voi olla seuraavassa työhaastattelussasi
• Kielen supermalli: Kuinka GPT-3 aloittaa hiljaa A.I: n vallankumous