Šis A.I. Gali pakreipti tai, kaip skaitome komentarus internete

Kaip išspręsti tokią problemą kaip internetas? Tai klausimas, kuris, tiesą pasakius, būtų mažai prasmingas net prieš ketvirtį amžiaus. Internetas, turintis galimybę skleisti informaciją ir demokratines vertybes kiekviename tolimame Žemės kampelyje, buvo atsakymas.

Prašyti vaistų nuo vėžio internete buvo kaip prašyti vaistų nuo vėžio. Štai 2020 m. vaizdas yra šiek tiek purvinas. Taip, internetas yra stebėtinai puikus įvairiems dalykams. Tačiau tai taip pat kelia problemų netikrų naujienų sklaida į skaitmeninę šiukšliadėžę, kuri yra kiekvienoje „YouTube“ komentarų skiltyje. Kitaip tariant, internetas gali būti toksiškas. Kaip mes jį išvalome?

Čia nėra paprastų atsakymų. Ar atsakymas yra algoritminė ar žmogaus skatinama cenzūra? Ar turėtume uždaryti visas komentarų skiltis prieštaringai vertinamomis temomis? Ar privati ​​platforma tikrai turi jausti pareigą kiekvienam suteikti balsą? Kaip nuomonių užblokavimas visuomenės labui atitinka interneto svajonę suteikti balsą visiems?

Carnegie Mellon universiteto mokslininkai sukūrė intriguojančią naują priemonę, kuri, jų nuomone, gali padėti. Tai dirbtinio intelekto algoritmas, kuris veikia ne blokuodamas neigiamą kalbą, o paryškindamas arba sustiprindamas „pagalbos kalbą“, kad būtų lengviau ją rasti. Jie tikisi, kad tai gali padėti įgyvendinti kibertopinį siekį geriau paversti internetą balsu, suteikiančiu galių bebalsiams.

Balsas bebalsiams

A.I. sukūrė komanda iš Carnegie Mellon's Kalbos technologijų institutas, peržiūri „YouTube“ komentarus ir pabrėžia komentarus, kurie gina arba simpatizuoja, šiuo atveju, atimtas mažumas, pvz., rohinjų bendruomenę. Nuo 2016 m. spalio Mianmaro vyriausybė nuolat persekioja musulmonus rohinjų žmones. Dėl genocido krizės daugiau nei milijonas rohinjų buvo priversti bėgti į kaimynines šalis. Tai beviltiška padėtis, susijusi su religiniu persekiojimu ir etniniu valymu, bet nebūtinai tai žinotumėte iš daugelio komentarų, pasirodžiusių vietinėje socialinėje žiniasklaidoje; didžiulis komentarų skaičius kitoje problemos pusėje.

„Sukūrėme sistemą, skirtą kovoti už mažumos, kuriai atimtos teisės, – šiuo atveju rohinjų – priežastį, kad automatiškai aptiktume juos palaikantį žiniatinklio turinį. Ashique Khudabukhsh, projekto mokslininkas iš Carnegie Mellon Kompiuterių mokslų skyriaus, pasakojo „Digital Trends“. „Mes sutelkėme dėmesį į „YouTube“, Pietų Azijoje nepaprastai populiarią socialinės žiniasklaidos platformą. Mūsų analizė atskleidė, kad daugybė komentarų apie rohinjus juos niekina. Sukūrėme automatizuotą metodą, skirtą aptikti komentarus, kurie gina jų priežastį, o kitu atveju juos užgožtų daugybė šiurkščių, neigiamų komentarų.

„Žvelgiant iš bendros sistemos perspektyvos, mūsų darbas skiriasi nuo tradicinio neapykantos kurstančios kalbos aptikimo darbo, kuriame pagrindinis dėmesys skiriamas siekia blokuoti neigiamą turinį, [nors tai yra] aktyvi ir labai svarbi tyrimų sritis“, – sakė Khudabukhshas. tęsė. „Priešingai, mūsų darbas aptikti palaikančius komentarus – tai, ką vadiname pagalbos kalba – žymi naują kryptį gerinti internetinę patirtį didinant teigiamus dalykus.

Norėdami išmokyti savo A.I. filtravimo sistemą, tyrėjai surinko daugiau nei ketvirtį milijono „YouTube“ komentarų. Naudodami pažangiausias kalbinio modeliavimo technologijas, jie sukūrė algoritmą, kuris gali ištirti šiuos komentarus, kad greitai išryškintų komentarus, kurie yra rohinjų bendruomenės pusėje. Automatizuota semantinė vartotojų komentarų analizė, kaip galima tikėtis, nėra lengva. Vien Indijos subkontinente yra 22 pagrindinės kalbos. Vertinant kalbą, taip pat dažnai pasitaiko rašybos klaidų ir nestandartinių rašybos variantų.

Akcentuokite teigiamą

Nepaisant to, A.I. komandos sukurti sugebėjo gerokai padidinti teigiamų komentarų matomumą. Dar svarbiau, kad tai pavyko padaryti daug greičiau, nei būtų įmanoma moderatoriui, kurie negalėtų rankiniu būdu peržiūrėti didelio kiekio komentarų realiuoju laiku ir ypač prisegti komentarus. Tai gali būti ypač svarbu scenarijuose, kai viena pusė gali turėti ribotus dominuojančios kalbos įgūdžius ir ribotą prieigą prie jos internetas arba aukštesnio prioriteto klausimai (skaitykite: persekiojimo vengimas), kurie gali būti svarbesni už dalyvavimą internete pokalbius.

„Mes visi patyrėme, kad esame vienas draugas, kuris stojo už kitą draugą, kai jo nebuvo“, – tęsė Khudabukhshas. „Dabar apsvarstykite tai pasauliniu mastu. Ką daryti, jei jūsų nėra visuotinėje diskusijoje apie jus ir negalite apsiginti? Kaip gali A.I. padėti šioje situacijoje? Tai vadiname XXI amžiaus problema: migrantų krizės visur paplitusio interneto eroje, kai pabėgėlių balsų yra nedaug. Žvelgiant į priekį, manome, kad geopolitinės problemos, klimatas ir su ištekliais susijusios priežastys gali sukelti naujų migrantų krizių, o mūsų darbas, ginant rizikos bendruomenes internetiniame pasaulyje, yra labai svarbus.

Tačiau ar užtenka tik išryškinti tam tikrus mažumų balsus, ar tai tėra algoritminė kas kelerius metus sugalvotos idėjos paleisti naujienų kanalą, skelbiantį tik geras naujienas? Galbūt tam tikrais atžvilgiais, bet tai taip pat yra kur kas daugiau nei tik simbolinių komentarų pabrėžimas, nesiūlant būdų, kaip spręsti platesnes problemas. Atsižvelgdami į tai, mokslininkai jau išplėtė projektą, siekdami išsiaiškinti, kaip A.I. gali būti naudojamas sustiprinti teigiamą turinį kituose skirtinguose, bet vis dėlto didelį socialinį poveikį scenarijai. Vienas iš pavyzdžių – diskusijos internete per padidėjusią politinę įtampą tarp branduolinių priešų. Šis darbas, kurį komanda pristatys birželio mėn. Europos dirbtinio intelekto konferencijoje (ECAI 2020), galėtų būti panaudotas siekiant aptikti ir pateikti priešiškumą skleidžiantį turinį. Panašią technologiją būtų galima sukurti daugeliui kitų scenarijų – kiekvienam pritaikant tinkamą.

Tai yra priėmimo tarifai #ECAI2020 įnašai:
– Pilni darbai: 26,8 proc.
– Paryškinti dokumentai: 45 proc.

Labai ačiū už pastangas, kurias įdėjote į peržiūros procesą!

– ECAI2020 (@ECAI2020) 2020 m. sausio 15 d

„Pagrindinė prielaida, kaip galima padėti bendruomenei, priklauso nuo atitinkamos bendruomenės“, – sakė Khudabukhshas. „Net skirtingoms pabėgėlių krizėms reikėtų skirtingų pagalbos sampratų. Pavyzdžiui, krizių metu, kai užkrečiamos ligos yra pagrindinė problema, medicininės pagalbos suteikimas gali būti labai naudingas. Kai kurioms ekonomiškai nepalankioje padėtyje esančioms grupėms motyvuojantis veiksnys galėtų būti bendruomenės žmonių sėkmės istorijų išryškinimas. Taigi kiekvienai bendruomenei reikės skirtingų niuansuotų pagalbos kalbos klasifikatorių, kad būtų galima automatiškai rasti teigiamą turinį. Mūsų darbas yra tam tikras planas.

Nėra lengvų pataisymų

Kad ir koks žavus šis darbas, sprendžiant internetinės kalbos problemą nėra lengvų pataisymų. Dalis iššūkių yra ta, kad šiuo metu egzistuojantis internetas apdovanoja garsius balsus. Pavyzdžiui, Google PageRank algoritmas reitinguoja tinklalapius pagal suvokiamą svarbą, skaičiuodamas nuorodų į puslapį skaičių ir kokybę. Populiarios temos „Twitter“ padiktuotos pagal tai, apie ką tviteryje rašo daugiausiai žmonių. Komentarų skyriuose dažnai pabrėžiamos tos nuomonės, kurios sukelia stipriausias reakcijas.

Neįsivaizduojamai didelis balsų skaičius internete gali užgožti prieštaraujančius balsus; dažnai marginalizuoja balsus, kurie, bent jau teoriškai, turi tą pačią platformą kaip ir bet kuris kitas.

Norint tai pakeisti, prireiks daug daugiau nei vieno puikaus „YouTube“ komentarų valymo algoritmo. Vis dėlto tai nėra bloga pradžia.

Redaktorių rekomendacijos

• Apdaila: kaip mokslininkai robotams suteikia žmogiškus lytėjimo pojūčius
• Juokinga formulė: kodėl mašinų sukurtas humoras yra šventasis A.I.
• A.I. paprastai nieko nepamiršta, tačiau naujoji „Facebook“ sistema tai daro. Štai kodėl
• Emocijų jutimo A.I. yra čia, ir tai gali būti kitame jūsų darbo pokalbyje
• Kalbos supermodelis: kaip GPT-3 tyliai įveda A.I. revoliucija