Ako riešite problém, akým je internet? Je to otázka, ktorá by, úprimne povedané, nedávala zmysel ani pred štvrťstoročím. Internet so svojou schopnosťou šíriť informácie a demokratické hodnoty do všetkých vzdialených kútov Zeme, bol odpoveď.
Obsah
- Hlas pre bezhlasých
- Zdôraznite to pozitívne
- Žiadne jednoduché opravy
Požiadať o liek na internet bolo ako požiadať o liek na liek na rakovinu. Tu v roku 2020 je obraz o niečo zahmlenejší. Áno, internet je úžasne skvelý na všetky druhy vecí. Ale to tiež spôsobuje problémy, z šírenie falošných správ do digitálnej žumpy, ktorá je súčasťou každej sekcie komentárov na YouTube. Inak povedané, internet môže byť toxický. Ako to vyčistíme?
Tu neexistujú jednoduché odpovede. Je odpoveďou algoritmická alebo človekom riadená cenzúra? Mali by sme zatvoriť všetky sekcie komentárov ku kontroverzným témam? Naozaj potrebuje platforma v súkromnom vlastníctve cítiť povinnosť poskytnúť každému možnosť vyjadriť sa? Ako sa blokovanie okrajových názorov pre verejné blaho zhoduje so snom internetu dať hlas každému?
Súvisiace
- Analógová A.I.? Znie to šialene, ale môže to byť budúcnosť
- Prečítajte si strašidelne krásne „syntetické písmo“ od A.I. ktorý si myslí, že je to Boh
- Algoritmická architektúra: Mali by sme nechať A.I. navrhovať budovy pre nás?
Výskumníci z Carnegie Mellon University vytvorili zaujímavý nový nástroj, o ktorom veria, že by mohol pomôcť. Je to algoritmus umelej inteligencie, ktorý nefunguje tak, že blokuje negatívnu reč, ale skôr zvýraznením alebo zosilnením „pomocnej reči“, aby ju bolo ľahšie nájsť. Dúfajú, že v tomto procese by to mohlo pomôcť s kybertopickými ambíciami lepšie urobiť z internetu hlas pre posilnenie hlasu.
Odporúčané videá
Hlas pre bezhlasých
A.I. navrhol tím, od Carnegie Mellon's Inštitút jazykových technológií, preosieva komentáre YouTube a zvýrazňuje komentáre, ktoré obhajujú alebo sympatizujú v tomto prípade s menšinami zbavenými volebného práva, ako je komunita Rohingov. Moslimskí Rohingovia sú od októbra 2016 vystavení sérii prevažne pokračujúcich perzekúcií zo strany mjanmarskej vlády. Genocídna kríza prinútila viac ako milión Rohingov utiecť do susedných krajín. Je to zúfalá situácia zahŕňajúca náboženské prenasledovanie a etnické čistky – ale z mnohých komentárov, ktoré sa objavili na miestnych sociálnych médiách, by ste to nevyhnutne nevedeli; ohromujúci počet komentárov na druhej strane problému.
„Vyvinuli sme rámec na presadzovanie veci nesvojprávnej menšiny – v tomto prípade Rohingov – na automatické zisťovanie webového obsahu, ktorý ich podporuje,“ Ashique Khudabukhsh, projektový vedec z oddelenia informatiky v Carnegie Mellon, povedal pre Digital Trends. „Zamerali sme sa na YouTube, platformu sociálnych médií, ktorá je v južnej Ázii nesmierne populárna. Naše analýzy odhalili, že veľké množstvo komentárov o Rohingoch ich znevažovalo. Vyvinuli sme automatizovanú metódu na zisťovanie komentárov obhajujúcich ich príčinu, ktoré by inak boli prehlušené veľkým množstvom drsných, negatívnych komentárov.“
„Zo všeobecného rámcového hľadiska sa naša práca líši od tradičnej práce na detekciu nenávistných prejavov, na ktorú sa zameriavame hlavne je na blokovaní negatívneho obsahu, [hoci je to] aktívna a veľmi dôležitá oblasť výskumu,“ Khudabukhsh pokračoval. „Na rozdiel od toho naša práca pri zisťovaní podporných komentárov – čo nazývame pomocná reč – predstavuje nový smer zlepšovania online skúseností prostredníctvom zosilnenia pozitív.“
Trénovať ich A.I. filtračný systém, výskumníci zhromaždili viac ako štvrť milióna komentárov na YouTube. Pomocou špičkovej technológie lingvistického modelovania vytvorili algoritmus, ktorý dokáže prehľadať tieto komentáre a rýchlo zvýrazniť komentáre, ktoré sú na strane Rohingskej komunity. Automatizovaná sémantická analýza komentárov používateľov nie je, ako sa dalo očakávať, jednoduchá. Len na indickom subkontinente je 22 hlavných jazykov. Pri hodnotení jazyka sa často vyskytujú aj pravopisné chyby a neštandardné pravopisné variácie.
Zdôraznite to pozitívne
Napriek tomu A.I. vyvinuté tímom dokázali výrazne zvýšiť viditeľnosť pozitívnych komentárov. Ešte dôležitejšie je, že to dokázal urobiť oveľa rýchlejšie, ako by to dokázal ľudský moderátor, ktorí by neboli schopní manuálne prechádzať veľké množstvo komentárov v reálnom čase a najmä pripnúť komentáre. To by mohlo byť obzvlášť dôležité v scenároch, v ktorých jedna strana môže mať obmedzené zručnosti v dominantnom jazyku, obmedzený prístup k nemu internet alebo problémy s vyššou prioritou (čítaj: vyhýbanie sa prenasledovaniu), ktoré môžu mať prednosť pred účasťou na internete rozhovory.
"Čo ak nie si prítomný v globálnej diskusii o tebe a nemôžeš sa brániť?"
„Všetci sme zažili byť tým jedným priateľom, ktorý sa v ich neprítomnosti zastal iného priateľa,“ pokračoval Khudabukhsh. „Teraz to zvážte v globálnom meradle. Čo ak nie ste súčasťou globálnej diskusie o vás a nemôžete sa brániť? Ako môže A.I. pomôcť v tejto situácii? Hovoríme tomu problém 21. storočia: migračné krízy v ére všadeprítomného internetu, kde je hlasov utečencov veľmi málo. V budúcnosti máme pocit, že geopolitické problémy, klíma a dôvody súvisiace so zdrojmi môžu vyvolať nové migračné krízy a naša práca na obrane ohrozených komunít v online svete je veľmi dôležitá.
Stačí však zvýraznenie určitých menšinových hlasov, alebo je to iba algoritmická verzia konceptu, ktorý sa každý rok rozbieha a prináša len dobré správy? Možno v niektorých ohľadoch, ale tiež to ďaleko presahuje len zdôrazňovanie symbolických komentárov bez ponúkania spôsobov, ako riešiť širšie problémy. S ohľadom na to výskumníci už rozšírili projekt, aby sa pozreli na spôsoby, akými A.I. môžu byť použité na umocnenie pozitívneho obsahu v iných odlišných, no napriek tomu vysokým sociálnym dopadom scenárov. Jedným z príkladov sú online diskusie počas zvýšeného politického napätia medzi jadrovými protivníkmi. Táto práca, ktorú tím predstaví na Európskej konferencii o umelej inteligencii (ECAI 2020) v júni, by mohla pomôcť odhaliť a prezentovať obsah šíriaci nepriateľstvo. Podobná technológia by mohla byť vytvorená pre množstvo ďalších scenárov – s vhodným prispôsobením pre každý z nich.
Toto sú miery prijatia pre #ECAI2020 príspevky:
– Úplné práce: 26,8 %
– Zvýrazňovacie papiere: 45 %Ďakujeme vám za úsilie, ktoré ste vložili do procesu kontroly!
— ECAI2020 (@ECAI2020) 15. januára 2020
„Základný predpoklad, ako možno komunite pomôcť, závisí od danej komunity,“ povedal Khudabukhsh. „Aj rôzne utečenecké krízy by si vyžadovali rôzne predstavy o pomoci. Napríklad v prípade kríz, keď je prepuknutie nákazlivej choroby hlavným problémom, môže poskytovanie lekárskej pomoci nesmierne pomôcť. Pre niektoré ekonomicky znevýhodnené skupiny môže byť zvýrazňovanie úspešných príbehov ľudí v komunite motivačným faktorom. Preto by každá komunita vyžadovala rôzne nuansované pomocné klasifikátory reči, aby automaticky našli pozitívny obsah. Naša práca na to poskytuje plán.“
Žiadne jednoduché opravy
Akokoľvek je táto práca fascinujúca, neexistujú žiadne jednoduché riešenia, pokiaľ ide o riešenie problému online reči. Súčasťou výzvy je, že internet, ako v súčasnosti existuje, odmeňuje hlasné hlasy. Algoritmus PageRank spoločnosti Google napríklad hodnotí webové stránky podľa ich vnímanej dôležitosti počítaním počtu a kvality odkazov na stránku. Trendové témy na Twitteri sú diktované tým, o čom tweetuje najväčší počet ľudí. Sekcie komentárov často zvýrazňujú tie názory, ktoré vyvolávajú najsilnejšie reakcie.
Nepredstaviteľne veľké množstvo hlasov na internete môže prehlušiť nesúhlasné hlasy; často marginalizujúce hlasy, ktoré majú, aspoň teoreticky, rovnakú platformu ako ktokoľvek iný.
Zmena toho bude vyžadovať oveľa viac ako jeden skvelý algoritmus na čistenie komentárov na YouTube. Nie je to však zlý začiatok.
Odporúčania redaktorov
- Finishing touch: Ako vedci dávajú robotom ľudské hmatové zmysly
- Vtipná formulka: Prečo je strojovo generovaný humor svätým grálom A.I.
- A.I. zvyčajne nič nezabudne, ale nový systém Facebooku áno. Tu je dôvod
- A.I. je tu a mohlo by to byť na vašom ďalšom pracovnom pohovore
- Jazyková supermodelka: Ako GPT-3 potichu spúšťa A.I. revolúcie
