Како решити проблем као што је интернет? То је питање које, искрено, не би имало мало смисла чак ни пре четврт века. Интернет, са својом способношћу да шири и информације и демократске вредности у сваки удаљени кутак Земље, био одговор.
Садржај
- Глас за безгласне
- Нагласите позитивно
- Нема лаких поправки
Тражење лека за интернет било је као да тражите лек за лек за рак. Овде у 2020. слика је мало замућенија. Да, интернет је запањујуће бриљантан за све врсте ствари. Али то такође представља проблеме, од ширење лажних вести до, па, дигиталне септичке јаме која је сваки одељак за коментаре на ИоуТубе-у икада. Другим речима, интернет може бити све врсте токсичан. Како да то очистимо?
Овде нема једноставних одговора. Да ли је одговор алгоритамска или цензура вођена људима? Да ли да затворимо све одељке за коментаре на контроверзне теме? Да ли платформа у приватном власништву заиста треба да се осећа обавезном да свима пружи глас? Како се блокирање маргиналних мишљења за јавно добро поклапа са сном интернета о давању гласа свима?
Повезан
- Аналогни А.И.? Звучи лудо, али то би могла бити будућност
- Прочитајте сабласно лепе „синтетичке списе“ АИ. који мисли да је то Бог
- Алгоритамска архитектура: треба ли дозволити А.И. дизајнирати зграде за нас?
Истраживачи са Универзитета Царнегие Меллон створили су интригантан нови алат за који верују да би могао помоћи. То је алгоритам вештачке интелигенције који не функционише тако што блокира негативан говор, већ наглашава или појачава „говор помоћи“ да би се лакше пронашао. У том процесу надају се да би то могло помоћи у сајбертопијској амбицији да се интернет боље учини гласом за оснаживање оних без гласа.
Препоручени видео снимци
Глас за безгласне
А.И. осмислио тим, од Царнегие Меллон'с Институт за језичке технологије, прегледава Јутјуб коментаре и истиче коментаре који бране или саосећају са, у овом случају, обесправљеним мањинама као што је заједница Рохиња. Муслимански народ Рохиња подвргнут је низу углавном текућих прогона од стране владе Мјанмара од октобра 2016. Геноцидна криза приморала је више од милион Рохиња да побегне у суседне земље. То је очајна ситуација која укључује верски прогон и етничко чишћење - али то не бисте нужно знали из многих коментара који су се појавили на локалним друштвеним медијима; огроман број коментара на другој страни питања.
„Развили смо оквир за залагање за обесправљену мањину — у овом случају Рохинџа — да аутоматски открије веб садржај који их подржава“, Асхикуе Кхудабукхсх, научник пројекта у одељењу за рачунарске науке у Карнеги Мелону, рекао је за Дигитал Трендс. „Фокусирали смо се на ИоуТубе, платформу друштвених медија изузетно популарну у Јужној Азији. Наше анализе су откриле да је велики број коментара о Рохињама за њих био омаловажавајући. Развили смо аутоматизовани метод за откривање коментара који се залажу за њихов узрок, а који би иначе били пригушени огромним бројем оштрих, негативних коментара.”
„Из опште перспективе, наш рад се разликује од традиционалног рада на откривању говора мржње где је главни фокус је на блокирању негативног садржаја, [иако је ово] активна и веома важна истраживачка област“, Кхудабукхсх наставио. „Насупрот томе, наш рад на откривању коментара подршке – оно што називамо говором помоћи – означава нови правац побољшања онлајн искуства кроз појачавање позитивних.
Да обуче свој А.И. система за филтрирање, истраживачи су прикупили више од четврт милиона Јутјуб коментара. Користећи најсавременију технологију лингвистичког моделирања, креирали су алгоритам који може претраживати ове коментаре како би брзо истакао коментаре који су на страни заједнице Рохингја. Аутоматска семантичка анализа коментара корисника није, као што бисте очекивали, лака. Само на индијском потконтиненту постоје 22 главна језика. Такође постоје честе правописне грешке и нестандардне правописне варијације које треба решити када је у питању процена језика.
Нагласите позитивно
Без обзира на то, А.И. развијен од стране тима успели су у великој мери да повећају видљивост позитивних коментара. Што је још важније, био је у стању да ово уради много брже него што би било могуће за људског модератора, који не би били у могућности да ручно прођу кроз велике количине коментара у реалном времену и посебно закаче коментари. Ово би могло бити посебно важно у сценаријима у којима једна страна може имати ограничене вјештине у доминантном језику, ограничен приступ интернет или питања вишег приоритета (читај: избегавање прогона) која могу имати предност у односу на учешће у онлајн разговори.
„Шта ако нисте присутни у глобалној дискусији о себи и не можете да се браните?“
„Сви смо искусили да смо један пријатељ који се заложио за другог пријатеља у њиховом одсуству“, наставио је Кхудабукхсх. „Сада размотрите ово на глобалном нивоу. Шта ако нисте присутни у глобалној расправи о вама и не можете да се браните? Како може А.И. помоћи у овој ситуацији? Ово називамо проблемом 21. века: мигрантске кризе у ери свеприсутног интернета где су гласови избеглица малобројни. У будућности, сматрамо да геополитичка питања, клима и разлози вођени ресурсима могу изазвати нове мигрантске кризе и наш рад на одбрани ризичних заједница у онлајн свету је веома важан.
Али, да ли је једноставно истицање одређених гласова мањина довољно, или је ово само алгоритамска верзија концепта покретања вести који саопштавају само добре вести који се избацују сваких неколико година? Можда на неки начин, али такође иде далеко даље од пуког истицања симболичних коментара без нуђења начина за решавање ширих проблема. Имајући то на уму, истраживачи су већ проширили пројекат како би сагледали начине на које А.И. може се користити за појачавање позитивног садржаја у другим различитим, али без обзира на то високим друштвеним утицајем сценарија. Један пример су онлајн дискусије током појачане политичке тензије између нуклеарних противника. Овај рад, који ће тим представити на Европској конференцији о вештачкој интелигенцији (ЕЦАИ 2020) у јуну, могао би се користити за откривање и представљање садржаја који шири непријатељство. Слична технологија би се могла креирати за мноштво других сценарија — са одговарајућим кројењем за сваки.
Ово су стопе прихватања за #ЕЦАИ2020 доприноси:
– Целокупни радови: 26,8%
– Истакнути радови: 45%Хвала вам пуно на труду који сте уложили у процес прегледа!
— ЕЦАИ2020 (@ЕЦАИ2020) 15. јануара 2020
„Основна премиса о томе како се заједници може помоћи зависи од заједнице о којој је реч“, рекао је Кхудабукхсх. „Чак и различите избегличке кризе захтевале би различите идеје помоћи. На пример, кризе у којима је избијање заразне болести главни проблем, пружање медицинске помоћи може бити од огромне помоћи. За неке економски угрожене групе, истицање успешних прича људи у заједници може бити мотивациони фактор. Стога би свакој заједници били потребни различити нијансирани класификатори говора помоћи да аутоматски пронађу позитиван садржај. Наш рад даје нацрт за то.”
Нема лаких поправки
Колико год овај рад био фасцинантан, не постоје лака решења када је у питању решавање проблема онлајн говора. Део изазова је да интернет какав тренутно постоји награђује гласне гласове. Гоогле-ов ПагеРанк алгоритам, на пример, рангира веб странице према њиховој уоченој важности бројећи број и квалитет веза до странице. Теме у тренду на Твитеру су диктиране оним о чему највећи број људи твитује. Одељци за коментаре често истичу она мишљења која изазивају најјаче реакције.
Незамисливо велики број гласова на интернету може пригушити гласове неслагања; често маргинализовани гласови који, барем у теорији, имају исту платформу као и било ко други.
Да бисте то променили, биће потребно много више од једног цоол ИоуТубе алгоритма за чишћење коментара. Ипак, није лош почетак.
Препоруке уредника
- Завршни додир: Како научници дају роботима људска тактилна чула
- Смешна формула: Зашто је хумор генерисан машинама свети грал А.И.
- А.И. обично ништа не заборавља, али нови систем Фејсбука јесте. Ево зашто
- Осећајући емоције А.И. је овде, и то би могло бити на вашем следећем интервјуу за посао
- Језички супермодел: Како ГПТ-3 тихо уводи А.И. револуција
