Facebook používá roboty k předpovídání a prevenci špatného chování

Navzdory mnoha snahám Facebooku se špatným hercům nějak vždy podaří proniknout jeho ochrannými opatřeními a zásadami. Sociální síť nyní experimentuje s novým způsobem, jak posílit své antispamové zdi a předcházet špatnému chování, které by mohlo potenciálně narušit její zabezpečení: armádu robotů.

Facebook říká, že vyvíjí nový systém robotů, kteří dokážou simulovat špatné chování a zátěžově testovat svou platformu, aby odhalili případné nedostatky a mezery. Tito automatizovaní roboti jsou vycvičeni a učeni, jak se chovat jako skutečná osoba s využitím pokladu modelů chování Facebook získala od svých více než dvou miliard uživatelů.

Doporučená videa

Aby tento experiment nezasahoval do skutečných uživatelů, vytvořil Facebook také jakousi paralelní verzi své sociální sítě. Zde jsou roboti uvolněni a nechají se volně běhat – mohou si vzájemně posílat zprávy, komentovat falešné příspěvky, posílat žádosti o přátelství, navštěvovat stránky a další. Ještě důležitější je, že tyto A.I. roboti jsou naprogramováni tak, aby simulovali extrémní scénáře, jako je prodej drog a zbraní, aby otestovali, jak by se jim algoritmy Facebooku pokusily zabránit.

Příbuzný

  • Průzkumy Facebooku a Google ohledně koronaviru mohou brzy předpovídat propuknutí epidemie, říkají vědci
  • Chyba na Facebooku způsobila, že platné články o koronaviru byly označeny jako spam
  • Facebook uživatelům připomíná, aby se nechali očkovat proti chřipce, omezuje dosah anti-vax příspěvků

Facebook tvrdí, že tento nový systém může hostit „tisíce nebo dokonce miliony robotů“. Protože ve skutečnosti běží na stejném kódu uživatelů zkušenosti, dodává, že „akce robotů jsou věrné efektům, kterých by byli svědky skuteční lidé při používání plošina."

„I když je projekt v tuto chvíli pouze ve fázi výzkumu, doufáme, že jednoho dne nám pomůže zlepšit naše služby a najít potenciální problémy se spolehlivostí nebo integritou dříve, než ovlivní skutečné lidi používající platformu. napsal vedoucí projektu Mark Harman A blogový příspěvek.

V tuto chvíli není jasné, jak efektivní bude nové simulační prostředí Facebooku. Jak uvedl Harman, je to stále v poměrně raných fázích a společnost zatím žádné ze svých výsledků nepoužila pro veřejné aktualizace. Během několika posledních let sociální síť aktivně investovala a podporovala výzkum založený na umělé inteligenci s cílem vyvinout nové nástroje pro boj proti obtěžování a spamu. Na výroční vývojářské konferenci před dvěma lety Mark Zuckerberg oznámil, že společnost buduje nástroje umělé inteligence pro řešení příspěvků s teroristickým obsahem, nenávistnými projevy, spamem a více.

Doporučení redakce

  • Nový výzkum AI společnosti Meta může podpořit překlady na Facebooku a Instagramu
  • Facebook sdílí údaje o poloze s výzkumníky koronaviru
  • Soukromá data některých uživatelů Facebooku a Twitteru unikla prostřednictvím škodlivých aplikací
  • Facebook využívá Minecraft jako cvičiště pro další fázi A.I.
  • Facebook staví virtuální domovy pro výcvik A.I. agenti v realistickém prostředí

Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.