Trots Facebooks många ansträngningar lyckas dåliga aktörer på något sätt alltid sippra igenom dess skyddsåtgärder och policyer. Det sociala nätverket experimenterar nu med ett nytt sätt att stödja sina anti-spam-väggar och förebygga dåliga beteenden som potentiellt kan bryta mot dess skydd: En armé av bots.
Facebook säger att det utvecklar ett nytt system med bots som kan simulera dåliga beteenden och stresstesta sin plattform för att avslöja eventuella brister och kryphål. Dessa automatiserade bots tränas och lärs ut hur man agerar som en riktig person med hjälp av beteendemodellernas skattkammare Facebook har förvärvat från sina över två miljarder användare.
Rekommenderade videor
För att säkerställa att detta experiment inte stör verkliga användare har Facebook också byggt en sorts parallell version av sitt sociala nätverk. Här släpps botarna lösa och får springa ut - de kan skicka meddelanden till varandra, kommentera dummy-inlägg, skicka vänförfrågningar, besöka sidor och mer. Ännu viktigare är att dessa A.I. bots är programmerade att simulera extrema scenarier som att sälja droger och vapen för att testa hur Facebooks algoritmer skulle försöka förhindra dem.
Relaterad
- Facebook, Googles coronavirusundersökningar kan snart förutsäga utbrott, säger forskare
- Facebook-bugg gjorde att giltiga artiklar om coronaviruset markerades som spam
- Facebook påminner användare om att ta influensavaccin, begränsar räckvidden för anti-vax-inlägg
Facebook hävdar att det här nya systemet kan vara värd för "tusentals eller till och med miljontals bots." Eftersom det körs på samma kod användare faktiskt erfarenhet, tillägger den att "botarnas handlingar är trogna effekterna som skulle bevittnas av riktiga människor som använder plattform."
"Medan projektet är i ett forskningsstadium för tillfället är förhoppningen att det en dag kommer att hjälpa oss att förbättra våra tjänster och hitta potentiella tillförlitlighets- eller integritetsproblem innan de påverkar riktiga människor som använder plattformen." skrev projektets ledare, Mark Harman in a blogginlägg.
Det är för närvarande oklart hur effektiv Facebooks nya simuleringsmiljö kommer att vara. Som Harman nämnde är det fortfarande i ganska tidiga skeden och företaget har ännu inte använt något av sina resultat för offentliga uppdateringar. Under de senaste åren har det sociala nätverket aktivt investerat och stöttat artificiell intelligens-baserad forskning för att utveckla nya verktyg för att bekämpa trakasserier och spam. På sin årliga utvecklarkonferens för två år sedan meddelade Mark Zuckerberg att företaget håller på att bygga verktyg för artificiell intelligens för att hantera inlägg som innehåller terroristinnehåll, hatretorik, spam och Mer.
Redaktörens rekommendationer
- Metas nya AI-forskning kan öka översättningarna på Facebook, Instagram
- Facebook delar platsdata med forskare om coronaviruset
- Privata data från vissa Facebook- och Twitter-användare läckte genom skadliga appar
- Facebook använder Minecraft som träningsplats för nästa steg av A.I.
- Facebook bygger virtuella hem för att träna A.I. agenter i realistiska miljöer
Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
