Til tross for Facebooks mange anstrengelser, klarer dårlige skuespillere på en eller annen måte alltid å sive gjennom sikkerhetstiltakene og retningslinjene. Det sosiale nettverket eksperimenterer nå med en ny måte å støtte veggene mot spam og forebygge dårlig oppførsel som potensielt kan bryte med beskyttelsen: En hær av roboter.
Facebook sier at det utvikler et nytt system med roboter som kan simulere dårlig oppførsel og stressteste plattformen for å avdekke eventuelle feil og smutthull. Disse automatiserte robotene er trent og lært hvordan de skal opptre som en ekte person ved å bruke skattekammeret av atferdsmodeller Facebook har kjøpt fra sine over to milliarder brukere.
Anbefalte videoer
For å sikre at dette eksperimentet ikke forstyrrer ekte brukere, har Facebook også bygget en slags parallellversjon av sitt sosiale nettverk. Her slipper robotene løs og får lov til å løpe fritt – de kan sende meldinger til hverandre, kommentere dummy-innlegg, sende venneforespørsler, besøke sider og mer. Enda viktigere er at disse A.I. roboter er programmert til å simulere ekstreme scenarier som å selge narkotika og våpen for å teste hvordan Facebooks algoritmer ville prøve å forhindre dem.
I slekt
- Facebook, Googles koronavirusundersøkelser kan snart forutsi utbrudd, sier forskere
- Facebook-feil førte til at gyldige koronavirusartikler ble merket som spam
- Facebook minner brukere om å få influensasprøyter, begrenser rekkevidden til anti-vax-innlegg
Facebook hevder at dette nye systemet kan være vert for «tusenvis eller til og med millioner av roboter». Siden det kjører på samme kode brukere faktisk erfaring, legger den til at "robotenes handlinger er tro mot effektene som ville være vitne til av ekte mennesker som bruker plattform."
«Selv om prosjektet er i et forskningsstadium for øyeblikket, er håpet at det en dag vil hjelpe oss med å forbedre tjenestene våre og oppdage potensielle problemer med pålitelighet eller integritet før de påvirker virkelige mennesker som bruker plattformen." skrev prosjektets leder, Mark Harman i en blogg innlegg.
Det er foreløpig uklart hvor effektivt Facebooks nye simuleringsmiljø vil være. Som Harman nevnte, er det fortsatt i ganske tidlige stadier, og selskapet har ikke tatt noen av resultatene i bruk for offentlige oppdateringer ennå. I løpet av de siste årene har det sosiale nettverket aktivt investert og støttet kunstig intelligens-basert forskning for å utvikle nye verktøy for å bekjempe trakassering og spam. På sin årlige utviklerkonferanse for to år siden kunngjorde Mark Zuckerberg at selskapet bygger verktøy for kunstig intelligens for å takle innlegg som inneholder terrorinnhold, hatefulle ytringer, spam og mer.
Redaktørenes anbefalinger
- Metas nye AI-forskning kan øke oversettelser på Facebook, Instagram
- Facebook deler posisjonsdata med koronavirusforskere
- Private data fra noen Facebook- og Twitter-brukere lekket gjennom ondsinnede apper
- Facebook bruker Minecraft som treningsplass for neste trinn av A.I.
- Facebook bygger virtuelle hjem for å trene A.I. agenter i realistiske miljøer
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
