EFF licht de geheimen van de chatbots van het Amerikaanse leger op

eff tilt de dekselgeheimen op van de chatbots van het Amerikaanse leger sgt star

Dankzij een verzoek om vrijheid van informatie en wat verder onderzoek heeft de Electronic Frontier Foundation (EFF) zo ongeveer alles blootgelegd er is meer te weten over de chatbot-sergeant van het Amerikaanse leger – inclusief het verleden van de technologie als hulpmiddel om pedofielen en terroristen te vangen Web. De onthullingen maken deel uit van het lopende onderzoek van EFF naar de manier waarop het leger via internet met het publiek omgaat en informatie verzamelt.

Sergeant Star is de bekende virtuele publieke woordvoerder van het Amerikaanse leger en verschijnt op de Army Careers-website en bijbehorende Facebook-pagina's om vragen van potentiële rekruten te beantwoorden. EFF heeft al zijn mogelijke antwoorden verzameld in een document van 288 pagina's die alle aspecten van de militaire dienst bestrijken en zelfs de vraag of soldaten paraplu's kunnen gebruiken (ja, onder bepaalde omstandigheden). Er is ook een pagina van gebruiksstatistieken – Sergeant. Star nam in 2013 deel aan bijna 600.000 online chats.

Aanbevolen video's

De chatbot werd in 2006 geïntroduceerd als een kostenbesparende maatregel, bedoeld om de tijd te verminderen die menselijke operators aan online vragen moesten besteden – het leger schat dat Sgt. Star kan het werk doen van 55 echte recruiters. Het bedrijf achter de bot, Next IT uit Spokane in Washington, heeft in het verleden soortgelijke technologie ook al eerder ontwikkeld voor de FBI en de CIA. In dit geval werden chatbots gebruikt om vermoedelijke pedofielen en terroristen in te schakelen, op zoek naar signalen dat zou wijzen op verdacht gedrag en het toestaan ​​dat een federale agent twintig tot dertig gesprekken afluistert eenmaal.

EFF is van mening dat dit soort activiteiten vragen oproept over gegevensverzameling en online monitoring Er wordt een beroep gedaan op het evenwicht tussen de noodzaak om criminelen online te betrappen en de privacy van de gewone burger te beschermen vraag. “Wat gebeurt er met gesprekken die niet relevant zijn voor een onderzoek, en hoe wieden de instanties de valse positieven eruit halen, zoals wanneer een chatbot een goedaardig gesprek ten onrechte als gevaarlijk interpreteert?” vraagt EFF-onderzoeker Dave Maass.

“Ondanks al zijn karaktereigenschappen zou een gebruiker Sgt. Ster voor mens – zo is hij gewoon niet ontworpen”, vervolgt Maas. “Dat kan niet noodzakelijkerwijs gezegd worden voor andere overheidsbots. Militaire, wetshandhavings- en inlichtingendiensten hebben virtuele mensen in dienst genomen die daartoe in staat zijn interactie met en toezicht houden op het publiek op grote schaal, en elk antwoord roept nog veel meer op vragen.”

Aanbevelingen van de redactie

  • Door een typfout in een e-mail worden miljoenen Amerikaanse militaire berichten verkeerd doorgestuurd naar Mali

Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.