Google kan få slutt på arbeidet med Project Maven

I april signerte mer enn 4000 Google-ansatte en åpent brev til administrerende direktør Sundar Pichai som vil ut av det de kaller «krigsvirksomheten». Googles senioringeniører var blant tusenvis av Google-ansatte som signerte brevet, ifølge The New York Times. Brevet ba om umiddelbar kansellering av et spesifikt militært prosjekt og en mer generell policyerklæring om byggeteknologi for militæret.

En måned senere har rundt et dusin Google-ansatte besluttet å trekke seg som en form for protest over Googles fortsatte deltakelse i det militære prosjektet kjent som Project Maven. De som trekker seg, nevnte etiske bekymringer ved å utnytte A.I. i dronekrigføring, samt mer generelle bekymringer om Googles beslutninger på den politiske arena. Mange av de ansatte som har valgt å avslutte sin stilling i Google, har delt sine begrunnelser i et dokument som har blitt sirkulert internt hos Google.

Som Gizmodo rapporterte, "De ansatte som trekker seg i protest... sier at ledere har blitt mindre transparente med arbeidsstyrken sin om kontroversielle forretningsbeslutninger og virker mindre interessert i å lytte til arbeidernes innvendinger enn de en gang gjorde.» Og selv om Googles kultur ofte har blitt beskrevet som åpen og ærlig, ser det ut til å være det skiftende. Som en avtroppende ansatt sa: "I løpet av de siste par månedene har jeg blitt mindre og mindre imponert over responsen og måten folks bekymringer blir behandlet og lyttet til."

Det åpne brevet, som tilsynelatende har blitt ignorert av ledelsen, ba om at Google umiddelbart avbryter sin rolle i implementeringen av Project Maven. Kodenavnet for et Department of Defense (DoD) Algorithmic Warfare Cross-Functional Team (AWCFT), Project Maven er et kunstig intelligens (A.I.)-program som for tiden er under utvikling. Mavens formål er å vurdere dronevideoopptak, rapporterte Gizmodo.

Som svar på disse protestene har Google angivelig bestemt seg ikke å fornye Project Maven selv om det vil fullføre gjeldende kontrakt. Google har ikke gitt noen formelle kunngjøringer angående dette, selv om Reuters siterte kilder «kjent med avtalen». Tidligere hadde Google forsvart kontrakten og sagt at Project Maven ble brukt til ikke-støtende formål og ville redde liv.

Project Maven ble etablert av det amerikanske forsvarsdepartementet (DoD) for Pentagon i april 2017. Et brev under viseforsvarsminister med brevpapir dato stemplet 26. april 2017 sier DoD trenger å "integrere kunstig intelligens og maskinlæring mer effektivt på tvers av operasjoner for å opprettholde fordeler fremfor stadig dyktigere motstandere og konkurrenter."

Forsvarssekretærens kunngjøring sier at den opprinnelige tiltenkte bruken av Maven er å gi "datamaskin synsalgoritmer for gjenstandsdeteksjon, klassifisering og varsler" for taktisk ubemannet luftsystem (UAS), eller droner.

Den andre, mer generelle forespørselen i Google-brevet, var at Pichai «utkast, offentliggjør og håndheve en klar policy som sier at verken Google eller dets kontraktører noensinne vil bygge krigføring teknologi."

Å delta i Project Maven vil "uopprettelig skade Googles merkevare og dets evne til å konkurrere om talent," heter det i brevet. Google «sliter med å beholde publikums tillit», fortsatte brevet, mens mange frykter «partisk og bevæpnet A.I».

Brevet viser til en kjerneverdierklæring fra Google: «Alle brukerne våre stoler på oss. Aldri sett det i fare. Noen gang." Brevets underskrivere hevder at kontrakten med DoD direkte motsetter seg denne kjerneverdien og setter selskapets omdømme i fare.

Tidligere Google-sjef og administrerende styreleder Eric Schmidt var hovedtaleren på november 2017 Senter for en ny amerikansk sikkerhet Kunstig intelligens og globalt sikkerhetstoppmøte. Schmidt ble spurt om forholdet mellom teknologiselskaper, A.I. forskning og nasjonal sikkerhet.

"Det er en generell bekymring i teknologimiljøet over at det militærindustrielle komplekset på en eller annen måte bruker tingene sine til å drepe folk feil," sa Schmidt.

Brevet til nåværende administrerende direktør Pichai er bevis på at i det minste for de som signerte det, er den generelle bekymringen Schmidt nevnte reell og spesifikk. Et annet brev har siden blitt sirkulert, forfattet av over 90 akademikere innen kunstig intelligens, etikk og informatikk, som på samme måte ba Google om å avslutte arbeidet med Project Maven.

Oppdatert 2. juni: Google har visstnok besluttet at de ikke vil fornye Project Maven.

Redaktørenes anbefalinger

• Googles Project Starline er et magisk speil for å bringe 3D-videochatting til live
• Google-sjefer sier at vi trenger en plan for å stoppe A.I. algoritmer fra å forsterke rasisme
• Googles Project Yeti-maskinvare kan bli avslørt på Game Developers Conference
• Googles "Project Stream" lar deg spille store spill i Chrome-nettleseren

Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.