Google kan bringe en ende på sit arbejde med Project Maven

I april underskrev mere end 4.000 Google-medarbejdere en åbent brev til administrerende direktør Sundar Pichai, der vil ud af det, de kalder "krigens forretning." Googles senioringeniører var blandt tusindvis af Google-medarbejdere, der underskrev brevet, ifølge The New York Times. Brevet anmodede om øjeblikkelig aflysning af et specifikt militært projekt og en mere generel politikerklæring om at bygge teknologi til militæret.

En måned senere har omkring et dusin Google-ansatte besluttet at træde tilbage som en form for protest over Googles fortsatte deltagelse i det militære projekt kendt som Project Maven. De, der træder tilbage, citerede etiske bekymringer ved at udnytte A.I. i dronekrigsførelse, samt mere generelle bekymringer om Googles beslutninger på den politiske arena. Mange af de medarbejdere, der har valgt at afslutte deres ansættelse hos Google, har delt deres begrundelser i et dokument, der er blevet cirkuleret internt hos Google.

Som Gizmodo rapporterede, "Medarbejderne, der siger op i protest... siger, at ledere er blevet mindre gennemsigtige med deres arbejdsstyrke om kontroversielle forretningsbeslutninger og synes mindre interesseret i at lytte til arbejdernes indvendinger, end de gjorde engang." Og selvom Googles kultur ofte er blevet beskrevet som åben og ærlig, ser det ud til at være det skiftende. Som en afgående medarbejder sagde: "I løbet af de sidste par måneder er jeg blevet mindre og mindre imponeret over responsen og den måde, folks bekymringer bliver behandlet og lyttet til."

Det åbne brev, som tilsyneladende er blevet ignoreret af ledelsen, anmodede Google om øjeblikkeligt at annullere sin rolle i implementeringen af ​​Project Maven. Kodenavnet for et Department of Defense (DoD) Algorithmic Warfare Cross-Functional Team (AWCFT), Project Maven er et kunstig intelligens (A.I.)-program, der i øjeblikket er under udvikling. Mavens formål er at vurdere drone videooptagelser, rapporterede Gizmodo.

Som svar på disse protester har Google angiveligt besluttet ikke at forny Project Maven selvom det vil afslutte den nuværende kontrakt. Google har ikke givet nogen formelle meddelelser om dette, selvom Reuters citerede kilder "kendt med aftalen." Tidligere havde Google forsvaret kontrakten med at sige, at Project Maven blev brugt til ikke-stødende formål og ville redde liv.

Project Maven blev etableret af det amerikanske forsvarsministerium (DoD) for Pentagon i april 2017. Et brev under viceforsvarsministerens brevhoved dato stemplet 26. april 2017 siger, at DoD skal "integrere kunstige intelligens og maskinlæring mere effektivt på tværs af operationer for at bevare fordele i forhold til stadig mere dygtige modstandere og konkurrenter.”

Forsvarsviceministerens meddelelse siger, at den oprindelige påtænkte brug af Maven er at levere "computer synsalgoritmer til objektdetektering, klassificering og advarsler" for taktisk ubemandet luftsystem (UAS), eller droner.

Den anden, mere generelle anmodning i Google-brevet var, at Pichai "udkast, offentliggjorde og håndhæve en klar politik, der siger, at hverken Google eller dets underleverandører nogensinde vil bygge krigsførelse teknologi."

At deltage i Project Maven vil "uopretteligt skade Googles brand og dets evne til at konkurrere om talent," hedder det i brevet. Google "kæmper for at bevare offentlighedens tillid," fortsatte brevet, mens mange frygter "partisk og våbenbaseret A.I."

Brevet henviser til en kerneværdierklæring fra Google: "Hver en af ​​vores brugere stoler på os. Sæt det aldrig i fare. Nogensinde." Brevets underskrivere hævder, at kontrakten med DoD direkte modsætter sig denne kerneværdi og bringer virksomhedens omdømme i fare.

Tidligere Google CEO og Executive Chairman Eric Schmidt var hovedtaler ved november 2017 Center for en ny amerikansk sikkerhed Kunstig intelligens og globalt sikkerhedstopmøde. Schmidt blev spurgt om forholdet mellem tech-virksomheder, A.I. forskning og national sikkerhed.

"Der er en generel bekymring i det teknologiske samfund over, at det militærindustrielle kompleks på en eller anden måde bruger deres ting til at dræbe folk forkert," sagde Schmidt.

Brevet til den nuværende administrerende direktør Pichai er bevis på, at i det mindste for dem, der underskrev det, er den generelle bekymring, Schmidt nævnte, reel og specifik. Endnu et brev er siden blevet cirkuleret, forfattet af over 90 akademikere inden for kunstig intelligens, etik og datalogi, som på samme måde bad Google om at indstille sit arbejde på Project Maven.

Opdateret den 2. juni: Google har angiveligt besluttet, at det ikke vil forny Project Maven.

Redaktørernes anbefalinger

• Googles Project Starline er et magisk spejl, der bringer 3D-videochat til live
• Google-chefer siger, at vi har brug for en plan for at stoppe A.I. algoritmer fra at forstærke racisme
• Googles Project Yeti-hardware kan blive afsløret på Game Developers Conference
• Googles 'Project Stream' giver dig mulighed for at spille store spil i Chrome-browseren

Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.