Google kan få ett slut på sitt arbete med Project Maven

I april skrev mer än 4 000 Google-anställda på en öppet brev till vd Sundar Pichai som vill ta sig ur vad de kallar "krigets verksamhet." Googles senioringenjörer var bland tusentals Google-personal som undertecknade brevet, enligt The New York Times. I brevet efterfrågades omedelbart avbrytande av ett specifikt militärt projekt och ett mer allmänt policyuttalande om att bygga teknik för militären.

En månad senare har ett dussintal Google-anställda beslutat att säga upp sig som en form av protest mot Googles fortsatta deltagande i det militära projektet som kallas Project Maven. De som säger upp sig hänvisade till etiska problem när de utnyttjade A.I. i drönarkrigföring, såväl som mer allmänna oro över Googles beslut på den politiska arenan. Många av de anställda som har valt att avsluta sin anställning på Google har delat med sig av sina motiveringar i ett dokument som har cirkulerats internt på Google.

Som Gizmodo rapporterade, "De anställda som säger upp sig i protest... säger att chefer har blivit mindre transparenta med sin personal om kontroversiella affärsbeslut och verkar mindre intresserade av att lyssna på arbetarnas invändningar än de en gång gjorde.” Och även om Googles kultur ofta har beskrivits som öppen och ärlig, så verkar det vara det skiftande. Som en avgående anställd sa: "Under de senaste månaderna har jag blivit mindre och mindre imponerad av responsen och hur människors bekymmer behandlas och lyssnas på."

Det öppna brevet, som uppenbarligen har ignorerats av ledningen, begärde att Google omedelbart avbryter sin roll i implementeringen av Project Maven. Kodnamnet för ett försvarsdepartement (DoD) Algorithmic Warfare Cross-Functional Team (AWCFT), Project Maven är ett artificiell intelligens (A.I.)-program som för närvarande är under utveckling. Mavens syfte är att bedöma drönarfilmer, rapporterade Gizmodo.

Som svar på dessa protester har Google enligt uppgift beslutat att inte förnya Project Maven även om det kommer att avsluta nuvarande kontrakt. Google har inte gjort några formella meddelanden angående detta, även om Reuters citerade källor "bekanta med affären." Tidigare hade Google försvarat kontraktet och sagt att Project Maven användes för icke-offensiva syften och skulle rädda liv.

Project Maven inrättades av det amerikanska försvarsdepartementet (DoD) för Pentagon i april 2017. Ett brev under vice försvarsminister med brevpapper datum stämplat 26 april 2017 säger att DoD måste "integrera konstgjorda intelligens och maskininlärning mer effektivt över verksamheten för att upprätthålla fördelar jämfört med allt mer kapabla motståndare och konkurrenter.”

Försvarsbiträdande sekreterares tillkännagivande säger att den ursprungliga avsedda användningen av Maven är att tillhandahålla "dator visionalgoritmer för objektdetektering, klassificering och varningar” för taktiskt obemannat flygsystem (UAS), eller drönare.

Den andra, mer allmänna begäran i Google-brevet, var att Pichai "utkast, publicerade och genomdriva en tydlig policy som säger att varken Google eller dess entreprenörer någonsin kommer att bygga krigföring teknologi."

Att delta i Project Maven kommer "obotligt skada Googles varumärke och dess förmåga att konkurrera om talang", stod det i brevet. Google "kämpar för att behålla allmänhetens förtroende", fortsatte brevet, medan många fruktar "partisk och beväpnad A.I."

Brevet hänvisar till ett uttalande från Googles kärnvärde: "Varje en av våra användare litar på oss. Äventyra aldrig det. Någonsin." Brevets undertecknare hävdar att kontraktet med DoD direkt motsätter sig detta kärnvärde och riskerar företagets rykte.

Tidigare Googles vd och verkställande styrelseordförande Eric Schmidt var huvudtalare vid november 2017 Centrum för en ny amerikansk säkerhet Artificiell intelligens och globalt säkerhetsmöte. Schmidt fick frågan om förhållandet mellan teknikföretag, A.I. forskning och nationell säkerhet.

"Det finns en allmän oro i teknikgemenskapen över att det militärindustriella komplexet på något sätt använder sina saker för att döda människor på ett felaktigt sätt," sa Schmidt.

Brevet till nuvarande vd Pichai är ett bevis på att åtminstone för dem som undertecknade det, den allmänna oro Schmidt nämnde är verklig och specifik. Ännu ett brev har sedan dess cirkulerats, författad av över 90 akademiker inom artificiell intelligens, etik och datavetenskap, som på samma sätt bad Google att upphöra med sitt arbete med Project Maven.

Uppdaterad den 2 juni: Google har enligt uppgift beslutat att det inte kommer att förnya Project Maven.

Redaktörens rekommendationer

• Googles Project Starline är en magisk spegel som ger liv i 3D-videochatt
• Googles chefer säger att vi behöver en plan för att stoppa A.I. algoritmer från att förstärka rasism
• Googles Project Yeti-hårdvara kan avslöjas på Game Developers Conference
• Googles "Project Stream" låter dig spela stora spel i webbläsaren Chrome

Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.