Google potrebbe porre fine al suo lavoro su Project Maven

Ad aprile più di 4.000 dipendenti di Google hanno firmato un accordo lettera aperta al CEO Sundar Pichai che vuole uscire da quello che chiamano “il business della guerra”. Secondo il New York Times, gli ingegneri senior di Google erano tra le migliaia di membri dello staff di Google che hanno firmato la lettera. La lettera richiedeva il cancellazione immediata di uno specifico progetto militare e una dichiarazione politica più generale sulla costruzione di tecnologia per i militari.

Un mese dopo, circa una dozzina di dipendenti di Google hanno deciso di dimettersi come forma di protesta contro la continua partecipazione di Google al progetto militare noto come Project Maven. Coloro che si stanno dimettendo hanno citato preoccupazioni etiche nello sfruttamento dell’A.I. nella guerra con i droni, nonché preoccupazioni più generali sulle decisioni di Google nell’arena politica. Molti dei dipendenti che hanno scelto di porre fine al loro mandato presso Google hanno condiviso le loro motivazioni in un documento che è stato diffuso internamente a Google.

Come riportato da Gizmodo, "I dipendenti che si dimettono per protesta... dicono che i dirigenti sono diventati meno trasparenti con la loro forza lavoro riguardo alle decisioni aziendali controverse" e sembrano meno interessati ad ascoltare le obiezioni dei lavoratori rispetto a un tempo”. E anche se la cultura di Google è stata spesso descritta come aperta e onesta, sembra che lo sia mutevole. Come ha affermato un dipendente dimesso: "Negli ultimi due mesi, sono rimasto sempre meno colpito dalla risposta e dal modo in cui le preoccupazioni delle persone vengono trattate e ascoltate".

La lettera aperta, apparentemente ignorata dal management, richiedeva che Google cancellasse immediatamente il suo ruolo nell'implementazione di Project Maven. Project Maven, nome in codice dell'Algorithmic Warfare Cross-Functional Team (AWCFT) del Dipartimento della Difesa (DoD), è un programma di intelligenza artificiale (A.I.) attualmente in fase di sviluppo. Lo scopo di Maven è quello di valutare le riprese video dei droni, ha riferito Gizmodo.

In risposta a queste proteste, Google avrebbe deciso di non rinnovare Project Maven anche se finirà il contratto attuale. Google non ha fatto alcun annuncio formale in merito, anche se Reuters ha citato fonti “familiari con l’accordo”. In precedenza, Google aveva difeso il contratto affermando che Project Maven veniva utilizzato per scopi non offensivi e lo avrebbe fatto salvare vite.

Il progetto Maven è stato istituito dal Dipartimento della Difesa degli Stati Uniti (DoD) per il Pentagono nell'aprile 2017. Una lettera su carta intestata del Vice Segretario della Difesa con data timbrata 26 aprile 2017 afferma che il Dipartimento della Difesa deve "integrare le intelligenza e apprendimento automatico in modo più efficace nelle operazioni per mantenere vantaggi rispetto ad avversari sempre più capaci e concorrenti”.

L’annuncio del vicesegretario alla Difesa afferma che l’uso previsto inizialmente di Maven è quello di fornire “computer algoritmi di visione per il rilevamento, la classificazione e gli allarmi di oggetti" per il sistema aereo senza pilota tattico (UAS), O droni.

La seconda richiesta, più generale, contenuta nella lettera di Google, era che Pichai “redigesse, pubblicizzasse e applicare una politica chiara che affermi che né Google né i suoi appaltatori costruiranno mai guerre tecnologia."

La partecipazione a Project Maven “danneggerà irreparabilmente il marchio di Google e la sua capacità di competere per i talenti”, afferma la lettera. Google sta “lottando per mantenere la fiducia del pubblico”, continua la lettera, mentre molti temono che “l’intelligenza artificiale sia distorta e usata come arma”.

La lettera fa riferimento a una dichiarazione di valore fondamentale di Google: “Ognuno dei nostri utenti si fida di noi. Non metterlo mai a repentaglio. Mai." I firmatari della lettera affermano che il contratto con il DoD si oppone direttamente a questo valore fondamentale e mette a rischio la reputazione dell’azienda.

L'ex CEO e presidente esecutivo di Google Eric Schmidt è stato il relatore principale del novembre 2017 Centro per una nuova sicurezza americana Vertice sull’intelligenza artificiale e la sicurezza globale. A Schmidt è stato chiesto del rapporto tra aziende tecnologiche, A.I. ricerca e sicurezza nazionale.

“C’è una preoccupazione generale nella comunità tecnologica che in qualche modo il complesso militare-industriale utilizzi le proprie cose per uccidere le persone in modo errato”, ha detto Schmidt.

La lettera all’attuale CEO Pichai è la prova che, almeno per coloro che l’hanno firmata, la preoccupazione generale menzionata da Schmidt è reale e specifica. Un'altra lettera da allora è stato diffuso, scritto da oltre 90 accademici di intelligenza artificiale, etica e informatica, che allo stesso modo hanno chiesto a Google di cessare il suo lavoro su Project Maven.

Aggiornato il 2 giugno: secondo quanto riferito, Google ha deciso che non rinnoverà Project Maven.

Raccomandazioni degli editori

• Project Starline di Google è uno specchio magico per dare vita alle chat video 3D
• I dirigenti di Google dicono che abbiamo bisogno di un piano per fermare l’A.I. algoritmi dall’amplificare il razzismo
• L'hardware Project Yeti di Google potrebbe essere rivelato alla Game Developers Conference
• Il "Project Stream" di Google ti consentirà di giocare ai principali giochi sul browser Chrome

Migliora il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, divertenti recensioni di prodotti, editoriali approfonditi e anteprime uniche nel loro genere.