En avril, plus de 4 000 employés de Google ont signé un lettre ouverte au PDG Sundar Pichai qui veut sortir de ce qu’ils appellent « le business de la guerre ». Les ingénieurs principaux de Google faisaient partie des milliers de membres du personnel de Google qui ont signé la lettre, selon le New York Times. La lettre demandait au annulation immédiate d'un projet militaire spécifique et une déclaration de politique plus générale sur la création de technologies pour l'armée.
Un mois plus tard, une douzaine d’employés de Google ont décidé de démissionner en signe de protestation contre la participation continue de Google au projet militaire connu sous le nom de Project Maven. Ceux qui démissionnent ont évoqué des préoccupations éthiques liées à l’exploitation de l’IA. dans la guerre des drones, ainsi que des préoccupations plus générales concernant les décisions de Google dans l’arène politique. De nombreux employés qui ont choisi de mettre fin à leur mandat chez Google ont partagé leurs motivations dans un document diffusé en interne chez Google.
Vidéos recommandées
Comme l'a rapporté Gizmodo: « Les employés qui démissionnent en signe de protestation… disent que les dirigeants sont devenus moins transparents avec leurs employés sur les décisions commerciales controversées. et semblent moins intéressés qu’autrefois à écouter les objections des travailleurs. Et même si la culture de Google a souvent été décrite comme ouverte et honnête, cela semble être le cas. déplacement. Comme l’a déclaré un employé démissionnaire: « Au cours des deux derniers mois, j’ai été de moins en moins impressionné par la réponse et par la manière dont les préoccupations des gens sont traitées et écoutées. »
En rapport
- La société mère de Google lance le projet Internet en ballon Loon
- Conception du contrôleur de console de jeu Google, fonctionnalités qui auraient été révélées dans un brevet
- Google pourrait apporter de nouveaux contrôleurs et fonctionnalités sociales pour Project Stream
La lettre ouverte, qui a apparemment été ignorée par la direction, demandait à Google d'annuler immédiatement son rôle dans la mise en œuvre du projet Maven. Nom de code d'une équipe interfonctionnelle de guerre algorithmique (AWCFT) du ministère de la Défense (DoD), le projet Maven est un programme d'intelligence artificielle (IA) actuellement en cours de développement. Le but de Maven est de évaluer les séquences vidéo d'un drone, a rapporté Gizmodo.
En réponse à ces protestations, Google aurait décidé ne pas renouveler le projet Maven même si cela mettra fin au contrat en cours. Google n'a fait aucune annonce officielle à ce sujet, bien que Reuters ait cité des sources "familières avec l'accord". Google avait précédemment défendu le contrat en affirmant que le projet Maven était utilisé à des fins non offensives et qu'il sauver des vies.
Le projet Maven a été créé par le département américain de la Défense (DoD) pour le Pentagone en avril 2017. Une lettre à en-tête du sous-secrétaire à la Défense, datée du 26 avril 2017, indique que le DoD doit « intégrer les l'intelligence et l'apprentissage automatique plus efficacement dans l'ensemble des opérations pour conserver des avantages sur des adversaires de plus en plus performants et concurrents. »
L’annonce du sous-secrétaire à la Défense indique que l’utilisation initiale prévue de Maven est de fournir des « algorithmes de vision pour la détection, la classification et les alertes d'objets »pour les systèmes aériens sans pilote (UAS) tactiques, ou drones.
La deuxième demande, plus générale, dans la lettre de Google, était que Pichai « rédige, publie et appliquer une politique claire stipulant que ni Google ni ses sous-traitants ne construiront jamais de guerre technologie."
Participer au projet Maven « nuirait irrémédiablement à la marque de Google et à sa capacité à rivaliser pour attirer les talents », indique la lettre. Google « a du mal à conserver la confiance du public », poursuit la lettre, tandis que beaucoup craignent « une IA biaisée et militarisée ».
La lettre fait référence à une déclaration de valeur fondamentale de Google: « Chacun de nos utilisateurs nous fait confiance. Ne mettez jamais cela en péril. Jamais." Les signataires de la lettre affirment que le contrat avec le DoD s’oppose directement à cette valeur fondamentale et met en danger la réputation de l’entreprise.
L'ancien PDG et président exécutif de Google, Eric Schmidt, était le conférencier principal de la conférence de novembre 2017. Centre pour une nouvelle sécurité américaine Sommet sur l'intelligence artificielle et la sécurité mondiale. Schmidt a été interrogé sur la relation entre les entreprises technologiques, A.I. la recherche et la sécurité nationale.
"Il y a une inquiétude générale dans la communauté technologique quant au fait que le complexe militaro-industriel utilise ses trucs pour tuer des gens de manière incorrecte", a déclaré Schmidt.
La lettre adressée au PDG actuel Pichai est la preuve qu'au moins pour ceux qui l'ont signée, la préoccupation générale mentionnée par Schmidt est réelle et spécifique. Une autre lettre a depuis circulé, rédigé par plus de 90 universitaires en intelligence artificielle, éthique et informatique, qui ont également demandé à Google de cesser ses travaux sur le projet Maven.
Mise à jour le 2 juin: Google aurait décidé de ne pas renouveler le projet Maven.
Recommandations des rédacteurs
- Le projet Starline de Google est un miroir magique pour donner vie au chat vidéo 3D
- Les dirigeants de Google disent que nous avons besoin d’un plan pour arrêter l’IA. les algorithmes d’amplifier le racisme
- Le matériel Project Yeti de Google pourrait être révélé lors de la Game Developers Conference
- Le « Project Stream » de Google vous permettra de jouer à des jeux majeurs sur le navigateur Chrome
Améliorez votre style de vieDigital Trends aide les lecteurs à garder un œil sur le monde en évolution rapide de la technologie avec toutes les dernières nouvelles, des critiques de produits amusantes, des éditoriaux perspicaces et des aperçus uniques.
