Google kan een einde maken aan zijn werk aan Project Maven

In april ondertekenden ruim 4.000 Google-werknemers een open brief aan CEO Sundar Pichai die zich wil onttrekken aan wat zij ‘oorlogszaken’ noemen. Volgens The New York Times behoorden senior engineers van Google tot de duizenden Google-medewerkers die de brief ondertekenden. In de brief werd verzocht om onmiddellijke annulering van een specifiek militair project en een meer algemene beleidsverklaring over het bouwen van technologie voor het leger.

Een maand later hebben ongeveer een dozijn Google-werknemers besloten af ​​te treden als een vorm van protest tegen de voortdurende deelname van Google aan het militaire project dat bekend staat als Project Maven. Degenen die ontslag nemen, hebben ethische bezwaren aangehaald bij het inzetten van AI. in drone-oorlogvoering, evenals meer algemene zorgen over de beslissingen van Google in de politieke arena. Veel van de werknemers die ervoor hebben gekozen hun dienstverband bij Google te beëindigen, hebben hun beweegredenen gedeeld in een document dat intern bij Google is verspreid.

Zoals Gizmodo meldde: “De werknemers die uit protest ontslag nemen … zeggen dat leidinggevenden minder transparant zijn geworden tegenover hun personeel over controversiële zakelijke beslissingen en lijken minder geïnteresseerd in het luisteren naar de bezwaren van werknemers dan zij ooit deden.” En hoewel de cultuur van Google vaak wordt omschreven als open en eerlijk, lijkt dat ook zo te zijn verschuiven. Zoals een ontslagnemende medewerker zei: ‘De afgelopen maanden ben ik steeds minder onder de indruk van de reacties en de manier waarop er met de zorgen van mensen wordt omgegaan en hoe er naar wordt geluisterd.’

In de open brief, die blijkbaar door het management werd genegeerd, werd Google verzocht onmiddellijk zijn rol bij de implementatie van Project Maven op te zeggen. De codenaam voor een Algorithmic Warfare Cross-Functional Team (AWCFT) van het Department of Defense (DoD), Project Maven, is een programma voor kunstmatige intelligentie (AI) dat momenteel wordt ontwikkeld. Het doel van Maven is om drone-videobeelden beoordelen, meldde Gizmodo.

Als reactie op deze protesten heeft Google naar verluidt besloten om Project Maven niet te verlengen hoewel het het huidige contract zal beëindigen. Google heeft hierover geen formele aankondigingen gedaan, hoewel Reuters bronnen citeerde die ‘bekend zijn met de deal’. Eerder had Google het contract verdedigd door te zeggen dat Project Maven voor niet-offensieve doeleinden werd gebruikt en dat ook zou doen Red levens.

Project Maven werd in april 2017 door het Amerikaanse ministerie van Defensie (DoD) voor het Pentagon opgezet. In een brief met de datum van de plaatsvervangend minister van Defensie, gestempeld op 26 april 2017, staat dat het Ministerie van Defensie “kunstmatige intelligentie en machinaal leren effectiever in alle operaties om voordelen te behouden ten opzichte van steeds capabelere tegenstanders concurrenten.”

In de aankondiging van de adjunct-secretaris van Defensie staat dat het aanvankelijke beoogde gebruik van Maven het leveren van “computers” is vision-algoritmen voor objectdetectie, classificatie en waarschuwingen” voor tactisch onbemand luchtsysteem (UAS), of drones.

Het tweede, meer algemene verzoek in de Google-brief was dat Pichai “opstellen, publiceren en een duidelijk beleid afdwingen waarin staat dat noch Google, noch zijn contractanten ooit oorlog zullen voeren technologie."

Deelname aan Project Maven zal “het merk van Google en zijn vermogen om te concurreren om talent onherstelbaar beschadigen”, aldus de brief. Google “worstelt om het vertrouwen van het publiek te behouden”, vervolgde de brief, terwijl velen vrezen voor “bevooroordeelde en bewapende A.I.”

De brief verwijst naar een kernwaardeverklaring van Google: “Elk van onze gebruikers vertrouwt ons. Breng dat nooit in gevaar. Ooit." De ondertekenaars van de brief beweren dat het contract met het Ministerie van Defensie rechtstreeks in strijd is met deze kernwaarde en de reputatie van het bedrijf in gevaar brengt.

Voormalig CEO en uitvoerend voorzitter van Google Eric Schmidt was de hoofdspreker op de bijeenkomst in november 2017 Centrum voor een nieuwe Amerikaanse veiligheid Top over kunstmatige intelligentie en mondiale veiligheid. Schmidt werd gevraagd naar de relatie tussen technologiebedrijven, A.I. onderzoek en de nationale veiligheid.

“Er bestaat een algemene bezorgdheid in de technologiegemeenschap dat het militair-industriële complex op de een of andere manier hun spullen gebruikt om mensen op ongepaste wijze te vermoorden,” zei Schmidt.

De brief aan de huidige CEO Pichai is het bewijs dat de algemene zorg die Schmidt noemde reëel en specifiek is, tenminste voor degenen die de brief hebben ondertekend. Nog een brief is sindsdien verspreid en is geschreven door meer dan 90 academici op het gebied van kunstmatige intelligentie, ethiek en computerwetenschappen, die Google op dezelfde manier hebben gevraagd zijn werk aan Project Maven te staken.

Bijgewerkt op 2 juni: Google heeft naar verluidt besloten Project Maven niet te verlengen.

Aanbevelingen van de redactie

• Google's Project Starline is een magische spiegel die 3D-videochatten tot leven brengt
• De leidinggevenden van Google zeggen dat we een plan nodig hebben om AI te stoppen. algoritmen die racisme versterken
• De Project Yeti-hardware van Google wordt mogelijk onthuld tijdens de Game Developers Conference
• Met ‘Project Stream’ van Google kun je grote games spelen in de Chrome-browser

Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.