Google Klart att utveckla A.I. för vapen, fortsätter annat militärt arbete

VD Sundar Pichai beskrev Googles principer och mål för artificiell intelligens ansökningar på företagsbloggen torsdagen den 7 juni.

Pichais offentliga uttalande följer på klagomål och ett brev undertecknat av mer än 4 000 Google-anställda. De anställda ville att företaget skulle sluta arbeta på Projekt Maven, som innebar att utveckla A.I. för militära tillämpningar för att bedöma videofilmer tagna av autonoma drönare. Google har sedan dess enligt uppgift gått med på att inte förnya Project Maven-kontraktet.

Med hänvisning till den potentiella samhälleliga påverkan av A.I., skrev Pichai: "Som ledare inom A.I. känner vi ett djupt ansvar för att få detta rätt. Så idag tillkännager vi sju principer som styr vårt arbete framåt. Dessa är inte teoretiska begrepp; de är konkreta standarder som aktivt kommer att styra vår forskning och produktutveckling och kommer att påverka våra affärsbeslut.”

Här är Googles publicerade mål för A.I. ansökningar, som skrivet:

• Vara samhällsnyttig.
• Undvik att skapa eller förstärka orättvis partiskhet.
• Byggs och testas för säkerhet.
• Var ansvarig inför människor.
• Inkludera integritetsdesignprinciper.
• Upprätthålla höga krav på vetenskaplig excellens.
• Görs tillgänglig för användning som överensstämmer med dessa principer.

Medveten om att ovanstående principer är föremål för tolkning, beskrev Google också A.I. ansökningar som företaget inte kommer att driva. Pichais uttalande avfärdade Googles strävan efter teknik som orsakar skada, orsakar eller stöder skada på människor, utföra övervakning som bryter mot accepterade normer, eller strider mot internationella lagar och mänskliga rättigheter.

För att förtydliga bedömningen av att orsaka skada lyder principförklaringen ”Där det finns en väsentlig risk för skada kommer vi att fortsätt endast där vi anser att fördelarna väsentligt överväger riskerna och kommer att införliva lämplig säkerhet begränsningar.”

Pichai skrev också att även om Google inte kommer att utveckla A.I. för användning med vapen, kommer företaget att arbeta med regeringar och militärer på andra applikationer, särskilt de som "behåller tjänstemän och civila säkra.” Specifika fördelaktiga applikationer för A.I. nämns inkluderar cybersäkerhet, utbildning, militär rekrytering, veteransjukvård och sök- och rädda.

Pichai erkände att det finns många åsikter om användningen av artificiell intelligens och lovade att "främja genomtänkt ledarskap inom detta område, som bygger på vetenskapligt rigorösa och multidisciplinära tillvägagångssätt.”

A.I. principer blogginlägg avslutades med en tillbakablick på Googles 2004 Founders’ Letter, skrivet av Larry Page och Sergey Brin med anledning av företagets börsintroduktion (IPO). Två principer sticker ut som vägledande principer i brevet från 2004: "Att göra världen till en bättre plats" och "Var inte ond."

Under rubriken "Var inte ond", skrev Page och Brin, "Vi tror starkt på att vi på lång sikt kommer att bli bättre betjänta - som aktieägare och på alla andra sätt — av ett företag som gör bra saker för världen även om vi avstår från kortsiktigt vinster. Detta är en viktig aspekt av vår kultur och delas brett inom företaget.”

De Öppet brev Google-anställda skickade till Pichai i april och bad att Google skulle avbryta sitt deltagande i Project Maven hänvisade till principerna som anges i grundarnas brev.

Redaktörens rekommendationer

• Rök från skogsbrand får Google att utfärda råd om arbete hemifrån
• Googles nya Bard AI kan vara tillräckligt kraftfull för att få ChatGPT att oroa sig – och den är redan här
• Alla nya Chromebook-funktioner tillkännagavs tyst på Google I/O
• Google Smart Canvas får djupare integration mellan appar
• Googles meddelandeapp kommer snart att fungera bättre med iMessage

Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.