Google færdig med at udvikle A.I. for våben, fortsætter andet militært arbejde

CEO Sundar Pichai skitserede Googles principper og mål for kunstig intelligens ansøgninger på virksomhedsbloggen torsdag den 7. juni.

Pichais offentlige erklæring følger klager og et brev underskrevet af mere end 4.000 Google-ansatte. Medarbejderne ønskede, at virksomheden skulle stoppe arbejdet Projekt Maven, som involverede udvikling af A.I. til militære applikationer, der vurderer videooptagelser taget af autonome droner. Google har siden angiveligt indvilget i ikke at forny Project Maven-kontrakten.

Med henvisning til den potentielle samfundsmæssige påvirkning af A.I. skrev Pichai: "Som leder i A.I. føler vi et dybt ansvar for at få dette rigtigt. Så i dag annoncerer vi syv principper, der skal styre vores arbejde fremadrettet. Det er ikke teoretiske begreber; de er konkrete standarder, der aktivt vil styre vores forskning og produktudvikling og vil påvirke vores forretningsbeslutninger."

Her er Googles offentliggjorte mål for A.I. ansøgninger, som skrevet:

• Være socialt gavnlig.
• Undgå at skabe eller forstærke unfair bias.
• Bliv bygget og testet for sikkerhed.
• Vær ansvarlig over for mennesker.
• Inkorporer principper for privatlivsdesign.
• Overhold høje standarder for videnskabelig ekspertise.
• Gøres tilgængelig til brug, der er i overensstemmelse med disse principper.

Google er opmærksom på, at ovenstående principper er genstand for fortolkning, og skitserede også A.I. ansøgninger, som virksomheden ikke vil forfølge. Pichais udtalelse afviste Googles stræben efter teknologier, der forårsager skade, forårsager eller understøtter skade på mennesker, udføre overvågning, der overtræder accepterede normer, eller strider mod internationale love og menneskelige rettigheder.

For at præcisere vurderingen af ​​forvoldelse af skade lyder principerklæringen: ”Hvor der er en væsentlig risiko for skade, vil vi fortsæt kun, hvor vi mener, at fordelene væsentligt opvejer risiciene, og vil inkorporere passende sikkerhed begrænsninger."

Pichai skrev også, at selvom Google ikke vil udvikle A.I. til brug med våben, vil virksomheden arbejde med regeringer og militær om andre applikationer, især dem, der "holder servicemedlemmer og civile i sikkerhed." Specifikke fordelagtige applikationer til A.I. nævnt omfatter cybersikkerhed, træning, militær rekruttering, veteraners sundhedspleje og eftersøgning og redde.

Pichai erkendte, at der er mange meninger om brugen af ​​kunstig intelligens, og lovede at "fremme tankevækkende lederskab på dette område, der trækker på videnskabeligt stringente og tværfaglige tilgange."

A.I. principper blogindlæg afsluttet med et tilbageblik på Googles 2004 Founders’ Letter, skrevet af Larry Page og Sergey Brin i anledning af virksomhedens børsnotering (IPO). To principper skiller sig ud som vejledende principper i brevet fra 2004: "Gør verden til et bedre sted" og "Vær ikke ond."

Under overskriften "Vær ikke ond," skrev Page og Brin: "Vi tror stærkt på, at vi på lang sigt vil være bedre tjent - som aktionærer og på alle andre måder - af en virksomhed, der gør gode ting for verden, selvom vi giver afkald på nogle kortsigtede gevinster. Dette er et vigtigt aspekt af vores kultur og deles bredt i virksomheden."

Det Åbent brev sendte Google-medarbejdere til Pichai i april, hvor han bad om, at Google annullerer sin deltagelse i Project Maven, der refererede til principperne i grundlæggernes brev.

Redaktørens anbefalinger

• Røg fra skovbrande får Google til at udsende rådgivning om arbejde hjemmefra
• Googles nye Bard AI kan være kraftfuld nok til at få ChatGPT til at bekymre sig - og den er allerede her
• Alle de nye Chromebook-funktioner annonceret stille og roligt på Google I/O
• Google Smart Canvas får dybere integration mellem apps
• Googles Messages-app vil snart fungere bedre med iMessage

Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.