Google bi mogao prekinuti svoj rad na projektu Maven

U travnju je više od 4000 Googleovih zaposlenika potpisalo ugovor otvoreno pismo izvršnom direktoru Sundaru Pichaiju koji se želi izvući iz onoga što nazivaju "ratnim poslom". Googleovi stariji inženjeri bili su među tisućama Googleovih zaposlenika koji su potpisali pismo, piše The New York Times. U pismu se tražilo trenutačno otkazivanje određenog vojnog projekta i općenitiju izjavu o politici izgradnje tehnologije za vojsku.

Mjesec dana kasnije, oko desetak zaposlenika Googlea odlučilo je dati otkaz kao oblik prosvjeda zbog daljnjeg sudjelovanja Googlea u vojnom projektu poznatom kao Project Maven. Oni koji daju ostavke naveli su etičke razloge za korištenje A.I. u ratovanju bespilotnim letjelicama, kao i općenitije zabrinutosti oko Googleovih odluka u političkoj areni. Mnogi zaposlenici koji su odlučili okončati svoj rad u Googleu podijelili su svoje obrazloženje u dokumentu koji je Google interno distribuirao.

Kao što je Gizmodo izvijestio, “Zaposlenici koji daju otkaz u znak prosvjeda... kažu da su rukovoditelji postali manje transparentni sa svojom radnom snagom u vezi s kontroverznim poslovnim odlukama i čini se da su manje zainteresirani za slušanje prigovora radnika nego što su to nekada činili." I dok se Googleova kultura često opisuje kao otvorena i poštena, čini se da je tako pomicanje. Kao što je jedan zaposlenik koji je dao otkaz rekao: "Tijekom posljednjih nekoliko mjeseci bio sam sve manje impresioniran odgovorom i načinom na koji se tretiraju i slušaju zabrinutosti ljudi."

Otvoreno pismo, koje je uprava očito ignorirala, tražilo je da Google odmah otkaže svoju ulogu u implementaciji projekta Maven. Kodni naziv za međufunkcionalni tim za algoritamsko ratovanje (AWCFT) Ministarstva obrane (DoD), Project Maven je program umjetne inteligencije (A.I.) koji je trenutno u razvoju. Mavenova svrha je da procijeniti video snimke drona, objavio je Gizmodo.

Kao odgovor na ove proteste, Google je navodno odlučio da ne obnovi Projekt Maven iako će završiti trenutni ugovor. Google nije dao nikakve službene objave u vezi s ovim, iako je Reuters citirao izvore "upoznate s dogovorom". Prethodno je Google branio ugovor govoreći da se projekt Maven koristio u neuvredljive svrhe i da će spasiti živote.

Projekt Maven pokrenulo je Ministarstvo obrane SAD-a (DoD) za Pentagon u travnju 2017. godine. Pismo s datumom na memorandumu zamjenika ministra obrane s pečatom 26. travnja 2017. navodi da Ministarstvo obrane mora "integrirati umjetne inteligencije i strojnog učenja učinkovitije u svim operacijama kako bi se održale prednosti nad sve sposobnijim protivnicima i natjecatelji.”

U priopćenju zamjenika ministra obrane kaže se da je početna namjena Mavena pružanje "računala algoritmi vida za detekciju objekata, klasifikaciju i upozorenja” za taktički bespilotni zračni sustav (UAS), ili dronovi.

Drugi, općenitiji zahtjev u Googleovom pismu bio je da Pichai “nacrta, objavi i provoditi jasnu politiku prema kojoj ni Google ni njegovi izvođači nikada neće voditi rat tehnologija."

Sudjelovanje u projektu Maven "nepopravljivo će oštetiti Googleov brend i njegovu sposobnost da se natječe za talente", navodi se u pismu. Google se "bori zadržati povjerenje javnosti", nastavlja se u pismu, dok se mnogi plaše "pristrane i naoružane umjetne inteligencije."

Pismo se poziva na Googleovu izjavu o temeljnoj vrijednosti: “Svaki od naših korisnika vjeruje nam. Nikad to ne ugrozi. Ikad." Potpisnici pisma tvrde da se ugovor s DoD-om izravno suprotstavlja ovoj temeljnoj vrijednosti i ugrožava ugled tvrtke.

Bivši izvršni direktor Googlea i izvršni predsjednik Eric Schmidt bio je glavni govornik na konferenciji u studenom 2017. Centar za novu američku sigurnost Summit o umjetnoj inteligenciji i globalnoj sigurnosti. Schmidta su pitali o odnosu između tehnoloških tvrtki, A.I. istraživanja i nacionalne sigurnosti.

"Postoji opća zabrinutost u tehnološkoj zajednici da vojno-industrijski kompleks na neki način koristi svoje stvari za neispravno ubijanje ljudi", rekao je Schmidt.

Pismo sadašnjem izvršnom direktoru Pichaiju dokaz je da je, barem za one koji su ga potpisali, opća zabrinutost koju spominje Schmidt stvarna i konkretna. Još jedno pismo je od tada kružio, čiji je autor više od 90 akademika za umjetnu inteligenciju, etiku i računalne znanosti, koji su na sličan način zatražili od Googlea da prekine svoj rad na projektu Maven.

Ažurirano 2. lipnja: Google je navodno odlučio da neće obnoviti Project Maven.

Preporuke urednika

• Googleov Project Starline čarobno je ogledalo koje oživljava 3D video chat
• Googleovi čelnici kažu da nam treba plan za zaustavljanje A.I. algoritmi za pojačavanje rasizma
• Googleov projekt Yeti hardver mogao bi biti predstavljen na konferenciji za razvojne programere igara
• Googleov 'Project Stream' omogućit će vam igranje glavnih igara u pregledniku Chrome

Nadogradite svoj životni stilDigitalni trendovi pomažu čitateljima da prate brzi svijet tehnologije sa svim najnovijim vijestima, zabavnim recenzijama proizvoda, pronicljivim uvodnicima i jedinstvenim brzim pregledima.