Google може припинити роботу над проектом Maven

У квітні понад 4000 співробітників Google підписали угоду відкритий лист генеральному директору Сундару Пічаї, який бажає вийти з того, що вони називають «бізнесом війни». Згідно з The New York Times, серед тисяч співробітників Google, які підписали лист, були старші інженери Google. Лист просив негайне скасування конкретного військового проекту і більш загальна політична заява про створення технологій для військових.

Через місяць близько десятка співробітників Google вирішили звільнитися на знак протесту проти подальшої участі Google у військовому проекті, відомому як Project Maven. Ті, хто йде у відставку, посилалися на етичні міркування щодо використання А.І. у війні безпілотників, а також більш загальне занепокоєння щодо рішень Google на політичній арені. Багато співробітників, які вирішили припинити свою роботу в Google, поділилися своїми аргументами в документі, який був розповсюджений всередині Google.

Як повідомляє Gizmodo, «Співробітники, які звільняються на знак протесту... кажуть, що керівники стали менш прозорими щодо своєї робочої сили щодо суперечливих бізнес-рішень. і, здається, менш зацікавлені в тому, щоб вислухати заперечення працівників, ніж колись». І хоча культуру Google часто описують як відкриту та чесну, здається, це так зсув. Як сказав один співробітник, який звільнявся, «за останні пару місяців мене все менше вражала реакція та те, як ставляться до проблем людей і до них прислухаються».

Відкритий лист, який, очевидно, проігнорував керівництво, вимагав від Google негайно скасувати свою роль у реалізації проекту Maven. Кодова назва міжфункціональної групи алгоритмічної війни (AWCFT) Міністерства оборони (DoD), Project Maven — це програма штучного інтелекту (ШІ), яка зараз розробляється. Метою Maven є оцінити відео з дрона, повідомляє Gizmodo.

У відповідь на ці протести Google, як повідомляється, вирішив не поновлювати Project Maven хоча це завершить поточний контракт. Google не робив жодних офіційних заяв щодо цього, хоча Reuters посилався на джерела, «знайомі з угодою». Раніше Google захищав контракт, стверджуючи, що Project Maven використовувався в необразливих цілях і буде рятувати життя.

Проект Maven був створений Міністерством оборони США (DoD) для Пентагону в квітні 2017 року. У листі на бланку заступника міністра оборони з датою від 26 квітня 2017 року зазначено, що Міністерству оборони необхідно «інтегрувати штучні інтелекту та машинного навчання ефективніше в усіх операціях, щоб зберегти переваги над все більш здібними противниками та конкуренти».

У повідомленні заступника міністра оборони сказано, що початкове передбачуване використання Maven — це забезпечення «комп’ютера». алгоритми бачення для виявлення об’єктів, класифікації та сповіщень» для тактичної безпілотної авіаційної системи (UAS), або дрони.

Другий, більш загальний запит у листі від Google полягав у тому, щоб Пічаї «розробив, оприлюднив і дотримуватись чіткої політики, згідно з якою ані Google, ані її підрядники ніколи не будуть розв’язувати війну технології».

Участь у Project Maven завдасть «непоправної шкоди бренду Google і його здатності конкурувати за таланти», — йдеться в листі. Google «бореться зберегти довіру громадськості», – йдеться далі в листі, тоді як багато хто побоюється «упередженого та збройного ШІ».

У листі йдеться про основну цінність Google: «Кожен із наших користувачів довіряє нам. Ніколи не ставте це під загрозу. Коли-небудь». Підписанти листа стверджують, що контракт з Міністерством оборони прямо суперечить цій основній цінності та ставить під загрозу репутацію компанії.

Колишній генеральний директор Google і виконавчий голова Ерік Шмідт був основним доповідачем на листопадовому 2017 р. Центр нової американської безпеки Саміт зі штучного інтелекту та глобальної безпеки. Шмідта запитали про відносини між технологічними компаніями, A.I. дослідження та національна безпека.

«У технічному співтоваристві існує загальне занепокоєння тим, що військово-промисловий комплекс якимось чином використовує свої речі для неправильного вбивства людей», — сказав Шмідт.

Лист нинішньому генеральному директору Пічаї є доказом того, що принаймні для тих, хто його підписав, загальне занепокоєння, про яке згадував Шмідт, є реальним і конкретним. Інший лист з тих пір було поширено, авторами якого є понад 90 вчених у галузі штучного інтелекту, етики та інформатики, які так само попросили Google припинити роботу над проектом Maven.

Оновлено 2 червня: Google, як повідомляється, вирішив не продовжувати Project Maven.

Рекомендації редакції

• Google Project Starline — це чарівне дзеркало, яке оживляє 3D-відеочат
• Керівники Google кажуть, що нам потрібен план, щоб зупинити ШІ. алгоритми від посилення расизму
• Апаратне забезпечення Google Project Yeti може бути представлено на конференції розробників ігор
• Google «Project Stream» дозволить вам грати в основні ігри у браузері Chrome

Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.