Генеральний директор IBM Арвінд Крішна каже, що компанія більше не розроблятиме та не пропонуватиме програмне забезпечення для розпізнавання та аналізу обличчя загального призначення. в лист від 8 червня адресований Конгресу та написаний на підтримку Закону про правосуддя в поліції від 2020 року, Крішна виступає за нові реформи, які підтримують відповідальне використання технологій — і борються з систематичною расовою несправедливістю та поліцією неправомірна поведінка.
«IBM рішуче виступає проти використання будь-якої технології, включаючи технологію розпізнавання обличчя, запропоновану іншими постачальниками, для масового стеження, расового профілювання, порушення основних прав і свобод людини або будь-які цілі, які не відповідають нашим цінностям і принципам довіри та прозорості», – написав Крішна в лист.
Рекомендовані відео
Крішна, який обійняв посаду виконавчого директора в квітні, додав, що Конгресу настав час почати національний діалог про наслідки технології розпізнавання облич і про те, як вона «має використовуватися внутрішніми правоохоронними органами» агентства».
Пов'язані
- Білий дім закликає технічних гігантів захистити громадськість від ризиків ШІ
- Технічні керівники закликають призупинити розробку GPT-4.5, GPT-5 через «великомасштабні ризики»
- Корпорація Майкрософт припиняє роботу над моторошним штучним інтелектом, який зчитує емоції.
Генеральний директор також висловив свою стурбованість щодо расових упереджень, які часто зустрічаються в штучний інтелект систем сьогодні. Крім того, Крішна заявив про необхідність більшого нагляду за перевіркою інструментів штучного інтелекту, особливо коли вони використовуються в правоохоронних органах. і національна політика, яка «приносить більшу прозорість і підзвітність поліцейській діяльності, наприклад, натільні камери та сучасна аналітика даних техніки».
Розповіли знайомі CNBC що смерть Джорджа Флойда, темношкірого чоловіка, під час ув'язнення поліцією Міннеаполіса та супутня увага до реформи поліції та расової нерівності переконала IBM припинити розпізнавання облич продуктів.
За останні кілька років системи розпізнавання облич різко вдосконалилися завдяки розробкам у таких галузях, як машинне навчання. Однак без будь-якого офіційного нагляду їм було дозволено працювати нерегульовано та порушувати конфіденційність користувачів. Зокрема, технологія розпізнавання облич була виведена на передній план національного обговорення завдяки стартапу під назвою Clearview AI який зміг створити базу даних із понад 3 мільярдів зображень, в основному з сайтів соціальних мереж. Відтоді Clearview зіткнувся з негативною реакцією з боку таких компаній, як Twitter, і зараз має справу з безліччю позовів щодо конфіденційності.
Повідомляється, що штучний інтелект Clearview також використовується правоохоронними органами під час триваючих протестів Black Lives Matter у США. Експерти сперечалися що ці системи можуть неправильно ідентифікувати людей, оскільки вони в основному навчені використовувати обличчя білих чоловіків.
Крішна не сказав, чи перегляне компанія своє рішення, якщо і коли Конгрес запровадить нові закони, щоб посилити контроль над такими технологіями, як розпізнавання облич. Ми звернулися до IBM і оновимо цю історію, коли отримаємо відповідь.
Рекомендації редакції
- Експерти в галузі охорони здоров’я останнім часом б’ють тривогу щодо розвитку ШІ
- Штучний інтелект може замінити близько 7800 робочих місць у IBM в рамках призупинення найму
- Google упустив великий шанс із технологією, схожою на ChatGPT, стверджує звіт
- Штучний інтелект Zoom Технологія виявлення емоцій під час дзвінків засмучує критиків
- IBM стверджує, що її новий процесор може виявляти шахрайство в реальному часі
Оновіть свій спосіб життяDigital Trends допомагає читачам стежити за динамічним світом технологій завдяки всім останнім новинам, цікавим оглядам продуктів, проникливим редакційним статтям і унікальним у своєму роді коротким оглядам.
