Изпълнителният директор на IBM Арвинд Кришна казва, че компанията повече няма да разработва или предлага софтуер за лицево разпознаване или анализ с общо предназначение. в писмо от 8 юни адресиран до Конгреса и написан в подкрепа на Закона за правосъдието в полицията от 2020 г., Кришна се застъпва за нов реформи, които подкрепят отговорното използване на технологиите — и се борят със системната расова несправедливост и полицията неправомерно поведение.
„IBM твърдо се противопоставя и няма да одобри използването на каквато и да е технология, включително технология за разпознаване на лица, предлагана от други доставчици, за масово наблюдение, расово профилиране, нарушения на основните човешки права и свободи или всякаква цел, която не е в съответствие с нашите ценности и принципи на доверие и прозрачност“, пише Кришна в писмо.
Препоръчани видеоклипове
Кришна, който пое поста на главен изпълнителен директор през април, добави, че е време Конгресът да започне национален диалог относно последиците от технологията за лицево разпознаване и как тя „трябва да се използва от вътрешните правоприлагащи органи агенции.”
Свързани
- Защитете обществеността от рисковете, свързани с ИИ, казва Белият дом на технологичните гиганти
- Техническите лидери призовават за спиране на развитието на GPT-4.5, GPT-5 поради „мащабни рискове“
- Microsoft се отказва от своя страховит, четещ емоции A.I.
Изпълнителният директор също изрази опасенията си относно расовите пристрастия, които често се срещат в изкуствен интелект системи днес. Освен това Кришна нарече необходимостта от повече надзор за одит на инструментите за изкуствен интелект, особено когато се използват в правоприлагането и национални политики, които „внасят по-голяма прозрачност и отчетност в полицейската дейност, като камери на тялото и модерни анализи на данни техники.”
Разказаха запознати CNBC че смъртта на Джордж Флойд, чернокож мъж, докато е в ареста на полицията в Минеаполис и съпътстващият фокус върху реформата на полицията и расовото неравенство убеди IBM да спре разпознаването на лица продукти.
През последните няколко години системите за разпознаване на лица драстично напреднаха благодарение на развитието в области като машинното обучение. Въпреки това, без да има официален надзор, на тях до голяма степен им беше позволено да работят нерегулирано и да нарушават поверителността на потребителите. Най-забележителното е, че технологията за разпознаване на лица беше изведена на преден план в националния разговор от стартираща компания, наречена Clearview AI който успя да изгради база данни от повече от 3 милиарда изображения, основно изчерпвайки сайтове на социални медии. Оттогава Clearview се сблъска с обратна реакция от компании като Twitter и в момента се занимава с безброй съдебни дела за поверителност.
Съобщава се също, че Clearview AI се използва от правоприлагащите органи в продължаващите протести на Black Lives Matter в САЩ Експертите твърдят че тези системи могат да идентифицират погрешно хората, тъй като те са до голяма степен обучени да използват бели мъжки лица.
Кришна не каза дали компанията ще преразгледа решението си, ако и когато Конгресът въведе нови закони, за да внесе по-голям контрол върху технологиите като разпознаването на лица. Свързахме се с IBM и ще актуализираме тази история, когато получим отговор.
Препоръки на редакторите
- Медицинските здравни експерти са последните, които бият тревога за развитието на ИИ
- AI може да замени около 7800 работни места в IBM като част от паузата за наемане
- Google пропусна голям шанс с подобна на ChatGPT технология, твърди доклад
- ИИ на Zoom технология за откриване на емоции по време на разговори разстройва критиците
- IBM твърди, че новият им процесор може да открива измами в реално време
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
