Generálny riaditeľ IBM Arvind Krishna hovorí, že spoločnosť už nebude vyvíjať ani ponúkať softvér na všeobecné rozpoznávanie alebo analýzu tváre. In list z 8. júna adresovaný Kongresu a napísaný na podporu zákona o spravodlivosti v policajnej práci z roku 2020, Krišna obhajuje nové reformy, ktoré podporujú zodpovedné používanie technológií – a boj proti systematickej rasovej nespravodlivosti a polícii nesprávneho správania.
„IBM je pevne proti a nebude tolerovať používanie akejkoľvek technológie, vrátane technológie rozpoznávania tváre ponúkanej inými predajcami, na masové sledovanie, rasové profilovanie, porušovanie základných ľudských práv a slobôd alebo akýkoľvek účel, ktorý nie je v súlade s našimi hodnotami a zásadami dôvery a transparentnosti,“ napísal Krishna v list.
Odporúčané videá
Krishna, ktorý v apríli prevzal vedúcu úlohu, dodal, že je čas, aby Kongres začal národný dialóg o dôsledkoch technológie rozpoznávania tváre a o tom, ako by ju „mali používať vnútroštátne orgány činné v trestnom konaní agentúry.”
Súvisiace
- Chráňte verejnosť pred rizikami AI, hovorí Biely dom technologickým gigantom
- Technickí lídri požadujú pozastavenie vývoja GPT-4.5, GPT-5 kvôli „rozsiahlym rizikám“
- Microsoft ukončil svoju strašidelnú, emócie čítajúcu A.I.
Generálny riaditeľ tiež vyjadril svoje obavy týkajúce sa rasovej zaujatosti, ktorá sa často vyskytuje v umela inteligencia systémy dnes. Krishna ďalej označil za potrebu väčšieho dohľadu nad auditom nástrojov umelej inteligencie, najmä ak sa používajú pri presadzovaní práva a národné politiky, ktoré „prinášajú väčšiu transparentnosť a zodpovednosť do polície, ako sú telesné kamery a moderná analýza údajov techniky.”
Povedali to ľudia oboznámení s problematikou CNBC že smrť Georga Floyda, černocha, keď bol vo väzbe polície v Minneapolise a sprievodné zameranie na policajnú reformu a rasovú nerovnosť presvedčilo IBM, aby zastavila rozpoznávanie tváre Produkty.
Za posledných niekoľko rokov systémy rozpoznávania tváre dramaticky pokročili vďaka vývoju v oblastiach, ako je strojové učenie. Bez akéhokoľvek oficiálneho dohľadu im však bolo do značnej miery dovolené, aby fungovali neregulovane a porušovali súkromie používateľov. Najpozoruhodnejšie je, že technológia rozpoznávania tváre sa dostala do popredia celonárodnej konverzácie vďaka startupu s názvom Clearview AI ktorá dokázala vybudovať databázu viac ako 3 miliárd obrázkov, ktoré primárne využívali stránky sociálnych médií. Clearview odvtedy čelil odporu od spoločností ako Twitter a v súčasnosti rieši nespočetné množstvo súdnych sporov o súkromie.
Clearview AI údajne využívajú aj orgány činné v trestnom konaní v prebiehajúcich protestoch Black Lives Matter v USA. Odborníci argumentovali že tieto systémy môžu nesprávne identifikovať ľudí, pretože sú z veľkej časti trénovaní pomocou bielych mužských tvárí.
Krishna nepovedal, či spoločnosť prehodnotí svoje rozhodnutie, ak a keď Kongres zavedie nové zákony, ktoré prinesú väčšiu kontrolu technológií, ako je rozpoznávanie tváre. Oslovili sme IBM a tento príbeh aktualizujeme, keď sa ozveme.
Odporúčania redaktorov
- Odborníci na zdravotníctvo najnovšie hlásia poplach v súvislosti s vývojom AI
- Umelá inteligencia by mohla nahradiť približne 7 800 pracovných miest v IBM v rámci prestávky v prijímaní zamestnancov
- Google premeškal veľkú šancu vďaka technológii podobnej ChatGPT, tvrdí správa
- A.I. Technológia na detekciu emócií počas hovorov rozrušuje kritikov
- IBM tvrdí, že jej nový procesor dokáže odhaliť podvody v reálnom čase
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
