A Google két vezetője pénteken azt mondta, hogy a mesterséges intelligencia területén tapasztalható elfogultság sérti az amúgy is marginalizálódott amerikai közösségeket, és többet kell tenni annak érdekében, hogy ez ne forduljon elő. X. Eyeé, a felelősségteljes innovációért a Google-nál, és Angela Williams, a Google irányelveinek menedzsere, beszélt itt (Nem IRL) Pride Summit, a Lesbians Who Tech & Allies, a világ legnagyobb technológiai központú LMBTQ szervezete által szervezett esemény nők, nem bináris és transz emberek számára szerte a világon.
Ban ben különállóbeszél, azzal foglalkoztak, hogy miként lehet a gépi tanulási technológiát felhasználni arra, hogy kárt okozzanak a fekete közösségnek és más közösségeknek Amerikában – és szélesebb körben szerte a világon.
Ajánlott videók
Az algoritmusok torzítása NEM CSAK ADATPROBLÉMA. A mesterséges intelligencia használatának választása elfogult lehet, az algoritmus tanulási módja elfogult lehet, és az, ahogyan a felhasználókat befolyásolják, interakcióba lépnek, illetve érzékelik a rendszert, erősítheti a torzítást! pénztár
@timnitGebruazon dolgozik, hogy többet tudjon meg!- X. Eyeé??? (@TechWithX) 2020. június 26
Williams az A.I. használatáról beszélt. az átfogó megfigyeléshez, annak szerepét túlzott rendõrség, és annak megvalósítása az elfogult büntetés kiszabásához. „Nem arról van szó, hogy a technológia rasszista, de a saját tudattalan elfogultságunkat kódolhatjuk a technológiába” – mondta. Williams kiemelte a Robert Julian-Borchak Williams ügye, egy detroiti afroamerikai férfit, akit nemrégiben tévesen tartóztattak le, miután egy arcfelismerő rendszer helytelenül illesztette a fényképét egy bolti tolvajról készült biztonsági felvételre. Korábbi tanulmányok kimutatták, hogy az arcfelismerő rendszerek nehézségekbe ütköznek különbséget tenni a különböző fekete emberek között. „Itt az A.I. …a megfigyelés szörnyen rosszul sülhet el a való világban” – mondta Williams.
X. Eyeé arról is beszélt, hogyan A.I. segíthet „méretezni és megerősíteni a tisztességtelen elfogultságot”. A kvázi disztópikusabb, figyelemfelkeltő felhasználások mellett A.I., az Eyeé arra összpontosított, hogy az elfogultság miként férkőzhet be a technológia hétköznapibbnak tűnő felhasználásaiba – beleértve a Google sajátját is. eszközöket. „A Google-nál nem idegenek ezek a kihívások” – mondta Eyeé. „Az elmúlt években… többször is szerepeltünk a címlapokon azzal kapcsolatban, hogy algoritmusaink milyen negatív hatással voltak az emberekre.” A Google például kifejlesztett egy eszközt a online megjegyzések toxicitásának osztályozása. Bár ez nagyon hasznos lehet, problémás is volt: az olyan kifejezéseket, mint a „fekete meleg nő vagyok”, kezdetben több kategóriába sorolták. mérgező, mint a „fehér ember vagyok”. Ennek oka a képzési adatkészletek hiányossága, több beszélgetés történt bizonyos identitásokról, mint mások.
A Google két vezetője szerint ezekre a problémákra nincs átfogó megoldás. Ahol problémákat találnak, a Google azon dolgozik, hogy kiküszöbölje az elfogultságot. De azon lehetséges helyek köre, ahol a torzítás bejuthat a rendszerekbe – az algoritmusok tervezésétől egészen az algoritmusokig az adatok előállításának társadalmi kontextusában való alkalmazás – azt jelenti, hogy mindig lesznek problémák példák. A kulcs az, hogy tisztában legyünk ezzel, lehetővé tegyük az ilyen eszközök alapos vizsgálatát, és hogy a különböző közösségek hallathassák hangjukat e technológiák használatával kapcsolatban.
Szerkesztői ajánlások
- Az A.I. legyőzni az emberi mérnököket a mikrochipek tervezésében? A Google úgy gondolja
- A BigSleep A.I. olyan, mint a Google Képkereső a még nem létező képekhez
- A Google visszahozza az embereket, hogy átvegyék a YouTube-tartalom moderálását az A.I-től.
- Álhírek? A.I. algoritmus politikai elfogultságot tár fel az olvasott történetekben
- A.I. a felskálázás miatt ez az 1896-os film úgy néz ki, mintha káprázatos 4K-ban forgatták volna
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
