De lehet, hogy van javítás – vagy legalábbis mód az algoritmusok figyelésére és annak megállapítására, hogy nem diszkrimináltak-e helytelenül egy demográfiai csoportot.
Ajánlott videók
"A megtanult előrejelzési szabályok gyakran túl bonyolultak ahhoz, hogy megértsék."
A Google, a Chicagói Egyetem és az Austini Texasi Egyetem informatikusaiból álló csapat javasolta a Esélyegyenlőség a felügyelt tanulásban A megközelítés a gépi tanulási programok által meghozott döntéseket elemzi – nem pedig magukat a döntéshozatali folyamatokat – a diszkrimináció kimutatása érdekében. Ezeknek az algoritmusoknak az a lényege, hogy önálló döntéseket hoznak, saját logikájukkal, egy fekete dobozban, amely el van rejtve az emberi felülvizsgálat elől. A kutatók ezért úgy látják, hogy a fekete dobozokhoz való hozzáférés gyakorlatilag hiábavaló.
„A megtanult előrejelzési szabályok gyakran túl bonyolultak ahhoz, hogy megértsük” – mondta a Chicago Egyetem informatikusa és társszerzője. Nathan Srebro, mondta a Digital Trendsnek. „Valójában a gépi tanulás lényege az, hogy automatikusan megtanuljon egy [statisztikailag] jó szabályt… nem olyat, amelynek leírása szükségszerűen értelmes az emberek számára. A tanulásnak ezt a szemléletét szem előtt tartva azt is szerettük volna biztosítani, hogy a diszkriminációmentesség érzése mentes legyen, miközben a tanult szabályokat továbbra is fekete dobozként kezeljük.”
Srebro és társszerzői Moritz Hardt a Google és Eric Price Az UT Austin munkatársa kidolgozott egy megközelítést egy algoritmus döntéseinek elemzésére, és annak biztosítására, hogy az ne tegyen különbséget a döntéshozatali folyamat során. Ennek érdekében azt az előítélet-ellenes elvet vezették, hogy egy adott személyről szóló döntést nem szabad kizárólag az illető demográfiai adatain alapulni. Egy mesterséges intelligencia program esetében az algoritmus személyre vonatkozó döntése nem fedhet fel semmit az adott személy neméről vagy rasszáról oly módon, hogy az indokolatlanul diszkriminatív lenne.
Ez egy olyan teszt, amely nem oldja meg közvetlenül a problémát, de segít megjelölni és megelőzni a diszkriminatív folyamatokat. Emiatt egyes kutatók óvatosak.
"A gépi tanulás nagyszerű, ha arra használja, hogy kidolgozza az olajvezeték legjobb útját." Noel Sharkey, a Sheffieldi Egyetem robotika és MI emeritus professzora elmondta Az őrző. „Amíg nem tudunk többet arról, hogyan működnek bennük az elfogultságok, nagyon aggódnék amiatt, hogy olyan jóslatokat tegyenek, amelyek hatással vannak az emberek életére.”
Srebro elismeri ezt az aggodalmat, de nem tekinti csapata megközelítésének elsöprő kritikájának. „Egyetértek azzal, hogy számos, nagy téttel bíró alkalmazás esetén hatással van az egyénekre, különösen a kormány és Az igazságügyi hatóságok szerint a fekete doboz statisztikai előrejelzők használata nem megfelelő, és az átláthatóság létfontosságú” ő mondta. „Más helyzetekben, amikor kereskedelmi szervezetek használják, és amikor az egyéni tét alacsonyabb, a fekete doboz statisztikai előrejelzők megfelelőek és hatékonyak lehetnek. Lehet, hogy nehéz teljesen letiltani őket, de kívánatos ellenőrizni a meghatározott védett diszkriminációt.”
A az esélyegyenlőség a felügyelt tanulásban című tanulmánya egyike volt azoknak a marokoknak, amelyeket ebben a hónapban a spanyolországi barcelonai Neural Information Processing Systems (NIPS) rendezvényen bemutattak, és amely módszereket kínált az algoritmusokban való megkülönböztetés kimutatására. Az őrző.
Szerkesztői ajánlások
- A Google Bard hamarosan az Ön új mesterséges intelligencia-vezetője lehet
- Elon Musk új mesterséges intelligencia-cégének célja, hogy „megértse az univerzumot”
- Az egész internet mostantól a Google mesterséges intelligenciájához tartozik
- A Google arra kéri a dolgozókat, hogy óvakodjanak az AI chatbotoktól
- Mi az a MusicLM? Tekintse meg a Google szöveg-zene AI-ját
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
