Aber möglicherweise gibt es eine Lösung – oder zumindest eine Möglichkeit, Algorithmen zu überwachen und festzustellen, ob sie eine Bevölkerungsgruppe unangemessen diskriminiert haben.
Empfohlene Videos
„Erlernte Vorhersageregeln sind oft zu komplex, um sie zu verstehen.“
Vorgeschlagen von einem Team von Informatikern von Google, der University of Chicago und der University of Texas, Austin Chancengleichheit beim überwachten Lernen Der Ansatz analysiert die Entscheidungen, die maschinelle Lernprogramme treffen – und nicht die Entscheidungsprozesse selbst –, um Diskriminierung zu erkennen. Die eigentliche Natur dieser Algorithmen besteht darin, Entscheidungen selbstständig und mit ihrer eigenen Logik in einer Blackbox zu treffen, die der menschlichen Überprüfung verborgen bleibt. Daher halten die Forscher den Zugriff auf die Black Boxes für praktisch aussichtslos.
„Erlernte Vorhersageregeln sind oft zu komplex, um sie zu verstehen“, sagte der Informatiker und Co-Autor der University of Chicago. Nathan Srebro, sagte Digital Trends. „Tatsächlich besteht der Sinn des maschinellen Lernens darin, automatisch eine [statistisch] gute Regel zu lernen … nicht eine, deren Beschreibung für den Menschen unbedingt Sinn ergibt. Mit dieser Sicht des Lernens im Hinterkopf wollten wir auch in der Lage sein, ein Gefühl der Nichtdiskriminierung zu gewährleisten und gleichzeitig erlernte Regeln als Black Boxes zu behandeln.“
Silber und Co-Autoren Moritz Hardt von Google und Eric Price von der UT Austin hat einen Ansatz entwickelt, um die Entscheidungen eines Algorithmus zu analysieren und sicherzustellen, dass es im Entscheidungsprozess nicht zu Diskriminierungen kommt. Zu diesem Zweck gingen sie von dem vorurteilsfreien Grundsatz aus, dass eine Entscheidung über eine bestimmte Person nicht ausschließlich auf der Bevölkerungsgruppe dieser Person basieren sollte. Im Falle eines KI-Programms sollte die Entscheidung des Algorithmus über eine Person nichts über das Geschlecht oder die Rasse dieser Person in einer Weise preisgeben, die unangemessen diskriminierend wäre.
Dabei handelt es sich um einen Test, der das Problem nicht direkt löst, sondern dabei hilft, diskriminierende Prozesse aufzudecken und zu verhindern. Aus diesem Grund sind einige Forscher vorsichtig.
„Maschinelles Lernen ist großartig, wenn man damit die beste Route für eine Ölpipeline ermitteln möchte.“ Noel Sharkey, emeritierter Professor für Robotik und KI an der University of Sheffield, sagte Der Wächter. „Bis wir mehr darüber wissen, wie Vorurteile bei ihnen wirken, wäre ich sehr besorgt darüber, dass sie Vorhersagen treffen, die sich auf das Leben der Menschen auswirken.“
Srebro erkennt diese Bedenken an, betrachtet sie jedoch nicht als pauschale Kritik am Ansatz seines Teams. „Ich stimme zu, dass bei vielen Anwendungen viel auf dem Spiel steht, insbesondere bei der Regierung und anderen Justizbehörden ist der Einsatz statistischer Black-Box-Prädiktoren nicht angemessen und Transparenz ist von entscheidender Bedeutung.“ er sagte. „In anderen Situationen, wenn sie von kommerziellen Unternehmen verwendet werden und wenn der individuelle Einsatz geringer ist, könnten statistische Black-Box-Prädiktoren angemessen und effizient sein. Es könnte schwierig sein, sie vollständig zu verbieten, aber es wäre dennoch wünschenswert, sie im Hinblick auf bestimmte geschützte Diskriminierungen zu kontrollieren.“
Der Papier über Chancengleichheit beim überwachten Lernen war einer von wenigen, die diesen Monat auf der Neural Information Processing Systems (NIPS) in Barcelona, Spanien, vorgestellt wurden und Ansätze zur Erkennung von Diskriminierung in Algorithmen boten Der Wächter.
Empfehlungen der Redaktion
- Google Bard könnte bald Ihr neuer KI-Lebensberater werden
- Elon Musks neues KI-Unternehmen will „das Universum verstehen“
- Das gesamte Internet gehört mittlerweile der KI von Google
- Google rät seinen Mitarbeitern, sich vor KI-Chatbots in Acht zu nehmen
- Was ist MusicLM? Schauen Sie sich die Text-zu-Musik-KI von Google an
Werten Sie Ihren Lebensstil aufDigital Trends hilft Lesern mit den neuesten Nachrichten, unterhaltsamen Produktrezensionen, aufschlussreichen Leitartikeln und einzigartigen Einblicken, den Überblick über die schnelllebige Welt der Technik zu behalten.
