Ancak algoritmaları izlemenin ve bir demografiye karşı uygunsuz bir şekilde ayrımcılık yapıp yapmadıklarını anlamanın bir çözümü veya en azından bir yolu olabilir.
Önerilen Videolar
"Öğrenilmiş tahmin kuralları genellikle anlaşılamayacak kadar karmaşıktır."
Google, Chicago Üniversitesi ve Austin Texas Üniversitesi'nden bilgisayar bilimcilerden oluşan bir ekip tarafından önerilen Denetimli Öğrenmede Fırsat Eşitliği yaklaşım, ayrımcılığı tespit etmek için karar verme süreçlerinin kendisinden ziyade makine öğrenimi programlarının aldığı kararları analiz eder. Bu algoritmaların doğası, insanların incelemesinden gizlenmiş bir kara kutu içinde, kendi mantıklarıyla, kendi başlarına karar vermektir. Bu nedenle araştırmacılar kara kutulara erişmeyi pratik olarak boşuna görüyorlar.
Chicago Üniversitesi bilgisayar bilimcisi ve ortak yazar, "Öğrenilmiş tahmin kuralları çoğu zaman anlaşılamayacak kadar karmaşıktır", Nathan Srebro, Digital Trends'e söyledi. “Aslında, makine öğreniminin asıl amacı, [istatistiksel olarak] iyi bir kuralı otomatik olarak öğrenmektir… açıklaması insanlar için mutlaka anlamlı olan bir kural değil. Bu öğrenme bakış açısını aklımızda tutarak, öğrenilen kuralları kara kutular olarak ele alırken aynı zamanda ayrımcılık yapmama duygusunu da garanti altına almak istedik.”
Srebro ve ortak yazarlar Moritz Hardt Google'ın ve Eric Fiyat UT Austin'den bir algoritmanın kararlarını analiz etmek ve karar verme sürecinde ayrımcılık yapmadığından emin olmak için bir yaklaşım geliştirdi. Bunu yapmak için, belirli bir kişi hakkındaki kararın yalnızca o kişinin demografik özelliklerine göre verilmemesi gerektiği yönündeki önyargı karşıtı ilkeyi benimsediler. Bir yapay zeka programı söz konusu olduğunda, algoritmanın bir kişi hakkındaki kararı, o kişinin cinsiyeti veya ırkı hakkında uygunsuz bir şekilde ayrımcı olacak hiçbir şeyi açığa çıkarmamalıdır.
Sorunu doğrudan çözmeyen ancak ayrımcı süreçlerin işaretlenmesine ve önlenmesine yardımcı olan bir testtir. Bu nedenle bazı araştırmacılar temkinli davranıyor.
"Bir petrol boru hattını yönlendirmenin en iyi yolunu bulmak için kullanıyorsanız makine öğrenimi harikadır." Noel SharkeySheffield Üniversitesi'nden emekli robotik ve yapay zeka profesörü şunları söyledi: Gardiyan. "Önyargıların onlarda nasıl işlediği hakkında daha fazla bilgi sahibi olana kadar, insanların hayatlarını etkileyen tahminlerde bulunmalarından çok endişe duyacağım."
Srebro bu endişenin farkında ancak bunu ekibinin yaklaşımına yönelik kapsamlı bir eleştiri olarak görmüyor. “Bireyler üzerinde yüksek riskli etkisi olan birçok uygulamada, özellikle de hükümet ve Adli makamlar, kara kutu istatistiksel tahmin araçlarının kullanılmasının uygun olmadığını ve şeffaflığın hayati önem taşıdığını ifade etti. dedi. "Ticari kuruluşlar tarafından kullanıldığında ve bireysel risklerin daha düşük olduğu diğer durumlarda, kara kutu istatistiksel tahminleri uygun ve etkili olabilir. Bunlara tamamen izin vermemek zor olabilir, ancak yine de belirli korunan ayrımcılığın kontrol edilmesi arzu edilir.”
Denetimli Öğrenmede Fırsat Eşitliği konulu makale göre, bu ay İspanya'nın Barselona kentindeki Sinir Bilgi İşleme Sistemlerinde (NIPS) sunulan ve algoritmalarda ayrımcılığı tespit etmeye yönelik yaklaşımlar sunan az sayıdaki örnekten biriydi. Gardiyan.
Editörlerin Önerileri
- Google Bard yakında yeni yapay zeka yaşam koçunuz olabilir
- Elon Musk'un yeni yapay zeka şirketi 'evreni anlamayı' hedefliyor
- İnternetin tamamı artık Google'ın yapay zekasına ait
- Google, çalışanlarına AI sohbet robotlarına karşı dikkatli olmalarını söylüyor
- MusicLM nedir? Google'ın metinden müziğe yapay zekasına göz atın
Yaşam tarzınızı yükseltinDigital Trends, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği olan ön bakışlarla okuyucuların teknolojinin hızlı tempolu dünyasını takip etmelerine yardımcı olur.
