Bu yapay zeka. Çevrimiçi Yorumları Okuma Şeklimizi Değiştirebilir

İnternet gibi bir sorunu nasıl çözersiniz? Açıkçası bu, çeyrek yüzyıl önce bile pek bir anlam ifade etmeyecek bir soruydu. İnternet, hem bilgiyi hem de demokratik değerleri dünyanın her köşesine yayma yeteneğiyle, öyleydi cevap.

İnternete çare aramak, kansere çare aramak gibiydi. 2020'de ise tablo biraz daha bulanık. Evet, internet her türlü şey için şaşırtıcı derecede mükemmel. Ama aynı zamanda sorunları da beraberinde getiriyor sahte haberlerin yayılması şimdiye kadarki her YouTube yorum bölümü olan dijital fosseptik. Başka bir deyişle internet her türlü zehirli olabilir. Nasıl temizleyeceğiz?

Burada basit cevaplar yok. Cevap algoritmik mi yoksa insan odaklı sansür mü? Tartışmalı konulara ilişkin tüm yorum bölümlerini kapatmalı mıyız? Özel sektöre ait bir platformun gerçekten herkese söz hakkı verme zorunluluğu hissetmesi gerekiyor mu? Kamu yararı için dış fikirlerin engellenmesi, internetin herkese ses verme hayaliyle nasıl örtüşüyor?

Carnegie Mellon Üniversitesi'ndeki araştırmacılar, yardımcı olabileceğine inandıkları ilgi çekici yeni bir araç geliştirdiler. Bu, olumsuz konuşmayı engelleyerek değil, bulunmasını kolaylaştırmak için "yardım konuşmasını" vurgulayarak veya güçlendirerek çalışan bir yapay zeka algoritmasıdır. Bu süreçte bunun, interneti sessizleri güçlendirmek için daha iyi bir ses haline getirmeye yönelik sibertopik tutkuya yardımcı olabileceğini umuyorlar.

Sessizlerin sesi

Yapay zeka ekip tarafından Carnegie Mellon'dan tasarlandı Dil Teknolojileri Enstitüsü, YouTube yorumlarını inceliyor ve bu örnekte Rohingya topluluğu gibi haklarından mahrum bırakılan azınlıkları savunan veya onlara sempati duyan yorumları öne çıkarıyor. Müslüman Rohingya halkı, Ekim 2016'dan bu yana Myanmar hükümeti tarafından büyük ölçüde devam eden bir dizi zulme maruz kalıyor. Soykırım krizi bir milyondan fazla Rohingyalıyı komşu ülkelere kaçmak zorunda bıraktı. Bu, dini zulmü ve etnik temizliği içeren umutsuz bir durum; ancak bunu yerel sosyal medyada yer alan yorumların çoğundan tam olarak bilemezsiniz; Konunun diğer tarafındaki yorumların sayısı çok fazla.

"Haklarından mahrum bırakılmış bir azınlığın (bu örnekte Rohingyaların) davasını savunmak ve onları destekleyen web içeriğini otomatik olarak tespit etmek için bir çerçeve geliştirdik." Ashique KhudabukhshCarnegie Mellon Bilgisayar Bilimleri Departmanında proje bilimcisi olan Digital Trends'e şunları söyledi: "Güney Asya'da son derece popüler bir sosyal medya platformu olan YouTube'a odaklandık. Analizlerimiz, Rohingyalar hakkında yapılan çok sayıda yorumun onları aşağılayıcı olduğunu ortaya çıkardı. Davalarını savunan, aksi takdirde çok sayıda sert, olumsuz yorum tarafından bastırılacak olan yorumları tespit etmek için otomatik bir yöntem geliştirdik."

“Genel çerçeve perspektifinden bakıldığında, çalışmamız geleneksel nefret söylemi tespit çalışmalarından farklılaşıyor. Negatif içeriği engelleme konusu aktif ve son derece önemli bir araştırma alanı olmasına rağmen," Khudabukhsh devam etti. "Buna karşılık, yardım konuşması dediğimiz destekleyici yorumları tespit etme çalışmalarımız, olumlu yönleri güçlendirerek çevrimiçi deneyimi iyileştirmede yeni bir yönü işaret ediyor."

Yapay zekalarını eğitmek için. Filtreleme sistemi sayesinde araştırmacılar çeyrek milyondan fazla YouTube yorumunu topladı. En son dilsel modelleme teknolojisini kullanarak, Rohingya topluluğunun tarafını tutan yorumları hızlı bir şekilde vurgulamak için bu yorumları tarayabilen bir algoritma oluşturdular. Kullanıcı yorumlarının otomatik anlamsal analizi, tahmin edebileceğiniz gibi kolay değildir. Yalnızca Hint Yarımadası'nda 22 ana dil vardır. Dilin değerlendirilmesi söz konusu olduğunda sıklıkla yazım hataları ve standart dışı yazım farklılıkları da söz konusudur.

Pozitif olanı vurgulamak

Bununla birlikte, A.I. Ekip tarafından geliştirilen olumlu yorumların görünürlüğünü büyük ölçüde artırmayı başardık. Daha da önemlisi, bunu bir insan moderatörün yapabileceğinden çok daha hızlı bir şekilde yapabildi. Büyük miktarda yorumu gerçek zamanlı olarak manuel olarak gerçekleştiremeyen ve özellikle sabitleyemeyen kişiler yorumlar. Bu, bir tarafın baskın bir dil konusunda sınırlı beceriye sahip olduğu, dillere erişimin sınırlı olduğu senaryolarda özellikle önemli olabilir. İnternet veya çevrimiçi katılıma göre öncelikli olabilecek daha yüksek öncelikli konular (bkz: zulümden kaçınmak) konuşmalar.

Khudabukhsh şöyle devam etti: "Hepimiz, onların yokluğunda başka bir arkadaşın arkasında duran bir arkadaş olmayı deneyimledik." “Şimdi bunu küresel ölçekte düşünün. Peki ya kendinizle ilgili küresel bir tartışmanın içinde değilseniz ve kendinizi savunamıyorsanız? A.I. nasıl olabilir? bu durumda yardım? Biz buna 21. yüzyılın sorunu diyoruz: Mültecilerin seslerinin çok az olduğu, internetin her yerde olduğu bir çağda göçmen krizleri. İleriye dönük olarak jeopolitik sorunların, iklim ve kaynak odaklı nedenlerin yeni göçmen krizlerini tetikleyebileceğini ve çevrimiçi dünyada risk altındaki toplulukları savunmaya yönelik çalışmalarımızın son derece önemli olduğunu düşünüyoruz."

Ancak sadece belirli azınlık seslerini öne çıkarmak yeterli mi, yoksa bu sadece birkaç yılda bir ortaya atılan, yalnızca iyi haberler veren bir haber kuruluşu başlatma konseptinin algoritmik bir versiyonu mu? Belki bazı yönlerden, ama aynı zamanda daha geniş sorunlara çözüm bulmanın yollarını sunmadan, yalnızca simgesel yorumları vurgulamanın çok ötesine geçiyor. Bunu akılda tutarak, araştırmacılar zaten projeyi yapay zekanın nasıl kullanılabileceğine bakacak şekilde genişletti. olumlu içeriği diğer farklı, ancak yine de yüksek sosyal etkiyi güçlendirmek için kullanılabilir senaryolar. Bunun bir örneği, nükleer düşmanlar arasında artan siyasi gerilim sırasındaki çevrimiçi tartışmalardır. Ekibin Haziran ayında Avrupa Yapay Zeka Konferansı'nda (ECAI 2020) sunacağı bu çalışma, düşmanlık yayan içeriğin tespit edilmesine ve sunulmasına yardımcı olmak için kullanılabilir. Benzer teknoloji, her biri için uygun uyarlamalar yapılarak çok sayıda başka senaryo için de oluşturulabilir.

Bunlar kabul oranlarıdır. #ECAI2020 katkılar:
– Tam bildiriler: %26,8
– Vurgulu makaleler: %45

İnceleme sürecine gösterdiğiniz çaba için çok teşekkür ederiz!

— ECAI2020 (@ECAI2020) 15 Ocak 2020

Khudabukhsh, "Bir topluluğa nasıl yardım edilebileceğinin temel dayanağı, söz konusu topluluğa bağlıdır" dedi. “Farklı mülteci krizleri bile farklı yardım kavramları gerektirecektir. Örneğin, bulaşıcı hastalıkların ortaya çıkmasının önemli bir sorun olduğu krizlerde, tıbbi yardım sağlanması çok büyük fayda sağlayabilir. Ekonomik açıdan dezavantajlı bazı gruplar için toplumdaki insanların başarı öykülerinin öne çıkarılması motive edici bir faktör olabilir. Bu nedenle, her topluluğun olumlu içeriği otomatik olarak bulması için farklı incelikli yardım konuşması sınıflandırıcılarına ihtiyacı olacaktır. Çalışmamız bunun için bir plan sağlıyor.”

Kolay düzeltme yok

Bu çalışma ne kadar büyüleyici olsa da konu çevrimiçi konuşma sorununu çözmeye geldiğinde kolay bir çözüm yoktur. Zorluğun bir kısmı da şu anda mevcut olan internetin yüksek sesleri ödüllendirmesidir. Örneğin Google'ın PageRank algoritması, bir sayfaya verilen bağlantıların sayısını ve kalitesini sayarak web sayfalarını algılanan önemlerine göre sıralar. Twitter'da trend olan konular, en fazla sayıda insanın ne hakkında tweet attığına göre belirlenir. Yorumlar bölümleri sıklıkla en güçlü tepkilere neden olan görüşleri vurgulamaktadır.

İnternetteki hayal edilemeyecek kadar çok sayıda ses, muhalif sesleri bastırabiliyor; en azından teoride herkesle aynı platforma sahip olan sesleri sıklıkla ötekileştiriyor.

Bunu değiştirmek için birden fazla harika YouTube yorum tarama algoritması gerekecek. Yine de kötü bir başlangıç ​​değil.

Editörlerin Önerileri

• Son dokunuş: Bilim insanları robotlara insan benzeri dokunma duyularını nasıl veriyor?
• Komik formül: Makine tarafından üretilen mizah neden yapay zekanın kutsal kâsesidir?
• yapay zeka Genellikle hiçbir şeyi unutmaz ama Facebook'un yeni sistemi bunu unutuyor. İşte nedeni
• Duygu algılayan yapay zeka burada ve bir sonraki iş görüşmenizde olabilir
• Dil süper modeli: GPT-3, yapay zeka teknolojisine sessizce nasıl öncülük ediyor? devrim