Üretken yapay zeka, son aylarda aşağıdakiler gibi çeşitli araç ve botların piyasaya sürülmesiyle inanılmaz bir hızla ilerliyor: OpenAI'nin ChatGPT'si, Google Bard'ı, ve dahası. Yine de bu hızlı gelişme, yapay zeka alanında deneyimli tecrübeli kişiler arasında ciddi endişelere neden oluyor - yani öyle ki, 1.000'den fazla kişi, AI geliştiricilerini frenler.
Mektup internet sitesinde yayımlandı. Geleceğin Yaşam Enstitüsü, misyonu "dönüştürücü teknolojiyi yaşamdan yararlanmaya ve aşırı büyük ölçekli risklerden uzaklaştırmaya yönlendirmek" olan bir kuruluş. Arasında imzacılar arasında Apple'ın kurucu ortağı Steve Wozniak, Twitter CEO'su Elon Musk ve politikacı Andrew da dahil olmak üzere önde gelen birkaç akademisyen ve teknoloji lideri var. Yang.
Önerilen Videolar
Makale, yapay zeka modellerinden daha güçlü olan tüm şirketlere çağrıda bulunuyor. yakın zamanda piyasaya sürülen GPT-4 en az altı ay süreyle çalışmayı derhal durdurmak. Bu moratoryum "kamuya açık ve doğrulanabilir" olmalı ve "bir dizi paylaşılan bağımsız dış kuruluşlar tarafından titizlikle denetlenen ve denetlenen gelişmiş yapay zeka tasarımı ve geliştirmesi için güvenlik protokolleri uzmanlar.”
İlgili
- ChatGPT üreticisi OpenAI, tüketici koruma yasaları nedeniyle FTC soruşturmasıyla karşı karşıya
- ChatGPT'nin Bing tarama özelliği, ödeme duvarı erişim kusuru nedeniyle devre dışı bırakıldı
- Apple'ın ChatGPT rakibi sizin için otomatik olarak kod yazabilir
Mektup bunun gerekli olduğunu söylüyor çünkü "insan-rekabet zekasına sahip yapay zeka sistemleri toplum ve insanlık için büyük riskler oluşturabilir." Onlar riskler arasında propagandanın yayılması, işlerin yok edilmesi, insan hayatının potansiyel olarak değiştirilmesi ve eskimesi ve “kontrol kaybı” sayılabilir. medeniyetimizin." Yazarlar, bu geleceğe devam edip etmeme kararının "seçilmemiş teknolojiye" bırakılmaması gerektiğini ekliyor. liderler.”
AI "herkesin açık yararı için"
Mektup, ChatGPT'ye güç veren teknolojinin bir sonraki versiyonu olan GPT-5'in, yapay genel zeka elde edebilir. Doğruysa, bu, bir insanın anlayabileceği her şeyi anlayabileceği ve öğrenebileceği anlamına gelir. Bu, onu henüz tam olarak keşfedilmemiş şekillerde inanılmaz derecede güçlü hale getirebilir.
Dahası, mektup, "son aylarda yapay zeka görmüş olsa da, yapay zeka sistemlerinin gelişimini çevreleyen sorumlu planlama ve yönetimin gerçekleşmediğini" iddia ediyor. hiç kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde yapamayacağı daha güçlü dijital beyinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlenmiş laboratuvarlar kontrol."
Bunun yerine mektup, yapay zeka gelişimini düzenleyecek, insanların yapay zeka tarafından yaratılan ve yaratılanları ayırt etmesine yardımcı olacak yeni yönetişim sistemlerinin oluşturulması gerektiğini ileri sürüyor. insan yapımı içerik, OpenAI gibi yapay zeka laboratuvarlarını neden oldukları her türlü zarardan sorumlu tutar, toplumun yapay zeka bozulmasıyla (özellikle demokrasiye) başa çıkmasını sağlar, ve dahası.
Yazarlar, "insanlığın AI ile gelişen bir geleceğin tadını çıkarabileceğini... içinde ödülleri topladığımızı, bu sistemleri herkesin yararına olacak şekilde tasarlayın ve topluma uyum sağlaması için bir şans verin.” AI sistemlerinde duraklama daha güçlü hariç GPT-4 bunun olmasına izin vereceklerini belirtiyorlar.
Mektubun amaçlanan etkisi olacak mı? Bunu söylemek zor. OpenAI'nin hem finansal hem de itibar açısından gelişmiş modeller üzerinde çalışmaya devam etmesi için açıkça teşvikler var. Ancak bu kadar çok potansiyel riskle - ve bunları çok az anlayarak - mektubun yazarları açıkça bu teşviklerin peşine düşmenin çok tehlikeli olduğunu düşünüyor.
Editörlerin Önerileri
- Google Bard artık konuşabiliyor, ancak ChatGPT'yi bastırabilir mi?
- ChatGPT web sitesi trafiği ilk kez düştü
- Ankete göre %81'i ChatGPT'nin bir güvenlik riski olduğunu düşünüyor
- ChatGPT'ye masa oyunları öğretmesini öğrettim ve artık asla geri dönmeyeceğim
- NY avukatları, yasal özette sahte ChatGPT davaları kullandıkları için para cezasına çarptırıldı
Yaşam tarzınızı yükseltinDijital Eğilimler, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği ön incelemelerle okuyucuların hızlı tempolu teknoloji dünyasını takip etmelerine yardımcı olur.
