Yapay zeka teknolojisinin en ön saflarında yer alan kişiler bu konuda yorum yapıyorsa son derece akıllı AI sistemlerinin potansiyel olarak yıkıcı etkileri, o zaman oturup almak muhtemelen akıllıca olacaktır. fark etme.
Sadece birkaç ay önce, bu alandaki öncü çalışmaları nedeniyle yapay zekanın "babalarından" biri olarak kabul edilen Geoffrey Hinton, teknolojinin hızlı gelişme hızının yüksek olduğunu söyledi. bunun "akıl almaz" olmadığı anlamına geliyordu insan zihninden üstün olduğu düşünülen süper zeki yapay zeka, sonunda insanlığı yok edebilir.
Önerilen Videolar
Ve arkasındaki şirket OpenAI'nin CEO'su Sam Altman viral ChatGPT sohbet robotu, gelişmiş AI sistemlerinin toplum üzerindeki potansiyel etkilerinden "biraz korktuğunu" itiraf etmişti.
İlgili
- ChatGPT üreticisi OpenAI, tüketici koruma yasaları nedeniyle FTC soruşturmasıyla karşı karşıya
- ChatGPT web sitesi trafiği ilk kez düştü
- ChatGPT'ye masa oyunları öğretmesini öğrettim ve artık asla geri dönmeyeceğim
Altman o kadar endişeli ki Çarşamba günü şirketi, adında yeni bir birim kuracağını duyurdu. Süper akıllı yapay zekanın sonunda kaosa veya uzak bir şeye neden olmamasını sağlamayı amaçlayan süper hizalama daha kötüsü.
"Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının birçoğunu çözmemize yardımcı olabilir." OpenAI dedi yeni girişimi tanıtan bir gönderide. "Ancak süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta yok olmasına yol açabilir."
OpenAI, süper zeki yapay zekanın uzak bir yol gibi görünse de 2030 yılına kadar geliştirilebileceğine inandığını söyledi. Ve şu anda "potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun haydut olmasını önlemek için" hiçbir sistemin mevcut olmadığını kolayca kabul ediyor.
Durumla başa çıkmak için OpenAI, güvenlik kontrolleri gerçekleştirecek "kabaca insan düzeyinde otomatikleştirilmiş bir hizalama araştırmacısı" oluşturmak istiyor. süper zeki yapay zeka, bu riskleri yönetmenin yönetişim ve süper zeka sorununu çözmek için yeni kurumlar gerektireceğini de sözlerine ekledi. hizalama.
Superalignment'ın bir etkisinin olması için OpenAI'nin en iyi makine öğrenimi araştırmacıları ve mühendislerinden oluşan bir ekip oluşturması gerekir.
Şirket, çabası konusunda çok dürüst görünüyor ve bunu "inanılmaz derecede iddialı bir hedef" olarak tanımlarken aynı zamanda şunu da kabul ediyor: "başarılı olması garanti değil." Ancak, "odaklanmış, uyumlu bir çabanın bunu çözebileceği konusunda iyimser" olduğunu da ekliyor. sorun."
OpenAI'nin ChatGPT'si ve Google'ın Bard'ı gibi yeni yapay zeka araçları ve diğerleri o kadar devrim niteliğinde ki uzmanlar emin Bu süper zeka öncesi seviyede bile, işyeri ve daha geniş toplum, yakın gelecekte temel değişikliklerle karşı karşıya kalacak. terim.
Bu nedenle, dünyanın dört bir yanındaki hükümetler arayı kapatmak için çabalıyor, aceleyle düzenlemeler empoze etmek için harekete geçiyor. teknolojinin güvenli ve sorumlu bir şekilde uygulanmasını sağlamak amacıyla hızla gelişen yapay zeka endüstrisi biçim. Bununla birlikte, tek bir yapı oluşturulmadığı sürece, her ülkenin teknolojinin en iyi nasıl kullanılacağına ilişkin kendi görüşleri olacaktır; bu, bu düzenlemelerin büyük ölçüde değişebileceği ve belirgin şekilde farklı sonuçlara yol açabileceği anlamına gelir. Ve Superalignment'ın hedefine ulaşılmasını daha da zorlaştıracak olan bu farklı yaklaşımlardır.
Editörlerin Önerileri
- Google Bard artık konuşabiliyor, ancak ChatGPT'yi bastırabilir mi?
- Elon Musk'ın yeni yapay zeka şirketi 'evreni anlamayı' hedefliyor
- OpenAI, ilk uluslararası karakolunun yerini açıkladı
- NY avukatları, yasal özette sahte ChatGPT davaları kullandıkları için para cezasına çarptırıldı
- Bu web tarayıcısı, ChatGPT'yi büyüleyici ve yeni bir şekilde entegre eder
Yaşam tarzınızı yükseltinDijital Eğilimler, en son haberler, eğlenceli ürün incelemeleri, anlayışlı başyazılar ve türünün tek örneği ön incelemelerle okuyucuların hızlı tempolu teknoloji dünyasını takip etmelerine yardımcı olur.
