Ha a mesterséges intelligencia technológiájában élenjáró egyének kommentálják a a rendkívül intelligens mesterséges intelligencia rendszerek potenciálisan katasztrofális hatásai miatt, akkor valószínűleg bölcs dolog felülni és kézbe venni értesítés.
Alig néhány hónappal ezelőtt Geoffrey Hinton, az AI egyik „keresztapjának” tartott ember a területen végzett úttörő munkája miatt, azt mondta, hogy a technológia gyors fejlődési üteme. azt jelentette, hogy „nem elképzelhetetlen” hogy a szuperintelligens mesterséges intelligencia – amelyet felsőbbrendűnek tartanak az emberi elménél – a végén kiirthatja az emberiséget.
Ajánlott videók
És Sam Altman, az OpenAI vezérigazgatója, a cég mögött a vírusos ChatGPT chatbot, bevallotta, hogy „egy kicsit fél” a fejlett AI-rendszerek társadalomra gyakorolt lehetséges hatásaitól.
Összefüggő
- A ChatGPT-t gyártó OpenAI-t az FTC vizsgálja a fogyasztóvédelmi törvényekkel kapcsolatban
- A ChatGPT webhely forgalma először csökkent
- Megtanítottam a ChatGPT-t, hogy tanítson meg társasjátékokat, és most már nem megyek vissza
Altman annyira aggódik, hogy szerdán cége bejelentette, hogy új egységet hoz létre, melynek neve A szuperhangosítás célja annak biztosítása, hogy a szuperintelligens mesterséges intelligencia végül ne okozzon káoszt vagy valami távoli dolgot rosszabb.
„A szuperintelligencia lesz az emberiség által valaha feltalált leghatásosabb technológia, és segíthet megoldani a világ számos legfontosabb problémáját” – mondta az OpenAI az új kezdeményezést bemutató bejegyzésben. "A szuperintelligencia hatalmas ereje azonban nagyon veszélyes is lehet, és az emberiség hatalmának elvesztéséhez vagy akár az emberiség kihalásához is vezethet."
Az OpenAI azt mondta, hogy bár a szuperintelligens mesterséges intelligencia távolinak tűnhet, úgy gondolja, hogy 2030-ra kifejleszthető. És készséggel elismeri, hogy jelenleg nem létezik olyan rendszer, amely „egy potenciálisan szuperintelligens mesterséges intelligencia irányítására vagy vezérlésére szolgálna, és megakadályozná azt, hogy szélhámos legyen”.
A helyzet kezelésére az OpenAI egy „nagyjából emberi szintű automatizált igazítási kutatót” szeretne építeni, amely biztonsági ellenőrzéseket végezne szuperintelligens mesterséges intelligencia, hozzátéve, hogy e kockázatok kezeléséhez új intézményekre lesz szükség az irányításhoz és a szuperintelligencia problémájának megoldásához igazítás.
Ahhoz, hogy a Superalignment hatást fejtsen ki, az OpenAI-nak össze kell állítania egy kiváló gépi tanulási kutatókból és mérnökökből álló csapatot.
A vállalat nagyon őszintén mutatja erőfeszítéseit, „hihetetlenül ambiciózus célként” írja le, ugyanakkor elismeri, hogy „nem garantált, hogy sikerül”. De hozzáteszi, hogy „optimista, hogy egy összpontosított, összehangolt erőfeszítés megoldhatja ezt probléma."
Az olyan új mesterséges intelligencia eszközök, mint például az OpenAI ChatGPT és a Google Bard, olyan forradalmiak, hogy a szakértők biztosak benne. hogy még ezen a szuperintelligencia előtti szinten is alapvető változásokkal néz szembe a munkahely és a társadalom szélesebb köre a közeljövőben. kifejezést.
Ezért küzdenek a kormányok szerte a világon, hogy felzárkózzanak, és sietve lépnek fel, hogy szabályokat vezessenek be a gyorsan fejlődő mesterséges intelligencia-ipar annak érdekében, hogy biztosítsa a technológia biztonságos és felelősségteljes alkalmazását módon. Ha azonban nem hoznak létre egyetlen testületet, minden országnak megvan a saját nézete a technológia legjobb felhasználásáról, ami azt jelenti, hogy ezek a szabályozások nagyon eltérőek lehetnek, és jelentősen eltérő eredményekhez vezethetnek. És ezek a különböző megközelítések teszik még nehezebbé a Superalignment céljának elérését.
Szerkesztői ajánlások
- A Google Bard már beszélni tud, de ki tudja-e fojtani a ChatGPT-t?
- Elon Musk új mesterséges intelligencia-cégének célja, hogy „megértse az univerzumot”
- Az OpenAI felfedte első nemzetközi előőrsének helyét
- A New York-i ügyvédeket pénzbírsággal sújtották, mert hamis ChatGPT-ügyeket használtak jogi röviden
- Ez a webböngésző lenyűgöző új módon integrálja a ChatGPT-t
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
