A generatív mesterséges intelligencia hihetetlen sebességgel halad az elmúlt hónapokban, különféle eszközök és botok piacra dobásával, mint pl. Az OpenAI ChatGPT-je, Google Bard, és több. Ez a gyors fejlődés azonban komoly aggodalomra ad okot a mesterséges intelligencia területén tapasztalt veteránok körében – így olyannyira, hogy közülük több mint 1000-en írtak alá egy nyílt levelet, amelyben felszólítják a mesterséges intelligencia fejlesztőit, hogy fékek.
A levelet közzétették a honlapon Future of Life Institute, egy szervezet, amelynek kinyilvánított küldetése „az átalakuló technológiát az élet javára és a szélsőséges nagymértékű kockázatok elkerülése felé irányítani”. Között Az aláírók számos kiemelkedő akadémikus és technológiai vezető, köztük Steve Wozniak, az Apple társalapítója, Elon Musk, a Twitter vezérigazgatója és Andrew politikus. Yang.
Ajánlott videók
A cikk felszólít minden olyan vállalatot, amely olyan AI modelleken dolgozik, amelyek erősebbek, mint a nemrég megjelent GPT-4
haladéktalanul le kell állítani a munkát legalább hat hónapra. Ennek a moratóriumnak „nyilvánosnak és ellenőrizhetőnek” kell lennie, és időt hagyna a „megosztott moratórium együttes kidolgozására és végrehajtására”. biztonsági protokollok a fejlett mesterséges intelligencia tervezéshez és fejlesztéshez, amelyeket szigorúan auditálnak és független külső felügyelnek szakértők.”Összefüggő
- A ChatGPT-t gyártó OpenAI-t az FTC vizsgálja a fogyasztóvédelmi törvényekkel kapcsolatban
- A ChatGPT Bing böngészési funkciója le van tiltva a fizetőfal hozzáférési hibája miatt
- Az Apple ChatGPT riválisa automatikusan kódot írhat helyetted
A levél szerint erre azért van szükség, mert „az emberrel versengő intelligenciával rendelkező AI-rendszerek komoly kockázatokat jelenthetnek a társadalomra és az emberiségre nézve”. Azok a kockázatok közé tartozik a propaganda terjesztése, a munkahelyek lerombolása, az emberi élet esetleges helyettesítése és elavulása, valamint az „irányítás elvesztése” a mi civilizációnkból.” A szerzők hozzáteszik, hogy a döntést, hogy továbblépjünk-e ebben a jövőben, nem szabad a „kiválasztatlan technológiára” bízni. vezetők.”
AI „mindenki egyértelmű hasznára”
A levél közvetlenül azután érkezik, hogy azt állították, hogy a GPT-5, a ChatGPT-t működtető technológia következő verziója, mesterséges általános intelligenciát érhet el. Ha helyes, ez azt jelenti, hogy képes lesz megérteni és megtanulni bármit, amit az ember fel tud fogni. Ez hihetetlenül erőssé teheti olyan módokon, amelyeket még nem tártak fel teljesen.
Ráadásul a levél azt állítja, hogy az AI-rendszerek fejlesztése körüli felelős tervezés és irányítás nem történik meg, „bár az elmúlt hónapokban az AI Laboratóriumok egy ellenőrizetlen versenyfutásba zárva, hogy egyre erősebb digitális elméket fejlesszenek és telepítsenek, amelyeket senki – még az alkotóik sem – nem tud megérteni, előre jelezni vagy megbízhatóan ellenőrzés."
Ehelyett a levél azt állítja, hogy új irányítási rendszereket kell létrehozni, amelyek szabályozzák a mesterséges intelligencia fejlesztését, segítik az embereket megkülönböztetni a mesterséges intelligencia által létrehozott és ember által létrehozott tartalom, az AI-laboratóriumok (például az OpenAI) felelőssé tétele az általuk okozott károkért, lehetővé téve a társadalom számára, hogy megbirkózzon a mesterséges intelligencia zavaraival (különösen a demokráciában), és több.
A szerzők pozitívan fejezik be, azt állítva, hogy „az emberiség virágzó jövőt élvezhet a mesterséges intelligencia segítségével… amiben mi aratjuk a jutalmakat, megtervezni ezeket a rendszereket mindenki javára, és lehetőséget adni a társadalomnak az alkalmazkodásra.” Szünet benyomása az AI-rendszereken erősebb mint GPT-4 lehetővé tenné, hogy ez megtörténjen – állapítják meg.
A levélnek megvan-e a kívánt hatása? Ezt nehéz megmondani. Egyértelmű, hogy az OpenAI ösztönzőleg hat arra, hogy folytassa a fejlett – pénzügyi és hírnevű – modelleken való munkát. De a sok lehetséges kockázat miatt – és nagyon kevéssé értve azokat – a levél szerzői egyértelműen úgy érzik, hogy ezek az ösztönzők túl veszélyesek ahhoz, hogy követni lehessen őket.
Szerkesztői ajánlások
- A Google Bard már beszélni tud, de ki tudja-e fojtani a ChatGPT-t?
- A ChatGPT webhely forgalma először csökkent
- A felmérés szerint 81%-uk úgy gondolja, hogy a ChatGPT biztonsági kockázatot jelent
- Megtanítottam a ChatGPT-t, hogy tanítson meg társasjátékokat, és most már nem megyek vissza
- A New York-i ügyvédeket pénzbírsággal sújtották, mert hamis ChatGPT-ügyeket használtak jogi röviden
Frissítse életmódjátA Digital Trends segítségével az olvasók nyomon követhetik a technológia rohanó világát a legfrissebb hírekkel, szórakoztató termékismertetőkkel, éleslátó szerkesztőségekkel és egyedülálló betekintésekkel.
