Generatívna AI sa v posledných mesiacoch posúva neuveriteľnou rýchlosťou, s uvedením rôznych nástrojov a botov ako napr. ChatGPT od OpenAI, Google Bard, a viac. Napriek tomu tento rýchly vývoj spôsobuje vážne obavy medzi skúsenými veteránmi v oblasti AI viac ako 1 000 z nich podpísalo otvorený list, v ktorom vyzývajú vývojárov AI, aby brzdy.
List bol zverejnený na webovej stránke spoločnosti Inštitút budúcnosti života, organizácia, ktorej deklarovaným poslaním je „nasmerovať transformačnú technológiu k prospechu života a preč od extrémne veľkých rizík“. Medzi Signatármi je niekoľko prominentných akademikov a lídrov v oblasti technológií, vrátane spoluzakladateľa Apple Steva Wozniaka, CEO Twitteru Elona Muska a politika Andrewa. Yang.
Odporúčané videá
Článok vyzýva všetky spoločnosti pracujúce na modeloch AI, ktoré sú výkonnejšie ako modely AI nedávno vydaný GPT-4 okamžite prerušiť prácu najmenej na šesť mesiacov. Toto moratórium by malo byť „verejné a overiteľné“ a malo by poskytnúť čas na „spoločný vývoj a implementáciu súboru spoločných bezpečnostné protokoly pre pokročilý návrh a vývoj AI, ktoré sú prísne kontrolované a kontrolované nezávislými externými subjektmi odborníkov.”
Súvisiace
- Výrobca ChatGPT OpenAI čelí vyšetrovaniu FTC v súvislosti so zákonmi na ochranu spotrebiteľa
- Funkcia prehliadania Bing služby ChatGPT je deaktivovaná kvôli chybe v prístupe k paywallu
- Konkurent spoločnosti Apple ChatGPT môže automaticky napísať kód za vás
V liste sa uvádza, že je to nevyhnutné, pretože „systémy AI s ľudskou konkurenčnou inteligenciou môžu predstavovať vážne riziká pre spoločnosť a ľudstvo“. Tie riziká zahŕňajú šírenie propagandy, ničenie pracovných miest, potenciálne nahradenie a zastarávanie ľudského života a „stratu kontroly“. našej civilizácie." Autori dodávajú, že rozhodnutie o tom, či pokračovať v tejto budúcnosti, by nemalo byť ponechané na „nevolenú technológiu vodcovia.”
AI „pre jasný prospech všetkých“
List prichádza tesne po tom, čo boli vznesené tvrdenia, že GPT-5, ďalšia verzia technológie poháňajúcej ChatGPT, mohli dosiahnuť umelú všeobecnú inteligenciu. Ak je to správne, znamená to, že by bolo schopné porozumieť a naučiť sa čokoľvek, čo človek dokáže pochopiť. To by ho mohlo urobiť neuveriteľne silným spôsobom, ktorý ešte nebol úplne preskúmaný.
V liste sa navyše tvrdí, že zodpovedné plánovanie a riadenie súvisiace s vývojom systémov umelej inteligencie sa nekoná, „hoci AI v posledných mesiacoch laboratóriá zamknuté v pretekoch, ktoré sa vymkli kontrole, aby vyvinuli a nasadili stále výkonnejšie digitálne mysle, ktorým nikto – dokonca ani ich tvorcovia – nerozumie, predpovedá alebo spoľahlivo ovládanie.”
Namiesto toho sa v liste uvádza, že musia byť vytvorené nové riadiace systémy, ktoré budú regulovať vývoj AI, pomôžu ľuďom rozlíšiť AI vytvorené a obsah vytvorený ľuďmi, brať laboratóriá AI, ako je OpenAI, na zodpovednosť za akúkoľvek škodu, ktorú spôsobia, umožniť spoločnosti vyrovnať sa s narušením AI (najmä v oblasti demokracie), a viac.
Autori končia pozitívne a tvrdia, že „ľudstvo sa môže tešiť z prosperujúcej budúcnosti s AI... v ktorej budeme žať odmeny, vytvoriť tieto systémy pre jasný prospech všetkých a dať spoločnosti šancu prispôsobiť sa." Silnejšia pauza na systémoch AI než GPT-4 by to umožnili, uvádzajú.
Bude mať list zamýšľaný účinok? to je tazko povedat. Existujú jasné stimuly pre OpenAI, aby pokračovala v práci na pokročilých modeloch, finančných aj reputačných. Ale s toľkými potenciálnymi rizikami - a s veľmi malým porozumením im - autori listu jasne cítia, že tieto stimuly sú príliš nebezpečné.
Odporúčania redaktorov
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- Návštevnosť webu ChatGPT prvýkrát klesla
- 81 % si myslí, že ChatGPT je bezpečnostné riziko, zistil prieskum
- Naučil som ChatGPT, aby ma naučil stolové hry, a teraz sa už nikdy nevrátim
- Právnici z NY dostali pokutu za používanie falošných prípadov ChatGPT v právnej skratke
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
