Generativní umělá inteligence se v posledních měsících posouvá neuvěřitelnou rychlostí, s uvedením různých nástrojů a botů jako např. ChatGPT od OpenAI, Google Bard, a více. Přesto tento rychlý vývoj vyvolává vážné obavy mezi ostřílenými veterány v oblasti umělé inteligence – takže více než 1000 z nich podepsalo otevřený dopis vyzývající vývojáře umělé inteligence, aby brzdy.
Dopis byl zveřejněn na webových stránkách společnosti Institut budoucnosti života, organizace, jejímž posláním je „nasměrovat transformační technologii směrem k prospěchu života a pryč od extrémních rozsáhlých rizik“. Mezi Signatáři je několik prominentních akademiků a lídrů v oblasti technologií, včetně spoluzakladatele Applu Steva Wozniaka, CEO Twitteru Elona Muska a politika Andrewa. Yang.
Doporučená videa
Článek vyzývá všechny společnosti pracující na modelech umělé inteligence, které jsou výkonnější než modely umělé inteligence nedávno vydané GPT-4 okamžitě přerušit práci po dobu nejméně šesti měsíců. Toto moratorium by mělo být „veřejné a ověřitelné“ a poskytlo by čas na „společný vývoj a implementaci souboru sdílených bezpečnostní protokoly pro pokročilý návrh a vývoj umělé inteligence, které jsou přísně kontrolovány a kontrolovány nezávislými externími subjekty Odborníci."
Příbuzný
- Tvůrce ChatGPT OpenAI čelí vyšetřování FTC kvůli zákonům na ochranu spotřebitele
- Funkce procházení Bing ChatGPT je deaktivována kvůli chybě v přístupu k paywallu
- Konkurent společnosti Apple ChatGPT za vás může automaticky napsat kód
V dopise se uvádí, že je to nutné, protože „systémy umělé inteligence s lidskou konkurenční inteligencí mohou představovat vážná rizika pro společnost a lidstvo“. Tito Rizika zahrnují šíření propagandy, zničení pracovních míst, potenciální nahrazení a zastarání lidského života a „ztrátu kontroly“. naší civilizace." Autoři dodávají, že rozhodnutí, zda pokračovat v této budoucnosti, by nemělo být ponecháno na „nezvoleném tech vůdci.”
AI „pro jasný prospěch všech“
Dopis přichází těsně poté, co byla vznesena tvrzení, že GPT-5, další verze technologie pohánějící ChatGPT, mohl dosáhnout umělé obecné inteligence. Pokud je to správné, znamená to, že bude schopen porozumět a naučit se čemukoli, co může pochopit člověk. To by mohlo být neuvěřitelně silné způsoby, které ještě nebyly plně prozkoumány.
A co víc, dopis tvrdí, že odpovědné plánování a řízení kolem vývoje systémů umělé inteligence se neděje, „ačkoli v posledních měsících byla umělá inteligence vidět laboratoře uzavřeny v závodě mimo kontrolu ve vývoji a nasazení stále výkonnějších digitálních myslí, kterým nikdo – ani jejich tvůrci – nemůže porozumět, předvídat nebo spolehlivě řízení."
Místo toho dopis tvrdí, že musí být vytvořeny nové řídicí systémy, které budou regulovat vývoj umělé inteligence, pomohou lidem odlišit umělou inteligenci vytvořenou a obsah vytvořený lidmi, činit laboratoře AI, jako je OpenAI, odpovědné za jakékoli škody, které způsobí, umožnit společnosti vyrovnat se s narušením AI (zejména v demokracii), a více.
Autoři končí pozitivně a tvrdí, že „lidstvo se může těšit z prosperující budoucnosti s umělou inteligencí... ve které sklízíme odměny, vytvořit tyto systémy k jasnému prospěchu všech a dát společnosti šanci se přizpůsobit.“ Silnější pauza na systémech AI než GPT-4 by to umožnilo, říkají.
Bude mít dopis zamýšlený účinek? To je těžké říct. Existují jasné pobídky pro OpenAI, aby pokračovala v práci na pokročilých modelech, a to jak finančních, tak reputačních. Ale s tolika potenciálními riziky - a s velmi malým pochopením pro ně - autoři dopisu jasně cítí, že tyto pobídky jsou příliš nebezpečné, než aby je prosazovali.
Doporučení redakce
- Google Bard nyní umí mluvit, ale dokáže přehlušit ChatGPT?
- Návštěvnost webu ChatGPT poprvé klesla
- 81 % si myslí, že ChatGPT je bezpečnostní riziko, zjistil průzkum
- Naučil jsem ChatGPT, aby mě naučil deskové hry, a teď už se nikdy nevrátím
- Právníci z NY dostali pokutu za používání falešných případů ChatGPT v právní zkratce
Upgradujte svůj životní stylDigitální trendy pomáhají čtenářům mít přehled o rychle se měnícím světě technologií se všemi nejnovějšími zprávami, zábavnými recenzemi produktů, zasvěcenými úvodníky a jedinečnými náhledy.
