Tekniske ledere krever utviklingspause for GPT-4.5, GPT-5

Generativ AI har beveget seg med en utrolig hastighet de siste månedene, med lansering av ulike verktøy og bots som f.eks. OpenAIs ChatGPT, Google Bard, og mer. Likevel skaper denne raske utviklingen alvorlig bekymring blant erfarne veteraner innen AI-feltet – så mye slik at over 1000 av dem har signert et åpent brev som ber AI-utviklere om å slå på bremser.

Brevet ble publisert på nettsiden til Future of Life Institute, en organisasjon hvis uttalte oppdrag er "styre transformativ teknologi mot å dra nytte av livet og bort fra ekstreme storskalarisikoer." Blandt Underskriverne er flere fremtredende akademikere og ledere innen teknologi, inkludert Apples medgründer Steve Wozniak, Twitter-sjef Elon Musk og politikeren Andrew Yang.

Artikkelen oppfordrer alle selskaper som jobber med AI-modeller som er kraftigere enn nylig utgitt GPT-4 å umiddelbart stanse arbeidet i minst seks måneder. Dette moratoriet bør være "offentlig og verifiserbart" og vil gi tid til å "utvikle og implementere et sett felles sikkerhetsprotokoller for avansert AI-design og utvikling som er strengt revidert og overvåket av uavhengige eksterne eksperter."

Brevet sier at dette er nødvendig fordi "AI-systemer med menneskelig konkurransedyktig intelligens kan utgjøre store risikoer for samfunnet og menneskeheten." De risikoer inkluderer spredning av propaganda, ødeleggelse av arbeidsplasser, potensiell erstatning og foreldelse av menneskeliv, og "tap av kontroll av vår sivilisasjon." Forfatterne legger til at beslutningen om hvorvidt de skal gå videre inn i denne fremtiden ikke bør overlates til "ikke-valgt teknologi ledere."

AI "til fordel for alle"

Brevet kommer like etter at det ble fremsatt påstander om at GPT-5, den neste versjonen av teknologien som driver ChatGPT, kunne oppnå kunstig generell intelligens. Hvis det er riktig, betyr det at det vil være i stand til å forstå og lære alt et menneske kan forstå. Det kan gjøre det utrolig kraftig på måter som ennå ikke er fullt utforsket.

Dessuten hevder brevet at ansvarlig planlegging og ledelse rundt utviklingen av AI-systemer ikke skjer, "selv om de siste månedene har sett AI laboratorier låst i et ut-av-kontroll-kappløp for å utvikle og distribuere stadig kraftigere digitale hjerner som ingen – ikke engang skaperne deres – kan forstå, forutsi eller pålitelig kontroll."

I stedet hevder brevet at det må opprettes nye styringssystemer som vil regulere AI-utvikling, hjelpe folk å skille AI-skapte og menneskeskapt innhold, holde AI-laboratorier som OpenAI ansvarlige for enhver skade de forårsaker, gjøre samfunnet i stand til å takle AI-forstyrrelser (spesielt for demokrati), og mer.

Forfatterne avslutter med en positiv tone, og hevder at "menneskeheten kan nyte en blomstrende fremtid med AI... der vi høster fruktene, konstruere disse systemene til en klar fordel for alle, og gi samfunnet en sjanse til å tilpasse seg.» Slå pause på AI-systemer kraftigere enn GPT-4 ville tillate dette å skje, slår de fast.

Vil brevet ha sin tiltenkte effekt? Det er vanskelig å si. Det er helt klart insentiver for OpenAI til å fortsette å jobbe med avanserte modeller, både økonomiske og omdømmemessige. Men med så mange potensielle risikoer - og med svært liten forståelse av dem - føler forfatterne av brevet tydelig at disse insentivene er for farlige til å forfølge.

Redaktørenes anbefalinger

• Google Bard kan nå snakke, men kan det overdøve ChatGPT?
• ChatGPT-nettstedstrafikken har falt for første gang
• 81 % mener ChatGPT er en sikkerhetsrisiko, viser undersøkelsen
• Jeg lærte ChatGPT å lære meg brettspill, og nå vil jeg aldri gå tilbake
• NY advokater bøtelagt for å bruke falske ChatGPT-saker i juridisk korthet

Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.