Tekniska ledare kräver utvecklingspaus för GPT-4.5, GPT-5

Generativ AI har rört sig i en otrolig hastighet de senaste månaderna, med lanseringen av olika verktyg och botar som t.ex. OpenAI: s ChatGPT, Google Bard, och mer. Ändå orsakar denna snabba utveckling allvarlig oro bland erfarna veteraner inom AI-området - så så mycket att över 1 000 av dem har undertecknat ett öppet brev där de uppmanar AI-utvecklare att slå på bromsar.

Brevet publicerades på hemsidan Future of Life Institute, en organisation vars uttalade uppdrag är att "styra transformativ teknologi mot att gynna livet och bort från extrema storskaliga risker." Bland Undertecknarna är flera framstående akademiker och ledare inom teknik, inklusive Apples medgrundare Steve Wozniak, Twitters vd Elon Musk och politikern Andrew Yang.

Artikeln uppmanar alla företag som arbetar med AI-modeller som är mer kraftfulla än nyligen släppt GPT-4 att omedelbart avbryta arbetet i minst sex månader. Detta moratorium bör vara "offentligt och verifierbart" och skulle ge tid att "gemensamt utveckla och implementera en uppsättning delade säkerhetsprotokoll för avancerad AI-design och utveckling som granskas noggrant och övervakas av oberoende utomstående experter.”

Brevet säger att detta är nödvändigt eftersom "AI-system med mänsklig konkurrenskraftig intelligens kan utgöra djupa risker för samhället och mänskligheten." De där risker inkluderar spridning av propaganda, förstörelse av jobb, potentiell ersättning och föråldrad människoliv och "förlust av kontroll av vår civilisation." Författarna tillägger att beslutet om huruvida man ska gå vidare in i denna framtid inte bör överlåtas till "ovald teknik ledare.”

AI "till fördel för alla"

Brevet kommer precis efter att påståenden gjordes om att GPT-5, nästa version av den teknik som driver ChatGPT, kunde uppnå artificiell allmän intelligens. Om det är korrekt betyder det att det skulle kunna förstå och lära sig allt som en människa kan förstå. Det kan göra det otroligt kraftfullt på sätt som ännu inte har utforskats fullt ut.

Dessutom hävdar brevet att ansvarsfull planering och ledning kring utvecklingen av AI-system inte sker, "även om de senaste månaderna har sett AI laboratorier låsta i ett out-of-control race för att utveckla och distribuera allt kraftfullare digitala sinnen som ingen – inte ens deras skapare – kan förstå, förutsäga eller tillförlitligt kontrollera."

Istället hävdar brevet att nya styrsystem måste skapas som kommer att reglera AI-utveckling, hjälpa människor att särskilja AI-skapade och mänskligt skapat innehåll, hålla AI-labb som OpenAI ansvariga för all skada de orsakar, göra det möjligt för samhället att hantera AI-störningar (särskilt mot demokrati), och mer.

Författarna avslutar med en positiv ton och hävdar att "mänskligheten kan njuta av en blomstrande framtid med AI... där vi skördar frukterna, konstruera dessa system till klar nytta för alla och ge samhället en chans att anpassa sig.” Slå paus på AI-system mer kraftfull än GPT-4 skulle tillåta detta att hända, konstaterar de.

Kommer brevet att få sin avsedda effekt? Det är svårt att säga. Det finns helt klart incitament för OpenAI att fortsätta arbeta med avancerade modeller, både ekonomiska och anseende. Men med så många potentiella risker - och med mycket liten förståelse för dem - anser brevförfattarna uppenbarligen att dessa incitament är för farliga att eftersträva.

Redaktörens rekommendationer

• Google Bard kan nu tala, men kan det överrösta ChatGPT?
• ChatGPTs webbplatstrafik har minskat för första gången
• 81 % tycker att ChatGPT är en säkerhetsrisk, visar undersökningen
• Jag lärde mig ChatGPT för att lära mig brädspel, och nu kommer jag aldrig att gå tillbaka
• New Yorks advokater bötfälldes för att ha använt falska ChatGPT-fall i juridisk korthet

Uppgradera din livsstilDigitala trender hjälper läsarna att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.