Generativ AI har bevæget sig med en utrolig hastighed de seneste måneder, med lanceringen af forskellige værktøjer og bots som f.eks. OpenAIs ChatGPT, Google Bard, og mere. Alligevel vækker denne hurtige udvikling alvorlig bekymring blandt erfarne veteraner inden for kunstig intelligens - så så meget, at over 1.000 af dem har underskrevet et åbent brev, hvor de opfordrer AI-udviklere til at slå på bremser.
Brevet blev offentliggjort på hjemmesiden Future of Life Institute, en organisation, hvis erklærede mission er "at styre transformativ teknologi mod at gavne livet og væk fra ekstreme risici i stor skala." Blandt de Underskriverne er adskillige fremtrædende akademikere og ledere inden for teknologi, herunder Apples medstifter Steve Wozniak, Twitter CEO Elon Musk og politikeren Andrew Yang.
Anbefalede videoer
Artiklen opfordrer til, at alle virksomheder arbejder på AI-modeller, der er mere kraftfulde end for nylig udgivet GPT-4 straks at standse arbejdet i mindst seks måneder. Dette moratorium bør være "offentligt og verificerbart" og vil give tid til "i fællesskab at udvikle og implementere et sæt fælles sikkerhedsprotokoller til avanceret AI-design og -udvikling, der er strengt revideret og overvåget af uafhængige eksterne eksperter."
Relaterede
- ChatGPT-producenten OpenAI står over for FTC-undersøgelse over forbrugerbeskyttelseslove
- ChatGPTs Bing-browsing-funktion deaktiveret på grund af adgangsfejl i betalingsvæggen
- Apples ChatGPT-rival skriver muligvis automatisk kode til dig
Brevet siger, at dette er nødvendigt, fordi "AI-systemer med menneskelig konkurrencedygtig intelligens kan udgøre dybe risici for samfundet og menneskeheden." De der risici omfatter spredning af propaganda, ødelæggelse af arbejdspladser, potentiel erstatning og forældelse af menneskeliv og "tab af kontrol af vores civilisation." Forfatterne tilføjer, at beslutningen om, hvorvidt man skal gå videre ind i denne fremtid, ikke bør overlades til "ikke-valgt teknologi ledere."
AI 'til klar fordel for alle'
Brevet kommer lige efter, at der blev fremsat påstande om, at GPT-5, den næste version af den teknologi, der driver ChatGPT, kunne opnå kunstig generel intelligens. Hvis det er korrekt, betyder det, at det ville være i stand til at forstå og lære alt, hvad et menneske kan forstå. Det kunne gøre det utroligt stærkt på måder, der endnu ikke er blevet fuldt ud undersøgt.
Hvad mere er, hævder brevet, at ansvarlig planlægning og ledelse omkring udviklingen af AI-systemer ikke sker, "selvom de seneste måneder har set AI laboratorier låst i et ude af kontrol kapløb om at udvikle og implementere stadigt mere kraftfulde digitale hjerner, som ingen - ikke engang deres skabere - kan forstå, forudsige eller pålideligt styring."
I stedet hævder brevet, at der skal skabes nye styringssystemer, der vil regulere AI-udvikling, hjælpe folk med at skelne AI-skabte og menneskeskabt indhold, holde AI-laboratorier som OpenAI ansvarlige for enhver skade, de forårsager, sætte samfundet i stand til at klare AI-forstyrrelser (især i forhold til demokrati), og mere.
Forfatterne slutter med en positiv tone og hævder, at "menneskeheden kan nyde en blomstrende fremtid med kunstig intelligens … hvor vi høster frugterne, konstruere disse systemer til klar gavn for alle og give samfundet en chance for at tilpasse sig." Slå pause på AI-systemer mere kraftfuldt end GPT-4 ville tillade dette at ske, fastslår de.
Vil brevet have sin tilsigtede virkning? Det er svært at sige. Der er klart incitamenter for OpenAI til at fortsætte med at arbejde på avancerede modeller, både økonomiske og omdømmemæssige. Men med så mange potentielle risici - og med meget lidt forståelse af dem - føler brevets forfattere tydeligvis, at disse incitamenter er for farlige til at forfølge.
Redaktørens anbefalinger
- Google Bard kan nu tale, men kan den overdøve ChatGPT?
- ChatGPT-webstedets trafik er faldet for første gang
- 81 % mener, at ChatGPT er en sikkerhedsrisiko, viser undersøgelsen
- Jeg lærte ChatGPT at lære mig brætspil, og nu vil jeg aldrig vende tilbage
- NY advokater idømt bøder for at bruge falske ChatGPT-sager i juridisk kortfattethed
Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.
