Hvis individene som er helt i forkant av kunstig intelligens-teknologi, kommenterer potensielt katastrofale effekter av svært intelligente AI-systemer, så er det sannsynligvis lurt å sette seg opp og ta legge merke til.
For bare et par måneder siden sa Geoffrey Hinton, en mann ansett som en av "gudfedrene" til AI for sitt banebrytende arbeid på feltet, at teknologiens raske utviklingstakt mente at det var "ikke utenkelig" at superintelligent AI – ansett som overlegen det menneskelige sinnet – kan ende opp med å utslette menneskeheten.
Anbefalte videoer
Og Sam Altman, administrerende direktør i OpenAI, selskapet bak den virale ChatGPT chatboten, hadde innrømmet å være "litt redd" for de potensielle effektene av avanserte AI-systemer på samfunnet.
I slekt
- ChatGPT-produsenten OpenAI står overfor FTC-undersøkelse over forbrukerbeskyttelseslover
- ChatGPT-nettstedstrafikken har falt for første gang
- Jeg lærte ChatGPT å lære meg brettspill, og nå vil jeg aldri gå tilbake
Altman er så bekymret at selskapet hans onsdag kunngjorde at det oppretter en ny enhet kalt Superjustering rettet mot å sikre at superintelligent AI ikke ender opp med å forårsake kaos eller noe langt unna verre.
"Superintelligens vil være den mest virkningsfulle teknologien menneskeheten noen gang har funnet opp, og kan hjelpe oss med å løse mange av verdens viktigste problemer," sa OpenAI i et innlegg som introduserer det nye tiltaket. "Men den enorme kraften til superintelligens kan også være veldig farlig, og kan føre til at menneskeheten mister makten eller til og med menneskelig utryddelse."
OpenAI sa at selv om superintelligent AI kan virke som om det er en vei unna, tror den at den kan utvikles innen 2030. Og den innrømmer lett at det på det nåværende tidspunkt ikke eksisterer noe system "for å styre eller kontrollere en potensielt superintelligent AI, og forhindre at den blir useriøs."
For å håndtere situasjonen ønsker OpenAI å bygge en "omtrent menneskelig nivå automatisert innrettingsforsker" som vil utføre sikkerhetssjekker på en superintelligent AI, og legger til at håndtering av disse risikoene også vil kreve nye institusjoner for styring og løsning av problemet med superintelligens Justering.
For at Superalignment skal ha en effekt, må OpenAI sette sammen et crack-team av topp maskinlæringsforskere og ingeniører.
Selskapet fremstår som veldig ærlig om sin innsats, og beskriver det som et "utrolig ambisiøst mål", samtidig som det innrømmer at det er "ikke garantert å lykkes." Men den legger til at det er "optimistisk at en fokusert, samlet innsats kan løse dette problem."
Nye AI-verktøy som OpenAIs ChatGPT og Googles Bard, blant mange andre, er så revolusjonerende at eksperter er sikre på at selv på dette pre-superintelligensnivået står arbeidsplassen og samfunnet for øvrig overfor grunnleggende endringer i nær begrep.
Det er grunnen til at regjeringer rundt om i verden prøver å spille innhenting, og skynder seg å innføre reguleringer på den raskt utviklende AI-industrien i et forsøk på å sikre at teknologien blir distribuert på en trygg og ansvarlig måte måte. Men med mindre det dannes et enkelt organ, vil hvert land ha sine egne synspunkter på hvordan man best kan bruke teknologien, noe som betyr at disse forskriftene kan variere mye og føre til markant forskjellige utfall. Og det er disse forskjellige tilnærmingene som vil gjøre Superalignments mål desto vanskeligere å oppnå.
Redaktørenes anbefalinger
- Google Bard kan nå snakke, men kan det overdøve ChatGPT?
- Elon Musks nye AI-selskap har som mål å "forstå universet"
- OpenAI avslører plasseringen av sin første internasjonale utpost
- NY advokater bøtelagt for å bruke falske ChatGPT-saker i juridisk korthet
- Denne nettleseren integrerer ChatGPT på en fascinerende ny måte
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
