Pioneren innen kunstig intelligens, Geoffrey Hinton, overrasket mange mandag da han avslørte at han hadde sagt opp jobben sin hos Google, hvor han jobbet det siste tiåret med AI-prosjekter.
Ofte referert til som "gudfaren til AI" for sitt banebrytende arbeid som underbygger mange av dagens AI-systemer, britiskfødte Hinton, nå 75, fortalte New York Times at han har alvorlige bekymringer om hastigheten som slike som Open AI med sin ChatGPT verktøy, og Google med Bard, jobber med å utvikle produktene sine, spesielt ettersom det kan være på bekostning av sikkerhet.
Anbefalte videoer
Hinton er så bekymret at han til og med sa at en del av ham angrer på sin tidligere innsats innen AI, rapporterte Times.
I slekt
- GPT-4: hvordan bruke AI-chatboten som gjør ChatGPT til skamme
- De beste AI-videoredigeringsverktøyene
- ChatGPT-produsenten OpenAI står overfor FTC-undersøkelse over forbrukerbeskyttelseslover
Som rapporten påpeker, beveger generative AI-verktøy seg allerede mot å erstatte menneskelige arbeidere, og teknologien kan også brukes til å skape og spre feilinformasjon.
En av Hintons bekymringer er faktisk at internett, hvis data brukes til å trene generative AI-verktøy, vil bli oversvømmet med falsk informasjon som kan få chatbots som ChatGPT og Bard til å spytte ut endeløse usannheter på en måte som høres ut troverdig.
Ettersom selskaper bak teknologien slipper sine AI-drevne verktøy for offentlig bruk uten å kjenne deres fullt ut Hinton frykter at det er "vanskelig å se hvordan du kan forhindre de dårlige skuespillerne fra å bruke det for dårlig tingene."
Hinton sa at det vil være vanskelig å regulere teknologien ettersom selskaper og myndigheter kan jobbe med teknologien ganske mye i hemmelig, og legger til at en måte å håndtere problemet på er å prøve å få ledende forskere til å samarbeide om måter å kontrollere teknologi.
AI-eksperten sa i en tweet mandag at han bestemte seg for å forlate Google slik at han kunne "snakke om farene ved AI uten å vurdere hvordan dette påvirker Google», noe som tyder på at vi kommer til å høre mye mer fra ham ettersom teknologien fortsetter å utvikle.
Uttrykte enda større bekymringer forrige måned da han ble spurt inn et CBS-intervju om sannsynligheten for at AI "utsletter menneskeheten," sa Hinton: "Det er ikke utenkelig."
Etter nyheten om Hintons avgang, sa Jeff Dean, Googles sjefforsker, i en uttalelse: "Vi er fortsatt forpliktet til en ansvarlig tilnærming til AI. Vi lærer kontinuerlig å forstå nye risikoer, samtidig som vi innoverer dristig.»
Hinton er ikke den eneste eksperten som uttrykker bekymring for den nye bølgen av AI-teknologi som har tatt verden med storm.
Kanskje overraskende, innrømmet sjefen for OpenAI, Sam Altman, nylig å være "litt redd" av de potensielle effektene av AI-teknologi.
Og i mars et brev signert av tekniske ledere og akademikere hevdet at teknologien utgjør "dypende risiko for samfunnet og menneskeheten."
Utgitt av Future of Life Institute og hvis underskrivere inkluderte Elon Musk, ba brevet om en seks måneders pause i utviklingsarbeidet for å gi tid til å lage og implementere sikkerhetsprotokoller for viderekomne verktøy.
Den la til at hvis den håndteres på riktig måte, vil menneskeheten kunne "nyte en blomstrende fremtid med AI."
Redaktørenes anbefalinger
- Toppforfattere krever betaling fra AI-firmaer for å bruke arbeidet deres
- Wix bruker ChatGPT for å hjelpe deg raskt å bygge et helt nettsted
- Google Bard kan nå snakke, men kan det overdøve ChatGPT?
- Elon Musks nye AI-selskap har som mål å "forstå universet"
- ChatGPT-nettstedstrafikken har falt for første gang
Oppgrader livsstilen dinDigitale trender hjelper leserne å følge med på den fartsfylte teknologiverdenen med alle de siste nyhetene, morsomme produktanmeldelser, innsiktsfulle redaksjoner og unike sniktitter.
