Artificiell intelligens-pionjär Geoffrey Hinton överraskade många på måndagen när han avslöjade att han hade slutat sitt jobb på Google där han arbetat under det senaste decenniet med AI-projekt.
Ofta kallad "Gudfadern för AI" för sitt banbrytande arbete som ligger till grund för många av dagens AI-system, brittiskfödde Hinton, nu 75, berättade för New York Times att han har allvarliga farhågor om hastigheten med vilken sådana som Open AI med sin ChatGPT verktyg och Google med Bard, arbetar med att utveckla sina produkter, särskilt eftersom det kan vara på bekostnad av säkerheten.
Rekommenderade videor
Så orolig är Hinton att han till och med sa att en del av honom ångrar sina tidigare ansträngningar inom AI, rapporterade Times.
Relaterad
- GPT-4: hur man använder AI-chatboten som gör ChatGPT på skam
- De bästa AI-videoredigeringsverktygen
- ChatGPT-tillverkaren OpenAI står inför FTC-utredning över konsumentskyddslagar
Som rapporten påpekar rör sig generativa AI-verktyg redan mot att ersätta mänskliga arbetare, och tekniken kan också användas för att skapa och sprida felaktig information.
En av Hintons oro är faktiskt att internet, vars data används för att träna generativa AI-verktyg, kommer att översvämmas med falsk information som kan få chatbots som ChatGPT och Bard att spotta ut oändliga osanningar på ett sätt som låter trovärdig.
Som företag bakom tekniken släpper sina AI-drivna verktyg för allmänt bruk utan att helt känna till deras Hinton fruktar att det är "svårt att se hur du kan förhindra att de dåliga skådespelarna använder det för dåligt saker."
Hinton sa att det kommer att bli svårt att reglera tekniken eftersom företag och regeringar kan arbeta med tekniken i stort sett hemlighet och tillägger att ett sätt att hantera problemet är att försöka få ledande forskare att arbeta tillsammans på sätt att kontrollera teknologi.
AI-experten sa i en tweet på måndagen att han bestämde sig för att lämna Google så att han kunde "prata om farorna med AI utan att tänka på hur detta påverkar Google", vilket tyder på att vi kommer att höra mycket mer från honom när tekniken fortsätter att utveckla.
Uttalade ännu större oro förra månaden när jag blev tillfrågad en CBS-intervju om sannolikheten för att AI "utplånar mänskligheten", sa Hinton: "Det är inte otänkbart."
Efter nyheterna om Hintons avgång sa Jeff Dean, Googles chefsforskare, i ett uttalande: "Vi är fortfarande engagerade i en ansvarsfull inställning till AI. Vi lär oss hela tiden att förstå nya risker samtidigt som vi djärvt förnyar oss."
Hinton är inte den enda experten som uttrycker oro över den nya vågen av AI-teknik som har tagit världen med storm.
Kanske överraskande, erkände chefen för OpenAI, Sam Altman, nyligen att vara "lite rädd" av de potentiella effekterna av AI-teknik.
Och i mars ett brev undertecknad av tekniska ledare och akademiker hävdade att tekniken utgör "djupa risker för samhället och mänskligheten."
Utgiven av Future of Life Institute och vars undertecknare inkluderade Elon Musk, efterlyste brevet sex månader pausa i utvecklingsarbetet för att ge tid för att skapa och implementera säkerhetsprotokoll för avancerade verktyg.
Den tillade att om den hanteras på rätt sätt kommer mänskligheten att kunna "njuta av en blomstrande framtid med AI."
Redaktörens rekommendationer
- Toppförfattare kräver betalning från AI-företag för att de använder deras arbete
- Wix använder ChatGPT för att hjälpa dig att snabbt bygga en hel webbplats
- Google Bard kan nu tala, men kan det överrösta ChatGPT?
- Elon Musks nya AI-företag syftar till att "förstå universum"
- ChatGPTs webbplatstrafik har minskat för första gången
Uppgradera din livsstilDigitala trender hjälper läsare att hålla koll på den snabba teknikvärlden med alla de senaste nyheterna, roliga produktrecensioner, insiktsfulla redaktioner och unika smygtittar.
