Generatieve AI heeft zich de afgelopen maanden met een ongelooflijke snelheid ontwikkeld, met de lancering van verschillende tools en bots zoals ChatGPT van OpenAI, Google Bard, en meer. Toch baart deze snelle ontwikkeling ernstige zorgen onder doorgewinterde veteranen op het gebied van AI zozeer zelfs dat meer dan 1.000 van hen een open brief hebben ondertekend waarin ze AI-ontwikkelaars oproepen om de remmen.
De brief is gepubliceerd op de website van de Future of Life Instituut, een organisatie wiens verklaarde missie is "transformatieve technologie te sturen in de richting van het leven en weg van extreem grootschalige risico's." Onder de ondertekenaars zijn verschillende prominente academici en leiders in technologie, waaronder mede-oprichter van Apple Steve Wozniak, Twitter-CEO Elon Musk en politicus Andrew Yang.
Aanbevolen video's
Het artikel roept alle bedrijven op die werken aan AI-modellen die krachtiger zijn dan de onlangs vrijgegeven GPT-4 het werk per direct voor minimaal zes maanden stop te zetten. Dit moratorium moet "openbaar en verifieerbaar" zijn en zou tijd geven om "gezamenlijk een reeks gedeelde veiligheidsprotocollen voor geavanceerd AI-ontwerp en -ontwikkeling die streng worden gecontroleerd en gecontroleerd door onafhankelijke externe partijen experts."
Verwant
- ChatGPT-maker OpenAI wordt geconfronteerd met FTC-onderzoek over wetten voor consumentenbescherming
- De Bing-browsefunctie van ChatGPT is uitgeschakeld vanwege een toegangsfout in de betaalmuur
- Apple's ChatGPT-rivaal schrijft mogelijk automatisch code voor u
In de brief staat dat dit nodig is omdat “AI-systemen met mens-competitieve intelligentie grote risico’s kunnen vormen voor de samenleving en de mensheid.” Die risico's zijn onder meer de verspreiding van propaganda, de vernietiging van banen, de mogelijke vervanging en veroudering van mensenlevens en het "verlies van controle". van onze beschaving.” De auteurs voegen eraan toe dat de beslissing om al dan niet door te gaan naar deze toekomst niet moet worden overgelaten aan "niet-gekozen techneuten". leiders.”
AI 'voor het duidelijke voordeel van iedereen'
De brief komt net nadat er werd beweerd dat GPT-5, de volgende versie van de technologie achter ChatGPT, zou kunstmatige algemene intelligentie kunnen bereiken. Als het correct is, betekent dit dat het alles zou kunnen begrijpen en leren wat een mens kan begrijpen. Dat zou het ongelooflijk krachtig kunnen maken op manieren die nog niet volledig zijn onderzocht.
Bovendien stelt de brief dat verantwoorde planning en beheer rond de ontwikkeling van AI-systemen niet aan de orde is, “hoewel AI de afgelopen maanden labs verwikkeld in een uit de hand gelopen race om steeds krachtigere digitale geesten te ontwikkelen en in te zetten die niemand - zelfs niet hun makers - kan begrijpen, voorspellen of betrouwbaar is controle."
In plaats daarvan stelt de brief dat er nieuwe bestuurssystemen moeten worden gecreëerd die de ontwikkeling van AI zullen reguleren, mensen zullen helpen onderscheid te maken tussen door AI gecreëerde en door mensen gemaakte inhoud, AI-labs zoals OpenAI verantwoordelijk houden voor eventuele schade die ze veroorzaken, de samenleving in staat stellen om te gaan met AI-verstoring (vooral voor de democratie), en meer.
De auteurs eindigen positief en beweren dat “de mensheid kan genieten van een bloeiende toekomst met AI … waarin we de vruchten plukken, ontwerp deze systemen in het voordeel van iedereen en geef de samenleving de kans zich aan te passen.” Pauzeren op AI-systemen krachtiger dan GPT-4 zou dit laten gebeuren, stellen ze.
Heeft de brief het beoogde effect? Dat is moeilijk te zeggen. Er zijn duidelijk prikkels voor OpenAI om te blijven werken aan geavanceerde modellen, zowel financieel als op het gebied van reputatie. Maar met zoveel potentiële risico's - en met heel weinig begrip ervan - vinden de auteurs van de brief duidelijk dat die prikkels te gevaarlijk zijn om na te streven.
Aanbevelingen van de redactie
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- Het verkeer op de ChatGPT-website is voor het eerst gedaald
- 81% denkt dat ChatGPT een beveiligingsrisico vormt, zo blijkt uit onderzoek
- Ik heb ChatGPT geleerd om me bordspellen te leren, en nu ga ik nooit meer terug
- New Yorkse advocaten beboet voor het gebruik van nep-ChatGPT-zaken in juridische stukken
Upgrade je levensstijlDigital Trends helpt lezers de snelle wereld van technologie in de gaten te houden met het laatste nieuws, leuke productrecensies, verhelderende hoofdartikelen en unieke sneak peeks.
