Als de personen die voorop lopen op het gebied van kunstmatige intelligentie-technologie commentaar geven op de potentieel catastrofale effecten van zeer intelligente AI-systemen, dan is het waarschijnlijk verstandig om rechtop te gaan zitten en te nemen kennisgeving.
Slechts een paar maanden geleden zei Geoffrey Hinton, een man die wordt beschouwd als een van de "peetvaders" van AI voor zijn pionierswerk in het veld, dat het snelle ontwikkelingstempo van de technologie betekende dat het "niet ondenkbaar" was dat superintelligente AI - beschouwd als superieur aan de menselijke geest - de mensheid zou kunnen uitroeien.
Aanbevolen video's
En Sam Altman, CEO van OpenAI, het bedrijf erachter de virale ChatGPT-chatbot, had toegegeven "een beetje bang" te zijn voor de mogelijke effecten van geavanceerde AI-systemen op de samenleving.
Verwant
- ChatGPT-maker OpenAI wordt geconfronteerd met FTC-onderzoek over wetten voor consumentenbescherming
- Het verkeer op de ChatGPT-website is voor het eerst gedaald
- Ik heb ChatGPT geleerd om me bordspellen te leren, en nu ga ik nooit meer terug
Altman is zo bezorgd dat zijn bedrijf woensdag aankondigde een nieuwe eenheid op te zetten, genaamd Superuitlijning om ervoor te zorgen dat superintelligente AI uiteindelijk geen chaos veroorzaakt of iets ver weg slechter.
"Superintelligentie zal de meest invloedrijke technologie zijn die de mensheid ooit heeft uitgevonden, en zou ons kunnen helpen veel van 's werelds belangrijkste problemen op te lossen," zei OpenAI in een post die het nieuwe initiatief introduceert. "Maar de enorme kracht van superintelligentie kan ook erg gevaarlijk zijn en kan leiden tot de machteloosheid van de mensheid of zelfs het uitsterven van de mens."
OpenAI zei dat hoewel superintelligente AI misschien nog ver weg lijkt, het gelooft dat het tegen 2030 kan worden ontwikkeld. En het geeft grif toe dat er op dit moment geen systeem bestaat "om een potentieel superintelligente AI te sturen of te besturen en te voorkomen dat deze schurkenstaten wordt."
Om met de situatie om te gaan, wil OpenAI een "ruwweg op menselijk niveau geautomatiseerde uitlijningsonderzoeker" bouwen die veiligheidscontroles zou uitvoeren op een superintelligente AI, eraan toevoegend dat het beheersen van deze risico's ook nieuwe instellingen vereist voor bestuur en het oplossen van het probleem van superintelligentie uitlijning.
Om Superalignment effect te laten hebben, moet OpenAI een geweldig team samenstellen van toponderzoekers en ingenieurs op het gebied van machine learning.
Het bedrijf lijkt heel openhartig over zijn inspanningen en beschrijft het als een "ongelooflijk ambitieus doel", terwijl het dat ook toegeeft het is "niet gegarandeerd om te slagen." Maar het voegt eraan toe dat het “optimistisch is dat een gerichte, gezamenlijke inspanning dit kan oplossen probleem."
Nieuwe AI-tools zoals onder andere OpenAI's ChatGPT en Google's Bard zijn zo revolutionair dat experts er zeker van zijn dat zelfs op dit pre-superintelligentieniveau de werkplek en de bredere samenleving in de nabije toekomst te maken krijgen met fundamentele veranderingen termijn.
Daarom proberen regeringen over de hele wereld de achterstand in te halen, haastig om regels op te leggen de zich snel ontwikkelende AI-industrie om ervoor te zorgen dat de technologie op een veilige en verantwoorde manier wordt ingezet manier. Tenzij er echter één enkele instantie wordt gevormd, zal elk land zijn eigen mening hebben over hoe de technologie het beste kan worden gebruikt, wat betekent dat die voorschriften sterk kunnen verschillen en tot duidelijk verschillende resultaten kunnen leiden. En het zijn deze verschillende benaderingen die het doel van Superalignment des te moeilijker zullen maken om te bereiken.
Aanbevelingen van de redactie
- Google Bard kan nu spreken, maar kan het ChatGPT overstemmen?
- Het nieuwe AI-bedrijf van Elon Musk wil 'het universum begrijpen'
- OpenAI onthult de locatie van zijn eerste internationale buitenpost
- New Yorkse advocaten beboet voor het gebruik van nep-ChatGPT-zaken in juridische stukken
- Deze webbrowser integreert ChatGPT op een fascinerende nieuwe manier
Upgrade je levensstijlDigital Trends helpt lezers de snelle wereld van technologie in de gaten te houden met het laatste nieuws, leuke productrecensies, verhelderende hoofdartikelen en unieke sneak peeks.
