Ak sa jednotlivci, ktorí sú v úplnom popredí technológie umelej inteligencie, vyjadrujú o potenciálne katastrofické účinky vysoko inteligentných systémov umelej inteligencie, potom je pravdepodobne múdre si sadnúť a vziať upozorniť.
Len pred pár mesiacmi Geoffrey Hinton, muž považovaný za jedného z „krstných otcov“ AI pre svoju priekopnícku prácu v tejto oblasti, povedal, že rýchle tempo vývoja technológie znamenalo, že to „nie je nepredstaviteľné“ že superinteligentná AI – považovaná za nadradenú ľudskej mysli – by mohla skončiť vyhladením ľudstva.
Odporúčané videá
A Sam Altman, generálny riaditeľ spoločnosti OpenAI, za ktorou stojí spoločnosť vírusový chatbot ChatGPT, priznal, že je „trochu vystrašený“ z možných účinkov pokročilých systémov AI na spoločnosť.
Súvisiace
- Výrobca ChatGPT OpenAI čelí vyšetrovaniu FTC v súvislosti so zákonmi na ochranu spotrebiteľa
- Návštevnosť webu ChatGPT prvýkrát klesla
- Naučil som ChatGPT, aby ma naučil stolové hry, a teraz sa už nikdy nevrátim
Altman je taký znepokojený, že v stredu jeho spoločnosť oznámila, že zakladá novú jednotku s názvom Superalignment, ktorého cieľom je zabezpečiť, aby superinteligentná AI nespôsobila chaos alebo niečo ďaleko horšie.
„Superinteligencia bude najvplyvnejšou technológiou, akú kedy ľudstvo vymyslelo, a mohla by nám pomôcť vyriešiť mnohé z najdôležitejších problémov sveta,“ OpenAI povedal v príspevku, ktorý predstavuje novú iniciatívu. "Ale obrovská sila superinteligencie môže byť tiež veľmi nebezpečná a môže viesť k strate moci ľudstva alebo dokonca k zániku ľudstva."
OpenAI uviedla, že aj keď sa superinteligentná AI môže zdať ako cesta mimo, verí, že by mohla byť vyvinutá do roku 2030. A ochotne pripúšťa, že v súčasnosti neexistuje žiadny systém „na riadenie alebo ovládanie potenciálne superinteligentnej AI a na zabránenie tomu, aby sa stala nečestnou“.
Na riešenie tejto situácie chce OpenAI vybudovať „približne na ľudskej úrovni automatizovaného výskumníka zarovnávania“, ktorý by vykonával bezpečnostné kontroly na superinteligentná AI s tým, že riadenie týchto rizík si bude vyžadovať aj nové inštitúcie na riadenie a riešenie problému superinteligencie zarovnanie.
Aby malo Superalignment efekt, OpenAI potrebuje zostaviť crack tím špičkových výskumníkov a inžinierov strojového učenia.
Spoločnosť vyzerá veľmi úprimne o svojom úsilí, opisuje ho ako „neuveriteľne ambiciózny cieľ“ a zároveň priznáva, že nie je „zaručený úspech“. Dodáva však, že je „optimistické, že sústredené a spoločné úsilie to môže vyriešiť problém.”
Nové nástroje AI, ako napríklad ChatGPT od OpenAI a Bard od Googlu, sú také revolučné, že odborníci sú si istí že aj na tejto predsuperinteligenčnej úrovni čelí pracovisko a širšia spoločnosť zásadným zmenám v blízkom okolí termín.
To je dôvod, prečo sa vlády na celom svete snažia dohnať a ponáhľajú sa zaviesť nariadenia na rýchlo sa rozvíjajúci priemysel AI v snahe zabezpečiť, aby bola technológia nasadená bezpečne a zodpovedne spôsobom. Ak sa však nevytvorí jeden orgán, každá krajina bude mať svoj vlastný názor na to, ako najlepšie využívať technológiu, čo znamená, že tieto nariadenia sa môžu značne líšiť a viesť k výrazne odlišným výsledkom. A práve tieto rôzne prístupy spôsobia, že dosiahnutie cieľa Superalignment bude ešte ťažšie.
Odporúčania redaktorov
- Google Bard teraz môže hovoriť, ale dokáže prehlušiť ChatGPT?
- Nová spoločnosť Elona Muska zameraná na umelú inteligenciu má za cieľ „pochopiť vesmír“
- OpenAI odhaľuje umiestnenie svojej prvej medzinárodnej základne
- Právnici z NY dostali pokutu za používanie falošných prípadov ChatGPT v právnej skratke
- Tento webový prehliadač integruje ChatGPT fascinujúcim novým spôsobom
Zlepšite svoj životný štýlDigitálne trendy pomáhajú čitateľom mať prehľad o rýchlo sa rozvíjajúcom svete technológií so všetkými najnovšími správami, zábavnými recenziami produktov, užitočnými úvodníkmi a jedinečnými ukážkami.
