Kui inimesed, kes on tehisintellekti tehnoloogia esirinnas, kommenteerivad seda Äärmiselt intelligentsete AI-süsteemide potentsiaalselt katastroofilised tagajärjed, siis on ilmselt mõistlik istuda ja võtta märkama.
Alles paar kuud tagasi ütles Geoffrey Hinton, mees, keda peeti tehisintellekti üheks ristiisaks oma teedrajava töö tõttu selles valdkonnas, et tehnoloogia kiire arengutempo. tähendas, et see "pole mõeldamatu" et üliintelligentne tehisintellekt, mida peetakse inimmõistusest kõrgemaks, võib lõppeda inimkonna hävitamisega.
Soovitatud videod
Ja Sam Altman, selle taga oleva ettevõtte OpenAI tegevjuht viiruslik ChatGPT vestlusbot, oli tunnistanud, et on "natuke hirmul" arenenud tehisintellektisüsteemide võimalike mõjude pärast ühiskonnale.
Seotud
- ChatGPT tootja OpenAI seisab silmitsi FTC uurimisega tarbijakaitseseaduste üle
- ChatGPT veebisaidi liiklus on esimest korda langenud
- Ma õpetasin ChatGPT-d mulle lauamänge õpetama ja nüüd ma ei lähe enam kunagi tagasi
Altman on nii mures, et kolmapäeval teatas tema ettevõte, et asutab uue üksuse nimega Ülijoondumine, mille eesmärk on tagada, et üliintelligentne AI ei põhjustaks lõpuks kaost või midagi kaugelt halvem.
"Superintellekt on kõige mõjukam tehnoloogia, mille inimkond on kunagi leiutanud, ja see võib aidata meil lahendada paljusid maailma kõige olulisemaid probleeme," OpenAI ütles uut algatust tutvustavas postituses. "Kuid superintelligentsuse tohutu jõud võib olla ka väga ohtlik ja viia inimkonna volituste kaotamiseni või isegi inimeste väljasuremiseni."
OpenAI ütles, et kuigi superintelligentne tehisintellekt võib tunduda, et see on kaugel, usub ta, et see võiks välja töötada 2030. aastaks. Ja see tunnistab kergesti, et praegu ei eksisteeri ühtegi süsteemi, mis "juhtiks või kontrolliks potentsiaalselt üliintelligentset tehisintellekti ja takistaks selle rikkumist".
Olukorra lahendamiseks soovib OpenAI luua "umbes inimtasemel automatiseeritud joondamise uurija", mis teostaks ohutuskontrolli superintelligentne tehisintellekt, lisades, et nende riskide maandamine nõuab ka uusi institutsioone juhtimiseks ja superintelligentsuse probleemi lahendamiseks joondus.
Superalignmenti mõju avaldamiseks peab OpenAI koondama tipptasemel masinõppeteadlastest ja -inseneridest koosneva meeskonna.
Ettevõte on oma jõupingutuste kohta väga avameelne, kirjeldades seda kui "uskumatult ambitsioonikat eesmärki", tunnistades samas, et see "ei ole garanteeritud, et see õnnestub". Kuid see lisab, et on optimistlik, et keskendunud ja kooskõlastatud jõupingutused võivad selle lahendada probleem."
Uued AI tööriistad, nagu OpenAI ChatGPT ja Google'i Bard, on paljude teiste seas nii revolutsioonilised, et eksperdid on kindlad et isegi sellel eelintelligentsuse tasemel seisavad töökohal ja laiemalt ühiskonnas lähiajal ees põhjalikud muutused. tähtaeg.
See on põhjus, miks valitsused üle maailma püüavad järele jõuda ja hakkavad kiirustades kehtestama eeskirju. kiiresti arenev tehisintellektitööstus, et tagada tehnoloogia ohutu ja vastutustundlik kasutamine viisil. Kui aga ei moodustata ühtset organit, on igal riigil oma arvamus selle kohta, kuidas tehnoloogiat kõige paremini kasutada, mis tähendab, et need eeskirjad võivad olla väga erinevad ja viia märkimisväärselt erinevate tulemusteni. Ja just need erinevad lähenemisviisid muudavad Superalignmenti eesmärgi saavutamise veelgi raskemaks.
Toimetajate soovitused
- Google Bard saab nüüd rääkida, kuid kas see võib ChatGPT-d välja uputada?
- Elon Muski uue AI-ettevõtte eesmärk on "universumist aru saada"
- OpenAI paljastab oma esimese rahvusvahelise eelposti asukoha
- NY advokaadid said trahvi võltsitud ChatGPT juhtumite kasutamise eest juriidilises lühikokkuvõttes
- See veebibrauser integreerib ChatGPT põneval uuel viisil
Uuendage oma elustiiliDigitaalsed suundumused aitavad lugejatel hoida silma peal kiirel tehnikamaailmal kõigi viimaste uudiste, lõbusate tooteülevaadete, sisukate juhtkirjade ja ainulaadsete lühiülevaadetega.
