Generatiivinen tekoäly on liikkunut uskomattomalla nopeudella viime kuukausina, kun markkinoille on lanseerattu erilaisia työkaluja ja botteja, kuten OpenAI: n ChatGPT, Google Bard, ja enemmän. Silti tämä nopea kehitys aiheuttaa vakavaa huolta tekoälyalan kokeneiden veteraanien keskuudessa - niin niin paljon, että yli 1 000 heistä on allekirjoittanut avoimen kirjeen, jossa kehotetaan tekoälykehittäjiä hyökkäämään jarrut.
Kirje julkaistiin yhdistyksen verkkosivuilla Future of Life Institute, organisaatio, jonka missiona on "ohjata transformatiivista teknologiaa kohti hyötyä elämästä ja pois äärimmäisistä suurista riskeistä". Joukossa allekirjoittaneet ovat useita tunnettuja akateemikkoja ja teknologiajohtajia, mukaan lukien Applen perustaja Steve Wozniak, Twitterin toimitusjohtaja Elon Musk ja poliitikko Andrew Yang.
Suositellut videot
Artikkelissa vaaditaan kaikkia yrityksiä, jotka työskentelevät tehokkaampien tekoälymallien parissa äskettäin julkaistu GPT-4 keskeyttää työ välittömästi vähintään kuudeksi kuukaudeksi. Tämän moratorion pitäisi olla "julkinen ja todennettavissa", ja se antaisi aikaa "yhteisesti kehittää ja toteuttaa joukko yhteisiä turvaprotokollat edistyneeseen tekoälysuunnitteluun ja -kehitykseen, jotka ovat tiukasti auditoituja ja riippumattomien ulkopuolisten valvomia asiantuntijat."
Liittyvät
- ChatGPT-valmistaja OpenAI kohtaa FTC: n tutkinnan kuluttajansuojalaeista
- ChatGPT: n Bing-selausominaisuus on poistettu käytöstä maksumuurin käyttövirheen vuoksi
- Applen ChatGPT-kilpailija voi kirjoittaa koodin automaattisesti puolestasi
Kirjeessä sanotaan, että tämä on tarpeellista, koska "Ihmisen kilpailevan älykkyyden omaavat tekoälyjärjestelmät voivat aiheuttaa syvällisiä riskejä yhteiskunnalle ja ihmiskunnalle." Nuo riskejä ovat propagandan leviäminen, työpaikkojen tuhoutuminen, ihmiselämän mahdollinen korvaaminen ja vanhentuminen sekä "hallinnan menettäminen" sivilisaatiostamme." Kirjoittajat lisäävät, että päätöstä jatkaa tätä tulevaisuutta ei pitäisi jättää "valitsemattoman tekniikan varaan". johtajat."
AI "selkeäksi kaikkien hyödyksi"
Kirje tulee juuri sen jälkeen, kun väitettiin, että GPT-5, seuraava versio ChatGPT: tä tukevasta tekniikasta, voisi saavuttaa yleisen tekoälyn. Jos se on oikein, se voi ymmärtää ja oppia kaiken, mitä ihminen voi ymmärtää. Se voi tehdä siitä uskomattoman tehokkaan tavoilla, joita ei ole vielä täysin tutkittu.
Lisäksi kirje väittää, ettei tekoälyjärjestelmien kehittämiseen liittyvää vastuullista suunnittelua ja hallintaa tapahdu, "vaikka viime kuukausina tekoäly on nähty Laboratoriot ovat lukittuina hallitsemattomaan kilpailuun kehittääkseen ja ottaakseen käyttöön entistä tehokkaampia digitaalisia mieliä, joita kukaan – eivät edes niiden tekijät – voi ymmärtää, ennustaa tai luotettavasti valvoa.”
Sen sijaan kirjeessä todetaan, että on luotava uusia hallintojärjestelmiä, jotka säätelevät tekoälyn kehitystä, auttavat ihmisiä erottamaan tekoälyn luomat ja ihmisten luomaa sisältöä, pidä tekoälylaboratorioita, kuten OpenAI, vastuussa kaikista aiheuttamistaan haitoista, antaa yhteiskunnalle mahdollisuuden selviytyä tekoälyhäiriöistä (etenkin demokratiaan), ja enemmän.
Kirjoittajat päättävät positiivisesti väittäen, että "ihmiskunta voi nauttia kukoistavasta tulevaisuudesta tekoälyn avulla … jossa me saamme palkintoja, Suunnittele nämä järjestelmät selkeästi kaikkien hyödyksi ja anna yhteiskunnalle mahdollisuus sopeutua.” Tekoälyjärjestelmien pysäyttäminen tehokkaammin kuin GPT-4 antaisi tämän tapahtua, he toteavat.
Onko kirjeellä haluttu vaikutus? Sitä on vaikea sanoa. OpenAI: lla on selvästi kannustimia jatkaa edistyneiden mallien parissa työskentelemistä, sekä taloudellisia että maineeseen liittyviä. Mutta koska mahdollisia riskejä on niin monia – ja he eivät ymmärrä niitä hyvin – kirjeen kirjoittajat kokevat selvästi, että nämä kannustimet ovat liian vaarallisia tavoiteltaviksi.
Toimittajien suositukset
- Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
- ChatGPT-verkkosivustojen liikenne on laskenut ensimmäistä kertaa
- Tutkimuksen mukaan 81 % uskoo, että ChatGPT on turvallisuusriski
- Opetin ChatGPT: n opettamaan minulle lautapelejä, enkä enää koskaan palaa takaisin
- New Yorkin lakimiehille sakkoja väärennettyjen ChatGPT-tapausten käyttämisestä oikeudessa
Päivitä elämäntapasiDigital Trends auttaa lukijoita pysymään tekniikan nopeatempoisessa maailmassa uusimpien uutisten, hauskojen tuotearvostelujen, oivaltavien toimitusten ja ainutlaatuisten kurkistusten avulla.
