Kutsukaa sitä Skynet-hypoteesiksi, yleiseksi tekoälyksi tai singulaarisuuden tuloksi – vuosien ajan tekoälyasiantuntijat ja ei-asiantuntijat ovat yhtä lailla huolissaan (ja pienelle ryhmälle juhlineet) ajatusta, että tekoäly voi jonain päivänä tulla älykkäämmäksi kuin ihmiset.
Teorian mukaan tekoälyn kehitys – erityisesti koneoppimistyyppinen, joka pystyy ottamaan vastaan uutta tiedot ja kirjoita sen koodi uudelleen vastaavasti - lopulta saavuttaa biologisen märkäohjelman aivot. Tässä tapahtumien tulkinnassa jokainen tekoäly edistyy Vaara-voittaja IBM-koneita massiivinen AI-kielimalli GPT-3 vie ihmiskunnan askeleen lähemmäksi eksistentiaalista uhkaa. Rakennamme kirjaimellisesti omaamme pian tuntevia seuraajia.
Suositellut videot
Paitsi että sitä ei koskaan tapahdu. Ainakin uuden kirjan tekijöiden mukaan Miksi koneet eivät koskaan hallitse maailmaa: tekoäly ilman pelkoa.
Yhteiskirjoittajat Buffalon yliopiston filosofian professori Barry Smith ja Jobst LandgrebeSaksalaisen tekoälyyrityksen Cognotektin perustaja väittää, että "kuolematon diktaattori" ei ohita ihmisen älykkyyttä lähiaikoina - tai koskaan. He kertoivat
Digitaalitrendit heidän syynsä miksi.
Digital Trends (DT): Miten tämä aihe pääsi tutkallesi?
Jobst Landgrebe (JL): Olen koulutukseltani lääkäri ja biokemisti. Kun aloitin urani, tein kokeita, jotka tuottivat paljon dataa. Aloin opiskella matematiikkaa voidakseni tulkita näitä tietoja, ja huomasin kuinka vaikeaa on mallintaa biologisia järjestelmiä matematiikan avulla. Matemaattisten menetelmien ja biologisten tietojen välillä oli aina tämä ristiriita.
Kolmekymppiseni puolivälissä erosin akateemisesta ja minusta tuli yrityskonsultti ja yrittäjä, joka työskentelee tekoälyohjelmistojärjestelmissä. Yritin rakentaa tekoälyjärjestelmiä matkimaan sitä, mitä ihmiset voivat tehdä. Tajusin, että olin törmännyt samaan ongelmaan, joka minulla oli vuosia aiemmin biologiassa.
Asiakkaat sanoivat minulle: "Miksi et rakenna chatbotteja?" Sanoin, "koska ne eivät toimi. emme voi mallintaa tämän tyyppistä järjestelmää kunnolla.” Tämä johti lopulta siihen, että kirjoitin tämän kirjan.
Professori Barry Smith (BS): Minusta se oli erittäin mielenkiintoinen ongelma. Minulla oli jo aavistustakaan vastaavista ongelmista tekoälyn kanssa, mutta en ollut koskaan ajatellut niitä. Aluksi kirjoitimme paperin nimeltä "Tekoälystä tulee jälleen mielekästä.’ (Tämä tapahtui Trumpin aikakaudella.) Kyse oli siitä, miksi hermoverkot epäonnistuvat kielen mallintamisessa. Sitten päätimme laajentaa paperin kirjaksi, jossa tutkitaan tätä aihetta syvällisemmin.
DT: Kirjasi ilmaisee skeptismin sen suhteen, miten hermoverkot, jotka ovat ratkaisevan tärkeitä nykyaikaiselle syvälle oppimiselle, jäljittelevät ihmisaivoja. Ne ovat likiarvoja eivätkä tarkkoja malleja siitä, miten biologiset aivot toimivat. Mutta hyväksytkö sen perusoletuksen, että se on mahdollista, jos ymmärtäisimme aivot rakeisesti tarpeeksi yksityiskohtaisesti, se voitaisiin kopioida keinotekoisesti – ja että tämä synnyttäisi älykkyyttä tai tunto?
JL: Nimi "hermoverkko" on täysin harhaanjohtava. Nykyisillä hermoverkoilla, edes kaikkein kehittyneimmillä, ei ole mitään tekemistä aivojen toiminnan kanssa. Näkemys, jonka mukaan aivot ovat joukko toisiinsa liittyviä solmuja, joilla hermoverkkoja rakennetaan, on täysin naiivi.
Jos katsot primitiivisintä bakteerisolua, emme vieläkään ymmärrä, miten se toimii. Ymmärrämme joitakin sen puolia, mutta meillä ei ole mallia sen toiminnasta – puhumattakaan hermosolusta, joka on paljon monimutkaisempi, tai miljardeista toisiinsa liittyvistä neuroneista. Uskon sen olevan tieteellisesti mahdotonta ymmärtääksesi kuinka aivot toimivat. Voimme ymmärtää vain tiettyjä näkökohtia ja käsitellä niitä. Meillä ei ole, emmekä tule saamaan täydellistä ymmärrystä aivojen toiminnasta.
Jos meillä olisi täydellinen käsitys siitä, miten jokainen aivojen molekyyli toimii, voisimme luultavasti kopioida sen. Se tarkoittaisi kaiken laittamista matemaattisiin yhtälöihin. Sitten voit kopioida tämän tietokoneella. Ongelma on vain siinä, että emme pysty kirjoittamaan ja luomaan noita yhtälöitä.
BS: Monet maailman mielenkiintoisimmista asioista tapahtuvat sellaisilla rakeisuuden tasoilla, joita emme voi lähestyä. Meillä ei vain ole kuvantamislaitteita, eikä meillä luultavasti koskaan tule olemaan kuvantamislaitteita, jotka tallentaisivat suurimman osan siitä, mitä tapahtuu aivojen erittäin hienoilla tasoilla.
Tämä tarkoittaa, että emme esimerkiksi tiedä, mikä on vastuussa tietoisuudesta. Itse asiassa on olemassa joukko varsin mielenkiintoisia filosofisia ongelmia, jotka noudattamamme menetelmän mukaan ovat aina ratkaisemattomia – ja siksi meidän pitäisi vain jättää ne huomiotta.
Toinen on tahdonvapaus. Kannatamme erittäin voimakkaasti ajatusta, että ihmisillä on tahto; meillä voi olla aikeita, tavoitteita ja niin edelleen. Mutta emme tiedä, onko se vapaa tahto vai ei. Tämä on ongelma, joka liittyy aivojen fysiikkaan. Mitä tulee käytettävissämme oleviin todisteisiin, tietokoneilla ei voi olla tahtoa.
DT: Kirjan alaotsikko on "keinoäly ilman pelkoa". Mikä on se konkreettinen pelko, johon viittaat?
BS: Sen aiheutti singulariteettia koskeva kirjallisuus, jonka tiedän sinun tuntevan. Nick Bostrom, David Chalmers, Elon Musk ja muut. Kun keskustelimme kollegojemme kanssa todellisessa maailmassa, meille kävi selväksi, että siellä oli todellakin a väestön keskuudessa tietty pelko siitä, että tekoäly ottaa lopulta vallan ja muuttaa maailmaa sen vahingoksi ihmisiä.
Meillä on kirjassa melko paljon Bostrum-tyyppisiä argumentteja. Keskeinen argumentti heitä vastaan on, että jos koneella ei voi olla tahtoa, ei sillä voi olla myöskään pahaa tahtoa. Ilman pahaa tahtoa ei ole mitään pelättävää. Nyt voimme tietysti edelleen pelätä koneita, aivan kuten voimme pelätä aseita.
Mutta tämä johtuu siitä, että koneita hallitsevat ihmiset, joilla on pahoja päämääriä. Mutta silloin tekoäly ei ole paha; ihmiset rakentavat ja ohjelmoivat tekoälyä
DT: Miksi tämä käsitys singulaarisuudesta tai yleisestä tekoälystä kiinnostaa ihmisiä niin paljon? Pelkäävätkö he sitä tai kiehtovat sitä, tässä ajatuksessa on jotain, joka resonoi ihmisten kanssa laajalla tasolla.
JL: On tämä ajatus, joka alkoi 1800-luvun alussa ja jonka Nietzsche julisti tämän vuosisadan lopussa, että Jumala on kuollut. Koska yhteiskuntamme eliitit eivät ole enää kristittyjä, he tarvitsivat korvaavan. Max Stirner, joka oli Karl Marxin tavoin Hegelin oppilas, kirjoitti tästä kirjan sanoen: "Olen oma jumalani."
Jos olet Jumala, haluat myös olla luoja. Jos pystyt luomaan superälyn, olet kuin Jumala. Luulen, että se liittyy kulttuurimme hypernarsistisiin suuntauksiin. Emme puhu tästä kirjassa, mutta se selittää minulle, miksi tämä ajatus on niin houkutteleva meidän aikanamme, jolloin ei ole enää transsendenttia kokonaisuutta, jonka puoleen kääntyä.
DT: Mielenkiintoista. Sen seuraamiseksi on ajatus, että tekoälyn luominen – tai tekoälyn luomisen tavoite – on narsistinen teko. Siinä tapauksessa käsitys siitä, että näistä luomuksista tulisi jotenkin voimakkaampia kuin me olemme, on painajaismainen käänne siihen. Lapsi tappaa vanhemman.
JL: Vähän niin kyllä.
DT: Mikä sinun mielestäsi olisi kirjasi lopullinen tulos, jos kaikki olisivat vakuuttuneita väitteistäsi? Mitä se merkitsisi tekoälyn kehityksen tulevaisuudelle?
JL: Se on erittäin hyvä kysymys. Voin kertoa sinulle tarkalleen, mitä luulen tapahtuvan – ja tulee tapahtumaan. Luulen, että keskipitkällä aikavälillä ihmiset hyväksyvät väitteemme, ja tämä luo paremmin sovellettua matematiikkaa.
Kaikki suuret matemaatikot ja fyysikot ovat täysin tietoisia siitä, että he voivat saavuttaa matemaattisesti rajoituksia. Koska he ovat tietoisia tästä, he keskittyvät vain tiettyihin ongelmiin. Jos olet hyvin tietoinen rajoituksista, kuljet maailman halki ja etsit näitä ongelmia ja ratkaiset ne. Näin Einstein löysi yhtälöt Brownin liikkeelle; kuinka hän keksi suhteellisuusteoriansa; kuinka Planck ratkaisi mustan kappaleen säteilyn ja aloitti siten aineen kvanttiteorian. Heillä oli hyvä vaisto siitä, mitkä ongelmat ovat ratkottavissa matematiikan avulla ja mitkä eivät.
Jos ihmiset oppivat kirjamme viestin, uskomme, että he voivat suunnitella parempia järjestelmiä, koska he keskittyy siihen, mikä on todella mahdollista – ja lakkaa tuhlaamasta rahaa ja vaivaa johonkin, mikä ei voi olla mahdollista saavutettu.
BS: Luulen, että osa viestistä menee jo perille, ei sen takia, mitä sanomme, vaan siksi ihmisten kokemuksia, kun he antavat suuria summia rahaa tekoälyprojekteihin, ja sitten tekoälyprojektit epäonnistuvat. Taidat tietää Joint Artificial Intelligence Centeristä. En muista tarkkaa summaa, mutta luulen, että se oli jotain 10 miljardia dollaria, jonka he antoivat kuuluisalle urakoitsijalle. Lopulta he eivät saaneet siitä mitään irti. He irtisanoivat sopimuksen.
(Toimittajan huomautus: JAIC, Yhdysvaltain asevoimien alaosasto, oli tarkoitettu nopeuttamaan "tekoälyn toimittamista ja käyttöönottoa tehtävän vaikutuksen saavuttamiseksi mittakaavassa." Se taitettiin suuremmaksi yhtenäiseksi organisaatioksi Chief Digital and Artificial Intelligence Officer kahdella muulla toimistolla tämän vuoden kesäkuussa. JAIC lakkasi olemasta omana kokonaisuutena.)
DT: Mikä on mielestäsi painavin yksittäinen argumentti, jonka esität kirjassa?
BS: Jokainen tekoälyjärjestelmä on luonteeltaan matemaattinen. Koska emme voi mallintaa tietoisuutta, tahtoa tai älyä matemaattisesti, niitä ei voida jäljitellä koneiden avulla. Siksi koneista ei tule älykkäitä, saati superälykkäitä.
JL: Aivomme rakenne sallii vain rajalliset mallit luonnosta. Fysiikassa valitsemme todellisuuden osajoukon, joka sopii matemaattisiin mallinnuskykyihimme. Näin Newton, Maxwell, Einstein tai Schrödinger saivat kuuluisat ja kauniit mallinsa. Mutta nämä voivat kuvata tai ennustaa vain pientä järjestelmää. Parhaat mallimme ovat ne, joita käytämme tekniikan suunnittelussa. Emme pysty luomaan täydellistä matemaattista mallia elävästä luonnosta.
Tätä haastattelua on muokattu pituuden ja selkeyden vuoksi.
Toimittajien suositukset
- Huippukirjailijat vaativat tekoälyyrityksiltä maksua työnsä käytöstä
- Bing Chat taistelee tekoälykieltoja vastaan työpaikoilla
- Google Bard voi nyt puhua, mutta voiko se tukahduttaa ChatGPT: n?
- Elon Muskin uuden tekoälyyrityksen tavoitteena on "ymmärtää maailmankaikkeus"
- ChatGPT: n ennätyskasvu syrjäytti juuri uuden virussovelluksen
