Nevezzük ezt Skynet-hipotézisnek, általános mesterséges intelligenciának vagy a szingularitás megjelenésének – évek óta az AI-szakértők és a nem szakértők is idegesítették (és egy kis csoport számára ünnepelték) azt a gondolatot, hogy a mesterséges intelligencia egy napon okosabbá válhat mint az emberek.
Az elmélet szerint a mesterséges intelligencia fejlődése – különösen a gépi tanulás típusa, amely képes átvenni az újdonságokat információkat, és ennek megfelelően írja át a kódját – végül utoléri a biológiai wetware-t agy. Az események ezen értelmezésében minden mesterséges intelligencia előrehalad Veszély-nyertes IBM gépeket a hatalmas AI nyelvi modell, GPT-3 egy lépéssel közelebb viszi az emberiséget egy egzisztenciális fenyegetéshez. Szó szerint építjük a magunkét hamarosan értelmes utódai.
Ajánlott videók
Kivéve, hogy ez soha nem fog megtörténni. Legalábbis az új könyv szerzői szerint Miért nem fogják soha a gépek uralni a világot: Mesterséges intelligencia félelem nélkül.
Társszerzők a Buffalo-i Egyetem filozófiaprofesszora
Barry Smith és Jobst Landgrebe, a Cognotekt német mesterségesintelligencia-cég alapítója azzal érvel, hogy az emberi intelligenciát egyhamar – vagy soha – nem fogja utolérni a „halhatatlan diktátor”. Megmondták Digitális trendek az indokaikat, hogy miért.
Digital Trends (DT): Hogyan került ez a téma a radarodra?
Jobst Landgrebe (JL): Végzettségem szerint orvos és biokémikus vagyok. Amikor elkezdtem a pályafutásomat, olyan kísérleteket végeztem, amelyek sok adatot generáltak. Elkezdtem matematikát tanulni, hogy értelmezni tudjam ezeket az adatokat, és láttam, milyen nehéz matematikával modellezni a biológiai rendszereket. A matematikai módszerek és a biológiai adatok között mindig is volt ez a tévedés.
A harmincas éveim közepén otthagytam az egyetemet, és üzleti tanácsadó és vállalkozó lettem, aki mesterséges intelligencia szoftverrendszerekkel foglalkozott. Próbáltam mesterséges intelligencia rendszereket építeni, hogy utánozzák az emberi lények képességeit. Rájöttem, hogy ugyanabba a problémába ütköztem, mint évekkel korábban a biológiában.
Az ügyfelek azt mondták nekem: „Miért nem építesz chatbotokat?” Azt mondtam, „mert nem fognak működni; nem tudjuk megfelelően modellezni ezt a típusú rendszert.” Ez vezetett végül ahhoz, hogy megírjam ezt a könyvet.
Barry Smith professzor (BS): Szerintem ez egy nagyon érdekes probléma. Volt már sejtésem hasonló problémákról az MI-vel kapcsolatban, de soha nem gondoltam át őket. Kezdetben írtunk egy dolgozatot „Újra értelmessé tenni a mesterséges intelligenciát.’ (Ez a Trump-korszakban volt.) Arról volt szó, hogy a neurális hálózatok miért nem képesek a nyelvi modellezésre. Aztán úgy döntöttünk, hogy kibővítjük a cikket egy könyvvé, amely mélyebben feltárja ezt a témát.
DT: Az Ön könyve szkepticizmusát fejezi ki azzal kapcsolatban, hogy a modern mélytanulás szempontjából kulcsfontosságú neurális hálózatok miként emulálják az emberi agyat. Ezek közelítések, nem pedig a biológiai agy működésének pontos modelljei. De elfogadod-e azt az alapfeltevést, hogy ez lehetséges, ha az agyat szemcsésen értelmeznénk? elég részletesen, mesterségesen meg lehetne reprodukálni – és hogy ez intelligencia ill érzés?
JL: A „neurális hálózat” elnevezés teljesen téves elnevezés. A jelenlegi neurális hálózatoknak, még a legkifinomultabbaknak sem, semmi közük az agy működéséhez. Teljesen naiv az a nézet, hogy az agy egymással összefüggő csomópontok halmaza, ahogyan a neurális hálózatok felépülnek.
Ha megnézzük a legprimitívebb baktériumsejtet, még mindig nem értjük, hogyan működik. Megértjük néhány aspektusát, de nincs modellünk a működésére – nem beszélve egy neuronról, amely sokkal bonyolultabb, vagy több milliárd neuronról, amelyek összekapcsolódnak. Szerintem tudományosan lehetetlen hogy megértsük az agy működését. Csak bizonyos szempontokat tudunk megérteni és ezekkel a szempontokkal foglalkozni. Nincs és nem is fogunk teljes mértékben megérteni az agy működését.
Ha tökéletesen értenénk az agy egyes molekuláinak működését, akkor valószínűleg meg tudnánk reprodukálni. Ez azt jelentené, hogy mindent matematikai egyenletekbe kell foglalni. Ezután megismételheti ezt számítógép segítségével. A probléma csak az, hogy nem tudjuk felírni és létrehozni ezeket az egyenleteket.
BS: A világ legérdekesebb dolgai közül sok olyan részletességgel történik, amelyet nem tudunk megközelíteni. Egyszerűen nem rendelkezünk képalkotó berendezéssel, és valószínűleg soha nem is lesz képalkotó berendezésünk, hogy megörökítsük az agy nagyon finom szintjein zajló események nagy részét.
Ez azt jelenti, hogy nem tudjuk például, mi felelős a tudatért. Valójában van egy sor egészen érdekes filozófiai probléma, amelyek az általunk követett módszer szerint mindig megoldhatatlanok lesznek – ezért figyelmen kívül kell hagynunk őket.
A másik az akarat szabadsága. Nagyon határozottan támogatjuk azt az elképzelést, hogy az emberi lényeknek van akarata; lehetnek szándékaink, céljaink és így tovább. De nem tudjuk, hogy ez szabad akarat-e vagy sem. Ez egy olyan probléma, amely az agy fizikájához kapcsolódik. Ami a rendelkezésünkre álló bizonyítékokat illeti, a számítógépeknek nem lehet akarata.
DT: A könyv alcíme: „mesterséges intelligencia félelem nélkül”. Mi az a konkrét félelem, amelyre utal?
BS: Ezt a szingularitásról szóló irodalma váltotta ki, amelyről tudom, hogy ismer. Nick Bostrom, David Chalmers, Elon Musk és hasonlók. Amikor a való világban beszélgettünk kollégáinkkal, világossá vált számunkra, hogy valóban létezik a a lakosság bizonyos félelme attól, hogy a mesterséges intelligencia végül átveszi az uralmat, és annak rovására megváltoztatja a világot emberek.
A könyvben elég sok szó esik a Bostrum-típusú érvekről. A fő érv velük szemben az, hogy ha a gépnek nem lehet akarata, akkor nem lehet gonosz akarata sem. Gonosz akarat nélkül nincs mitől félni. Most persze továbbra is félhetünk a gépektől, ahogy a fegyverektől is.
De ez azért van, mert a gépeket gonosz célú emberek kezelik. De akkor nem a mesterséges intelligencia a gonosz; az emberek építik és programozzák az AI-t
DT: Miért érdekli annyira az embereket a szingularitás vagy a mesterséges általános intelligencia fogalma? Akár megijednek tőle, akár lenyűgözi őket, van ebben az ötletben valami, ami tágabb szinten rezonál az emberek körében.
JL: Van ez az elképzelés, amely a 19. század elején indult, majd Nietzsche kijelentette a század végén, hogy Isten halott. Mivel társadalmunk elitjei már nem keresztények, cserére volt szükségük. Max Stirner, aki Karl Marxhoz hasonlóan Hegel tanítványa volt, könyvet írt erről, mondván: „Én vagyok a saját istenem”.
Ha Isten vagy, akkor teremtő is akarsz lenni. Ha létre tudsz hozni egy szuperintelligenciát, akkor olyan vagy, mint Isten. Úgy gondolom, hogy ez összefügg a kultúránk hipernárcisztikus tendenciáival. A könyvben nem beszélünk erről, de ez megmagyarázza számomra, hogy ez az elképzelés miért olyan vonzó napjainkban, amikor már nincs transzcendens entitás, akihez fordulhatnánk.
DT: Érdekes. Tehát ennek az az elképzelése, hogy a mesterséges intelligencia létrehozása – vagy a mesterséges intelligencia létrehozásának célja – nárcisztikus cselekedet. Ebben az esetben az az elképzelés, hogy ezek az alkotások valamiképpen erősebbek lesznek, mint mi, rémálomszerű csavar. A gyerek öli meg a szülőjét.
JL: Kicsit így, igen.
DT: Mi lenne számodra a könyved végső eredménye, ha mindenkit meggyőznének az érveid? Mit jelentene ez a mesterséges intelligencia jövője szempontjából?
JL: Ez egy nagyon jó kérdés. Pontosan meg tudom mondani, hogy szerintem mi fog történni – és meg fog történni. Úgy gondolom, hogy középtávon az emberek elfogadják érveinket, és ez jobban alkalmazható matematikát hoz létre.
Valami, amivel minden nagy matematikus és fizikus teljesen tisztában van, az volt, hogy matematikailag milyen korlátokat tudnak elérni. Mivel tisztában vannak ezzel, csak bizonyos problémákra koncentrálnak. Ha tisztában vagy a korlátokkal, akkor átmész a világon, keresed ezeket a problémákat és megoldod őket. Einstein így találta meg a Brown-mozgás egyenleteit; hogyan állt elő relativitáselméleteivel; hogyan oldotta meg Planck a feketetest-sugárzást és így kezdeményezte az anyag kvantumelméletét. Jó megérzésük volt, hogy mely feladatok matematikai megoldására alkalmasak, és melyek nem.
Ha az emberek megtanulják könyvünk üzenetét, úgy véljük, képesek lesznek jobb rendszereket kidolgozni, mert azok arra fog koncentrálni, ami valóban megvalósítható – és ne pazaroljon pénzt és erőfeszítést valamire, ami nem lehet elért.
BS: Úgy gondolom, hogy az üzenet egy része már eljut, nem azért, amit mondunk, hanem azért, mert a Az embereknek milyen tapasztalatai vannak, amikor nagy összegeket adnak AI-projektekhez, majd az AI-projektek meghiúsulnak. Gondolom, tudsz a Közös Mesterséges Intelligencia Központról. A pontos összegre nem emlékszem, de azt hiszem, valami 10 milliárd dollár volt, amit egy híres vállalkozónak adtak. Végül nem kaptak belőle semmit. Felmondták a szerződést.
(A szerkesztő megjegyzése: A JAIC, az Egyesült Államok Fegyveres Erőinek egyik alosztálya az volt a célja, hogy felgyorsítsa az AI átadását és elfogadását a küldetés hatásának elérése érdekében léptékben.” Idén júniusban egy nagyobb, egységes szervezetté, a Chief Digital and Artificial Intelligence Officer-ba, két másik hivatalba tömörült. A JAIC saját entitásként megszűnt létezni.)
DT: Maga szerint mi a legnyomósabb érv, amit a könyvben felhoz?
BS: Minden mesterséges intelligencia rendszer matematikai jellegű. Mivel a tudatot, az akaratot vagy az intelligenciát nem tudjuk matematikailag modellezni, ezeket nem lehet gépekkel emulálni. Ezért a gépek nem lesznek intelligensek, nemhogy szuperintelligensek.
JL: Agyunk szerkezete csak korlátozott természeti modelleket tesz lehetővé. A fizikában a valóságnak egy olyan részhalmazát választjuk ki, amely illeszkedik matematikai modellezési képességeinkhez. Így szerezte meg Newton, Maxwell, Einstein vagy Schrödinger híres és gyönyörű modelljét. De ezek csak a rendszerek egy kis halmazát képesek leírni vagy előre jelezni. A legjobb modelljeink azok, amelyeket a technológia tervezésére használunk. Nem tudunk teljes matematikai modellt létrehozni az élő természetről.
Ezt az interjút a terjedelem és az érthetőség kedvéért szerkesztettük.
Szerkesztői ajánlások
- A legjobb szerzők fizetést követelnek az AI-cégektől munkájuk felhasználásáért
- A Bing Chat felveszi a harcot az AI munkahelyi tiltásai ellen
- A Google Bard már beszélni tud, de ki tudja-e fojtani a ChatGPT-t?
- Elon Musk új mesterséges intelligencia-cégének célja, hogy „megértse az univerzumot”
- A ChatGPT rekordnövekedését éppen egy új vírusalkalmazás tette le a trónról
