A mesterséges intelligencia negatív hatásai

Az emberi gondolkodást utánozni, felülmúlni vagy akár öntudatossá válni képes gépek fejlesztése a tudományos-fantasztikus irodalom jól feltárt alaptétele. A mai technológiai környezetben a mesterséges intelligencia – az AI – megjelenése az emberiség egyik legnagyobb eszközévé válhat. eredményeket, de ahogy a neves fizikus, Stephen Hawking figyelmeztetett, "lehet, hogy ez az utolsó is, hacsak nem tanuljuk meg elkerülni a kockázatokat."

A kifinomult technológia továbbra is beágyazódik a modern társadalomba, a digitális személyi asszisztensektől és a Google intelligens keresési algoritmusaitól a kísérleti önvezető autókig. A mesterséges intelligenciát úgy definiálják, mint egy számítógépet vagy gépet, amely képes "logikai levezetésre és következtetésre" és "döntéshozatalra". múltbeli tapasztalatokon vagy elégtelen vagy egymásnak ellentmondó információkon alapul." A jelenlegi technológiai szintek máris ijesztő etikai dilemmákat vetnek fel, mint pl. hogy a katonai drónokat vagy más robotrendszereket úgy kell-e megtervezni, hogy halálos erőt alkalmazzanak a célpontok ellen közvetlen ember nélkül bevonása. Jelenleg a programozott gépek nagyobb sebességgel és pontossággal tudnak reagálni, mint egy emberi kezelő, de még mindig képesek durva hibára emberi előítéletek és intuíciók nélkül, amelyek irányítják a döntéshozatalt. Ezeket a problémákat felerősíti, ha az AI-t beépítik az ilyen rendszerekbe, és olyan független indítékokat vezetnek be, amelyek teljesen kiszámíthatatlanok vagy közvetlen ellentétben állnak az emberi szándékokkal.

A mesterséges intelligencia beépítése drasztikusan megváltoztatja az emberiség munkafelfogását. Az ipari korszak óta minden technológia elkerülhetetlenül sok munkahelyet elavulttá tesz, miközben új lehetőségeket teremt a feltörekvő területeken. A mesterséges intelligencia olyan jövőt kínál, amelyben a gépek végeznek feladatokat helyettünk, lehetővé téve az emberek számára, hogy szabadidős életet éljenek. John Maynard Keynes közgazdász odáig ment – ​​még 1930-ban –, hogy 2030-ra 15 órás munkahétre jósol. A jelenlegi népességi szinten a társadalom minden aspektusa drasztikus újragondolást igényelne mind kulturális, mind gazdasági szempontból, ha az automatizálás ilyen drámai változást hozna napjaink eltöltésében.

A mesterséges intelligencia egyik jelentős veszélye az, hogy a már továbbfejlesztett képességeket használja-e még nagyobb kognitív erővel rendelkező gépek létrehozására. A mesterséges intelligencia fejlett nemzedékei ugyanolyan magasan működhetnek az emberek felett, mint mi az állatok felett, és még az is előfordulhat, hogy az emberi képességen felül fejlődik. Ebben az eredményben – amelyet Dr. Vernor Vinge szingularitásként emleget a NASA Lewis Kutatóközpont VISION-21 szimpóziumán 1993-ban – a Az általunk ismert élet szabályai örökre megváltoznának, mivel nem lehet megjósolni, hogy a mesterséges intelligencia az együttélés mellett dönt-e, vagy ellenséges lesz az emberiséggel.

Hawking hangsúlyozza, hogy a mesterséges intelligenciával kapcsolatos minden komoly vitában figyelembe kell venni a lehetséges fenyegetéseket és azok kezelésének módját, és kritikusabb, intézményes kutatást kíván, mivel egyre nagyobb vállalati erőforrásokat fordítanak a mesterséges alkotás áttöréseinek megvalósítására intelligencia. Vinge azt feltételezi, hogy a mesterséges intelligencia szigorúan szabályozható olyan szabályokkal, amelyek gyakorlatilag jóindulatúak autonóm robotokká való viselkedés, ahogyan azt Isaac Asimov sci-fi író elképzelte: Három törvény Robotika. Vinge arra is figyelmeztet, hogy a természetes emberi verseny valószínűleg a mesterséges intelligencia korlátlan modelljeinek kifejlesztéséhez vezet, így előfordulhat, hogy még az ilyen biztosítékok sem elegendőek a szingularitás ellenőrzéséhez, ha előfordul.