A robotok képesek nyomást gyakorolni a gyerekekre, de egy pillanatra se gondoljuk, hogy immunisak vagyunk

Hogy kicsit módosítsam egy jól ismert tévéműsor címét: A gyerekek a legdurvább dolgokat csinálják. Nemrég német és egyesült királyságbeli kutatók végeztek egy tanulmányt, folyóiratban jelent meg Tudományos robotika, amely megmutatta, hogy a gyerekek milyen mértékben érzékenyek a robotok egymás közötti nyomására. TLDR verzió: a válasz arra a régi szülői kérdésre: "Ha az összes barátod azt mondaná neked, hogy ugorj le egy szikláról, megtennéd?" lehet, hogy „Persze. Ha minden barátom robot lenne."

A teszt egy híres, 1951-es kísérletet mutatott be, amelyet Solomon Asch lengyel pszichológus indított el. A kísérlet bemutatta, hogyan lehet az embereket befolyásolni a csoportgondolkodás nyomása által, még akkor is, ha ez szembekerül az általuk helyesnek ismert információkkal. Asch kísérletei során egy csoport főiskolai hallgatót összegyűjtöttek, és két kártyát mutattak nekik. A bal oldali kártya egyetlen függőleges vonal képét jelenítette meg. A jobb oldali kártya három változó hosszúságú sort jelenített meg. A kísérletvezető ezután megkérdezte a résztvevőket, hogy a jobb oldali kártyán melyik vonal egyezik a bal kártyán látható vonal hosszával.

Eddig olyan egyértelmű. Ahol azonban a dolgok elfajultabbak lettek, az a csoport felépítésében volt. A csoportból csak egy személy volt valódi résztvevő, a többiek mind színészek voltak, akiknek előre megmondták, mit mondjanak. A kísérlet célja az volt, hogy teszteljék, vajon a valódi résztvevő együtt megy-e a csoport többi tagjával, amikor egyöntetűen rossz választ adnak. Mint kiderült, a legtöbben megtennék. A kortárs nyomás azt jelenti, hogy az emberek többsége megtagadja az egyértelműen helyes információkat, ha az a többség véleményének való megfelelést jelenti.

A kísérlet 2018-as remixében ugyanezt az elvet alkalmazták – csak az egyetemista korú kortársak csoportja helyett a „valódi résztvevő” egy hét és kilenc év közötti gyerek volt. A „színészeket” három robot játszotta, úgy programozva, hogy rossz választ adjanak. Egy 43 önkéntesből álló mintában a gyerekek 74 százaléka ugyanazt a helytelen választ adta, mint a robotok. Az eredmények azt sugallják, hogy a legtöbb ilyen korú gyerek ugyanúgy kezeli a robotok nyomását, mint a hús-vér társaitól származó nyomást.

"Az a különleges ebben a korosztályban a gyerekekben, hogy még mindig abban a korban vannak, hogy felfüggesztik a hitetlenséget." Tony Belpaeme, az intelligens és autonóm vezérlőrendszerek professzora, aki segített a tanulmány elkészítésében, elmondta a Digital Trendsnek. „Játszani fognak játékokkal, és továbbra is azt hiszik, hogy akciófiguráik vagy babáik valódiak; akkor is néznek majd egy bábszínházat, és tényleg elhiszik, ami történik; még mindig hisznek [Mikulásban]. Ugyanez a helyzet, amikor egy robotot néznek: nem elektronikát és műanyagot látnak, hanem egy szociális karaktert.”

Érdekes módon a kísérlet ezt szembeállította a felnőttek válaszával. A gyerekekkel ellentétben a felnőtteket nem tántorították el a robotok hibái. „Amikor egy felnőtt látta, hogy a robot rossz választ ad, értetlenül pillantottak rá, majd megadták a helyes választ” – folytatta Belpaeme.

Akkor nincs miért aggódni? Amíg megakadályozzuk, hogy a gyerekek rossz válaszadásra programozott robotokat kapjanak, mindennek rendben kell lennie, igaz? Ne légy olyan gyors.

Tényleg ennyire okosabbak a felnőttek?

Ahogy Belpaeme elismerte, ezt a feladatot olyan egyszerűnek tervezték, hogy nem volt bizonytalan a válasz tekintetében. A való világ más. Ha azokra a munkákra gondolunk, amelyeket könnyen átadnak a gépeknek, ezek gyakran olyan feladatok, amelyeket emberként nem mindig tudunk tökéletesen elvégezni.

Lehetséges, hogy a feladat hihetetlenül egyszerű, de a gép lényegesen gyorsabban tudja elvégezni, mint mi. Vagy lehet egy összetettebb feladat, amelyben a számítógép sokkal nagyobb mennyiségű adathoz fér hozzá, mint mi. Az adott munka lehetséges hatásától függően nem meglepő, hogy közülünk sokan elégedetlenek lennének egy gép megjavításával.

Örülne-e egy nővér a kórházban, ha felülbírálja a FDA által jóváhagyott algoritmus amelyek segíthetnek a betegek egészségével kapcsolatos prioritások meghatározásában az életjelek figyelésével, majd az egészségügyi személyzetnek történő figyelmeztetésekkel? Vagy a sofőr kényelmesen átveszi a kormányt egy vezető nélküli autóból, ha egy különösen összetett úthelyzettel foglalkozik? Vagy akár egy pilóta, aki felülírja a robotpilótát, mert szerintük rossz döntés születik? Mindezen esetekben azt szeretnénk hinni, hogy a válasz „igen”. Bár mindenféle ok miatt ez nem biztos, hogy valóság.

Nicholas Carr erről ír 2014-es könyvében Az üvegkalitka: Ahová az automatizálás visz minket. Leírása rávilágít arra a kétértelműségre, amelyet a valós automatizálási esetek magukban foglalnak, ahol a problémák sokkal összetettebb, mint egy sor hossza a kártyán, a gépek sokkal intelligensebbek, és az eredmény potenciálisan több alapvető.

„Hogyan méri az erőfeszítés és elkötelezettség eróziójának, az önrendelkezés és az autonómia hanyatlásának, vagy a képességek finom hanyatlásának költségeit? Nem teheted” – írja. „Ezek a fajta árnyékos, megfoghatatlan dolgok, amelyeket csak azután értékelünk, hogy eltűntek, és még akkor is gondot okozhat a veszteségek konkrét kifejezése.”

Az olyan társadalmi robotok, amelyekről Belpaeme a kutatási cikkben elméleteket ír, még nem számítanak be a főáramnak, de már vannak példák ezeknek a rejtvényeknek a működésében. Carr például azzal nyitja meg könyvét, hogy megemlíti a Szövetségi Légiközlekedési Hatóság feljegyzését, amely felhívta a figyelmet arra, hogy a pilótáknak az ezzel járó kockázatok miatt kevesebb időt kell tölteniük robotpilóta repüléssel. Ez a baleseti adatok elemzésén alapult, amely azt mutatja, hogy a pilóták gyakran túlságosan nagy mértékben támaszkodnak számítógépes rendszerekre.

Egy hasonló eset egy 2009-es pert érintett, amelyben egy Lauren Rosenberg nevű nő volt pert indított a Google ellen miután azt tanácsolták, hogy menjen végig egy olyan útvonalon, amely veszélyes forgalomba vezetett. Bár az ügyet kidobták a bíróságon, ez azt mutatja, hogy az emberek felülírják saját józan eszüket abban a hitben, hogy a gépi intelligencia több intelligenciával rendelkezik, mint mi.

Minden hajóhoz tartozik egy hajótörés

Végső soron, ahogy Belpaeme elismeri, a probléma az, hogy néha át akarjuk adni a döntéshozatalt a gépekre. Robotok ígérje meg, hogy elvégzi azokat a munkákat, amelyek unalmasak, piszkosak és veszélyesek - és ha minden döntést meg kell találnunk, akkor nem igazán azok a munkatakarékos eszközök, amelyeket ígértek. Ha végül be akarjuk hívni otthonunkba a robotokat, akkor azt akarjuk, hogy képesek legyenek önállóan cselekedni, és ez bizonyos mértékű bizalommal jár.

„Jó dolog lehet, ha a robotok társadalmi nyomást gyakorolnak rád; nem kell baljóslatúnak lennie – folytatta Belpaeme. „Ha az egészségügyben vagy az oktatásban használnak robotokat, azt szeretné, ha azok befolyásolhatnák Önt. Például, ha fogyni szeretne, akkor kaphat egy fogyókúrás robotot két hónapra, amely monitorok kalóriabevitelét, és több mozgásra ösztönöz. Azt akarod, hogy egy ilyen robot meggyőző legyen és befolyásoljon. De minden jóra használható technológia felhasználható a rosszra is.”

Mi a válasz erre? Az ehhez hasonló kérdéseket eseti alapon vitatják meg. Ha a rossz végső soron felülmúlja a jót, az olyan technológia, mint a szociális robotok, soha nem fog fellendülni. De fontos, hogy levonjuk a megfelelő leckéket az olyan tanulmányokból, mint például a robotok által kiváltott kortársi nyomásról. És nem az a tény, hogy sokkal okosabbak vagyunk a gyerekeknél.

Szerkesztői ajánlások

• Az automatizálás jövője: jönnek a robotok, de nem veszik el a munkádat
• Ezek a robotok halálra pusztítják a gyomokat, így a gazdáknak nincs szükségük vegyi gyomirtókra