Robotai gali daryti spaudimą vaikams, tačiau nė sekundei nemanykite, kad esame apsaugoti

Šiek tiek pakoreguoti gerai žinomos televizijos laidos pavadinimą: Vaikai daro pačius niūriausius dalykus. Neseniai mokslininkai iš Vokietijos ir JK atliko tyrimą, paskelbtas žurnale Mokslo robotika, kuris parodė, kiek vaikai yra jautrūs robotų bendraamžių spaudimui. TLDR versija: atsakymas į seną tėvų klausimą: „Jei visi tavo draugai lieptų tau nušokti nuo uolos, ar tu? gali būti „Žinoma. Jei visi mano draugai būtų robotai.

Šis testas atkūrė garsųjį 1951 m. eksperimentą, kurio pradininkas buvo lenkų psichologas Solomonas Aschas. Eksperimentas parodė, kaip žmones gali paveikti grupinio mąstymo spaudimas, net jei jis susiduria su informacija, kurią jie žino esant teisingą. Ascho eksperimentuose kolegijos studentų grupė buvo surinkta ir jiems buvo parodytos dvi kortelės. Kairėje esančioje kortelėje buvo rodomas vienos vertikalios linijos vaizdas. Dešinėje esančioje kortelėje buvo trys skirtingo ilgio eilutės. Tada eksperimentuotojas paklausė dalyvių, kuri eilutė dešinėje kortelėje atitinka linijos ilgį, parodytą kairėje kortelėje.

Kol kas taip paprasta. Vis dėlto viskas pasidarė sudėtingesnė, buvo grupės sudėtis. Tik vienas žmogus iš grupės buvo tikras dalyvis, o kiti – aktoriai, kuriems buvo pasakyta, ką pasakyti iš anksto. Eksperimentu buvo siekiama patikrinti, ar tikrasis dalyvis eis kartu su likusia grupe, kai jie vienbalsiai pateiks neteisingą atsakymą. Kaip paaiškėjo, dauguma. Bendraamžių spaudimas reiškia, kad dauguma žmonių neigs informaciją, kuri yra aiškiai teisinga, jei tai reiškia, kad reikia atitikti daugumos nuomonę.

2018 m. atliktame eksperimento remikse buvo naudojamas tas pats principas – tik vietoj kolegijos amžiaus bendraamžių grupės „tikrasis dalyvis“ buvo vaikas nuo septynerių iki devynerių metų. „Aktorius“ vaidino trys robotai, užprogramuoti pateikti neteisingą atsakymą. 43 savanorių imtyje 74 procentai vaikų pateikė tokį patį neteisingą atsakymą kaip ir robotai. Rezultatai rodo, kad dauguma tokio amžiaus vaikų robotų spaudimą elgs taip pat, kaip bendraamžių spaudimą iš savo kūno ir kraujo bendraamžių.

„Ypatingas dalykas, susijęs su tokio amžiaus vaikais, yra tai, kad jie vis dar yra tokio amžiaus, kai jie nebetikės. Tonis Belpaeme, Pažangių ir autonominių valdymo sistemų profesorius, padėjęs atlikti tyrimą, pasakojo „Digital Trends“. „Jie žais su žaislais ir vis dar tikės, kad jų veiksmo figūrėlės ar lėlės yra tikros; jie vis tiek žiūrės į lėlių spektaklį ir tikrai tikės tuo, kas vyksta; jie vis dar gali tikėti [Kalėdų Seneliu]. Tai tas pats, kai jie žiūri į robotą: jie nemato elektronikos ir plastiko, o veikiau socialinį charakterį.

Įdomu tai, kad eksperimentas supriešino tai su suaugusiųjų atsakymu. Skirtingai nei vaikai, suaugusiųjų nesužavėjo robotų klaidos. „Kai suaugęs žmogus pamatė, kad robotas pateikia neteisingą atsakymą, jis suglumęs pažvelgė į jį ir tada pateikė teisingą atsakymą“, – tęsė Belpaeme.

Tad nėra ko jaudintis? Kol neleisime vaikams į rankas paimti robotų, užprogramuotų blogai reaguoti, viskas turėtų būti gerai, tiesa? Nebūk toks greitas.

Ar tikrai suaugusieji yra daug protingesni?

Kaip pripažino Belpaeme, ši užduotis buvo sukurta taip paprasta, kad nebuvo neaiškumų, koks galėtų būti atsakymas. Tikrasis pasaulis yra kitoks. Kai galvojame apie darbus, kurie lengvai perduodami mašinoms, tai dažnai yra užduotys, kurių mes, kaip žmonės, ne visada galime atlikti tobulai.

Gali būti, kad užduotis yra neįtikėtinai paprasta, bet mašina gali ją atlikti žymiai greičiau nei mes. Arba tai gali būti sudėtingesnė užduotis, kai kompiuteris turi prieigą prie daug didesnio duomenų kiekio nei mes. Atsižvelgiant į galimą atliekamo darbo poveikį, nenuostabu, kad daugelis iš mūsų būtų nepatenkinti taisydami mašiną.

Ar ligoninės slaugytoja džiaugtųsi panaikinusi FDA patvirtintas algoritmas kurie gali padėti nustatyti paciento sveikatos prioritetus stebint gyvybinius požymius ir siunčiant įspėjimus medicinos personalui? O gal vairuotojui būtų patogu perimti vairą iš be vairuotojo automobilio, kai susiduriama su ypač sudėtingu kelio scenarijumi? Ar net pilotas, nepaisydamas autopiloto, nes mano, kad priimamas neteisingas sprendimas? Visais šiais atvejais norėtume manyti, kad atsakymas yra „taip“. Tačiau dėl įvairių priežasčių tai gali būti netikra.

Apie tai Nicholasas Carras rašo savo 2014 m Stiklinis narvas: kur mus veda automatika. Tai, kaip jis tai apibūdina, pabrėžia dviprasmiškumą, kurį apima realūs automatizavimo atvejai, kai kyla problemų. Kur kas sudėtingesnės nei kortelės eilutės ilgis, aparatai yra daug protingesni, o rezultatas gali būti ilgesnis lemiamas.

„Kaip išmatuoti pastangų ir įsitraukimo erozijos, veiklumo ir savarankiškumo nykimo ar subtilaus įgūdžių pablogėjimo išlaidas? Jūs negalite“, – rašo jis. „Tai yra šešėliniai, neapčiuopiami dalykai, kuriuos retai vertiname, kol jų nebelieka, ir net tada mums gali kilti sunkumų konkrečiai išreikšti nuostolius.

Tokie socialiniai robotai, apie kuriuos Belpaeme teorizuoja savo moksliniame darbe, dar nėra populiarūs, tačiau jau yra iliustracijų, susijusių su kai kuriais iš šių mįslių. Pavyzdžiui, Carras atidaro savo knygą paminėdamas Federalinės aviacijos administracijos atmintinę, kurioje pažymima, kaip pilotai turėtų praleisti mažiau laiko skrisdami autopilotu dėl to keliamos rizikos. Tai buvo pagrįsta avarijų duomenų analize, rodančia, kad pilotai dažnai per daug pasitiki kompiuterizuotomis sistemomis.

Panaši byla buvo susijusi su 2009 m. ieškiniu, kuriame moteris, vardu Lauren Rosenberg pateikė ieškinį „Google“. po to, kai buvo patarta eiti maršrutu, kuris nukreiptas į pavojingą eismą. Nors byla buvo išmesta iš teismo, tai rodo, kad žmonės nepaisys savo sveiko proto, manydami, kad mašinų intelektas turi daugiau intelekto nei mes.

Kiekvienam laivui tenka sudužti

Galiausiai, kaip pripažįsta Belpaeme, problema ta, kad kartais norime sprendimų priėmimą perduoti mašinoms. Robotai žada atlikti darbus, kurie yra nuobodūs, nešvarūs ir pavojingi - ir jei turime atspėti kiekvieną sprendimą, tai tikrai nėra tie darbo taupymo įrenginiai, kurie buvo pažadėti. Jei galiausiai pasikviesime robotus į savo namus, norėsime, kad jie galėtų veikti savarankiškai, o tai apima tam tikrą pasitikėjimo lygį.

„Robotai, darantys jums socialinį spaudimą, gali būti geras dalykas; tai nebūtinai turi būti baisu, – tęsė Belpaeme. „Jei turite sveikatos priežiūros ar švietimo srityse naudojamų robotų, norite, kad jie galėtų jums daryti įtaką. Pavyzdžiui, jei norite numesti svorio, jums gali būti duotas svorio metimo robotas dviem mėnesiams monitoriai suvartojamų kalorijų ir skatina daugiau sportuoti. Norite, kad toks robotas būtų įtikinamas ir paveiktų jus. Bet bet kokia technologija, kurią galima panaudoti gėriui, gali būti panaudota ir blogiui.

Koks yra atsakymas į tai? Tokie klausimai kaip šis bus svarstomi kiekvienu konkrečiu atveju. Jei blogis galiausiai nusveria gėrį, tokios technologijos kaip socialiniai robotai niekada nepakils. Tačiau svarbu, kad pasimokytume iš studijų, pavyzdžiui, apie robotų sukeltą kolegų spaudimą. Ir tai nėra faktas, kad esame daug protingesni už vaikus.

Redaktorių rekomendacijos

• Automatizavimo ateitis: ateina robotai, bet jie neatims jūsų darbo
• Šie robotai naikina piktžoles, kad ūkininkams nereikėtų cheminių herbicidų