Robotid võivad lastele survet avaldada, kuid ärge mõelge hetkekski, et oleme immuunsed

Tuntud telesaate pealkirja pisut muutmiseks: Lapsed teevad kõige jõledamaid asju. Hiljuti viisid Saksamaa ja Ühendkuningriigi teadlased läbi uuringu, ajakirjas avaldatud Teadusrobootika, mis näitas, mil määral on lapsed vastuvõtlikud robotite kaaslaste survele. TLDR-versioon: vastus sellele vanale vanemlikule küsimusele: "Kui kõik teie sõbrad käskisid teil kaljult alla hüpata, kas teeksite seda?" võib olla "Muidugi. Kui kõik mu sõbrad oleksid robotid.

Test taasesitas kuulsa 1951. aasta katse, mille algatas Poola psühholoog Solomon Asch. Eksperiment näitas, kuidas grupimõtlemise surve võib inimesi mõjutada, isegi kui see puutub kokku teabega, mille kohta nad teavad, et see on õige. Aschi katsetes koguti kolledži üliõpilaste rühm kokku ja neile näidati kahte kaarti. Vasakpoolsel kaardil oli pilt ühest vertikaalsest joonest. Parempoolsel kaardil oli kolm erineva pikkusega rida. Seejärel küsis eksperimenteerija osalejatelt, milline rida paremal kaardil vastab vasakpoolsel kaardil näidatud joone pikkusele.

Siiani nii otsekohene. Kus aga asi vildakamaks läks, oli grupi koosseis. Vaid üks inimene grupist oli tõeline osaleja, teised aga kõik näitlejad, kellele oli enne tähtaega öeldud, mida öelda. Katse eesmärk oli testida, kas tegelik osaleja läheb ülejäänud rühmaga kaasa, kui nad üksmeelselt vale vastuse andsid. Nagu selgus, teeks seda enamik. Vastastikune surve tähendab, et enamik inimesi eitab teavet, mis on selgelt õige, kui see tähendab enamuse arvamusega vastavust.

Eksperimendi 2018. aasta remiksis kasutati sama põhimõtet – ainult ülikooliealiste eakaaslaste rühma asemel oli “päris osalejaks” seitsme- kuni üheksa-aastane laps. “Näitlejaid” mängisid kolm robotit, kes olid programmeeritud andma valet vastust. 43 vabatahtlikust koosnevas valimis andis 74 protsenti lastest sama vale vastuse kui robotid. Tulemused näitavad, et enamik selles vanuses lapsi kohtleb robotite survet samamoodi nagu nende lihast ja luust eakaaslaste survet.

"Selles vanuses laste eriline asi on see, et nad on ikka veel vanuses, kus nad peatavad uskmatuse," Tony Belpaeme, rääkis uuringut läbi viia aidanud intelligentsete ja autonoomsete juhtimissüsteemide professor Digital Trendsile. „Nad hakkavad mänguasjadega mängima ja usuvad endiselt, et nende tegevusfiguurid või nukud on tõelised; nad vaatavad ikka nukuetendust ja usuvad tõesti, mis toimub; nad võivad endiselt [jõuluvana] uskuda. See on sama asi, kui nad vaatavad robotit: nad ei näe elektroonikat ja plastikut, vaid pigem sotsiaalset tegelast.

Huvitav on see, et katse vastandas seda täiskasvanute vastusele. Erinevalt lastest ei mõjutanud täiskasvanud robotite vead. "Kui täiskasvanu nägi, et robot andis vale vastuse, heitis ta sellele hämmingus pilgu ja andis siis õige vastuse," jätkas Belpaeme.

Nii et siis pole põhjust muretseda? Niikaua kui me ei lase lastel roboteid, mis on programmeeritud halvasti reageerima, kätte saama, peaks kõik korras olema, eks? Ära ole nii kiire.

Kas täiskasvanud on tõesti nii palju targemad?

Nagu Belpaeme tunnistas, oli see ülesanne kavandatud nii lihtsaks, et vastus ei olnud ebaselge. Tegelik maailm on teistsugune. Kui mõtleme masinatele kergesti üle antavatele tööliikidele, on need sageli ülesanded, mida me inimestena ei suuda alati täiuslikult täita.

Võib juhtuda, et ülesanne on imelihtne, kuid masin suudab seda oluliselt kiiremini täita kui meie. Või võib see olla keerulisem ülesanne, mille puhul arvutil on juurdepääs palju suurematele andmetele kui meil. Sõltuvalt käsiloleva töö võimalikust mõjust pole üllatav, et paljud meist poleks masina parandamise pärast rahul.

Kas haiglaõde oleks õnnelik selle tühistamise üle FDA poolt heaks kiidetud algoritm mis võib aidata seada patsiendi tervise prioriteete, jälgides elulisi näitajaid ja saates seejärel meditsiinipersonalile hoiatusi? Või oleks juhil mugav juhita autolt rooli võtta, kui ta tegeleb eriti keerulise teestsenaariumiga? Või isegi piloot, kes ületab autopiloodi, sest arvab, et tehakse vale otsus? Kõigil neil juhtudel tahaksime arvata, et vastus on "jah". Kuid igasugustel põhjustel ei pruugi see olla reaalsus.

Nicholas Carr kirjutab sellest oma 2014. aasta raamatus Klaaspuur: kuhu automaatika meid viib. See, kuidas ta seda kirjeldab, rõhutab ebaselgust, mida tegelikel automatiseerimisjuhtumitel on, kus probleemid on palju keerukamad kui kaardil oleva rea ​​pikkus, masinad on palju nutikamad ja tulemus on potentsiaalselt parem ülioluline.

„Kuidas mõõta jõupingutuste ja kaasatuse vähenemise või tegutsemisvõime ja autonoomia vähenemise või oskuste vähese halvenemise kulusid? Sa ei saa," kirjutab ta. "Need on sellised varjulised, mittemateriaalsed asjad, mida hindame harva enne, kui need on kadunud, ja isegi siis võib meil olla raskusi kahjude konkreetse väljendamisega."

Sellist laadi sotsiaalsed robotid, mille kohta Belpaeme uurimistöös teoretiseerib, ei ole veel peavoolud, kuid juba on olemas illustratsioone mõnede nende mõistatuste kohta. Näiteks avab Carr oma raamatu, mainides Föderaalse Lennuameti memo, milles märgiti, kuidas piloodid peaksid sellega kaasnevate ohtude tõttu autopiloodil lennates vähem aega kulutama. See põhines õnnetuste andmete analüüsil, mis näitas, et piloodid toetuvad sageli liiga palju arvutisüsteemidele.

Sarnane juhtum hõlmas 2009. aasta kohtuasja, milles naine nimega Lauren Rosenberg esitas Google'i vastu hagi pärast seda, kui teile soovitati kõndida mööda marsruuti, mis suundus ohtlikku liiklusesse. Kuigi juhtum visati kohtust välja, näitab see, et inimesed alistavad oma terve mõistuse, uskudes, et masinintelligentsil on rohkem intelligentsust kui meil.

Iga laeva kohta on laevahukk

Lõppkokkuvõttes, nagu Belpaeme tunnistab, on probleem selles, et mõnikord tahame otsustamise masinatele üle anda. Robotid lubage teha töid, mis on igavad, määrdunud ja ohtlikud - ja kui me peame iga otsuse ära arvama, pole need tegelikult tööd säästvad seadmed, mida on lubatud. Kui me lõpuks kutsume oma koju roboteid, siis tahame, et nad saaksid iseseisvalt tegutseda ja sellega kaasneb teatud usaldus.

„Teile sotsiaalset survet avaldavad robotid võivad olla hea asi; see ei pea olema pahaendeline,” jätkas Belpaeme. „Kui teil on tervishoius või hariduses kasutatavaid roboteid, siis soovite, et need saaksid teid mõjutada. Näiteks kui soovite kaalust alla võtta, võiksite anda kaheks kuuks kaalulangetamise roboti, mis monitorid oma kalorite tarbimist ja julgustab teid rohkem treenima. Tahad, et selline robot oleks veenev ja mõjutaks sind. Kuid mis tahes tehnoloogiat, mida saab kasutada heaks, saab kasutada ka kurja jaoks.

Mis on sellele vastus? Selliseid küsimusi arutatakse igal üksikjuhul eraldi. Kui halb kaalub lõpuks üles hea, ei tõuse tehnoloogia nagu sotsiaalsed robotid kunagi lendu. Kuid on oluline, et võtaksime õigeid õppetunde sellistest uuringutest nagu robotite poolt esile kutsutud kaaslaste surve. Ja see ei ole tõsiasi, et me oleme lastest palju targemad.

Toimetajate soovitused

• Automatiseerimise tulevik: Robotid tulevad, kuid nad ei võta teie tööd
• Need robotid hävitavad umbrohu surnuks, nii et põllumehed ei vaja keemilisi herbitsiide