Robotit voivat painostaa lapsia, mutta älä ajattele hetkeäkään, että olemme immuuneja

Tunnetun TV-ohjelman otsikon muokkauksena: Lapset tekevät pahimpia asioita. Äskettäin saksalaiset ja brittiläiset tutkijat tekivät tutkimuksen, julkaistu lehdessä Tiederobotiikka, joka osoitti, missä määrin lapset ovat alttiita robottien vertaispaineelle. TLDR-versio: vastaus vanhaan vanhempien kysymykseen: "Jos kaikki ystäväsi käskivät sinua hyppäämään kalliolta, tekisitkö?" voi hyvinkin olla "Toki. Jos kaikki ystäväni olisivat robotteja."

Testi esitti uudelleen kuuluisan vuoden 1951 kokeen, jonka pioneeri oli puolalainen psykologi Solomon Asch. Kokeilu osoitti, kuinka ryhmäajattelun paineet voivat vaikuttaa ihmisiin, vaikka se näkisi heidän pitävän paikkansa tietoja. Aschin kokeissa joukko korkeakouluopiskelijoita koottiin yhteen ja heille näytettiin kaksi korttia. Vasemmalla olevassa kortissa oli kuva yhdestä pystysuorasta viivasta. Oikealla olevassa kortissa oli kolme eripituista riviä. Kokeen suorittaja kysyi sitten osallistujilta, mikä oikean kortin rivi vastasi vasemman kortin viivan pituutta.

Toistaiseksi niin suoraviivaista. Asiat muuttuivat kuitenkin mutkikkaammiksi ryhmän kokoonpanossa. Vain yksi henkilö ryhmästä oli aito osallistuja, kun taas muut olivat kaikki näyttelijöitä, joille oli kerrottu mitä sanoa etukäteen. Kokeessa testattiin, lähtisikö todellinen osallistuja muiden ryhmän mukana, kun he yksimielisesti antoivat väärän vastauksen. Kuten kävi ilmi, useimmat tekisivät. Vertaispaine tarkoittaa, että suurin osa ihmisistä kieltää tiedon, joka on selkeästi oikea, jos se tarkoittaa enemmistön mielipiteen mukautumista.

Kokeilun vuoden 2018 remixissä käytettiin samaa periaatetta – vain korkeakouluikäisten ikätovereiden ryhmän sijaan "todellinen osallistuja" oli 7-9-vuotias lapsi. "Näyttelijöitä" näytteli kolme robottia, jotka oli ohjelmoitu antamaan väärä vastaus. 43 vapaaehtoisen otoksessa 74 prosenttia lapsista antoi saman väärän vastauksen kuin robotit. Tulokset viittaavat siihen, että useimmat tämän ikäiset lapset kohtelevat robottien aiheuttamaa painetta samalla tavalla kuin vertaisten ikätovereidensa painetta.

"Erityinen asia tässä ikäryhmässä on se, että he ovat vielä iässä, jolloin he lakkaavat uskomasta." Tony Belpaeme, älykkäiden ja autonomisten ohjausjärjestelmien professori, joka auttoi tutkimuksen toteuttamisessa, kertoi Digital Trendsille. ”He leikkivät leluilla ja uskovat edelleen, että heidän toimintahahmonsa tai nukkensa ovat todellisia; he katsovat edelleen nukketeatteria ja uskovat todella, mitä tapahtuu; he saattavat silti uskoa [joulupukkiin]. Se on sama asia, kun he katsovat robottia: he eivät näe elektroniikkaa ja muovia, vaan sosiaalisen luonteen."

Mielenkiintoista on, että kokeilu erotti tämän aikuisten vastauksen kanssa. Toisin kuin lapset, robottien virheet eivät vaikuttaneet aikuisiin. "Kun aikuinen näki robotin antavan väärän vastauksen, hän katsoi sitä ymmällään ja antoi sitten oikean vastauksen", Belpaeme jatkoi.

Ei siis mitään hätää? Niin kauan kuin emme saa lapsia käsiinsä robotteja, jotka on ohjelmoitu antamaan huonoja vastauksia, kaiken pitäisi olla kunnossa, eikö niin? Älä ole niin nopea.

Ovatko aikuiset todella niin paljon älykkäämpiä?

Kuten Belpaeme myönsi, tämä tehtävä oli suunniteltu niin yksinkertaiseksi, ettei ollut epävarmuutta siitä, mikä vastaus voisi olla. Todellinen maailma on erilainen. Kun ajattelemme, millaisia ​​töitä helposti luovutetaan koneille, nämä ovat usein tehtäviä, joita emme ihmisinä aina pysty suorittamaan täydellisesti.

Voi olla, että tehtävä on uskomattoman yksinkertainen, mutta kone pystyy suorittamaan sen huomattavasti nopeammin kuin me. Tai se voi olla monimutkaisempi tehtävä, jossa tietokoneella on pääsy paljon suurempiin tietomääriin kuin meillä. Riippuen käsillä olevan työn mahdollisista vaikutuksista, ei ole yllätys, että monet meistä olisivat tyytymättömiä koneen korjaamiseen.

Olisiko sairaanhoitaja sairaalassa iloinen ohittamisesta FDA: n hyväksymä algoritmi mikä voi auttaa priorisoimaan potilaan terveyttä seuraamalla elintoimintoja ja lähettämällä hälytyksiä hoitohenkilökunnalle? Vai olisiko kuljettaja mukava ottaa ratin kuljettajattomalta autolta erityisen monimutkaisessa tieskenaariossa? Tai jopa lentäjä, joka ohittaa autopilotin, koska he ajattelevat, että on tehty väärä päätös? Kaikissa näissä tapauksissa haluaisimme ajatella, että vastaus on "kyllä". Kaikenlaisista syistä se ei kuitenkaan välttämättä ole todellisuutta.

Nicholas Carr kirjoittaa tästä vuoden 2014 kirjassaan Lasihäkki: minne automaatio vie meidät. Tapa, jolla hän kuvailee sitä, korostaa sellaista epäselvyyttä, joka liittyy tosielämän automaatiotapauksiin, joissa ongelmat ovat paljon monimutkaisempia kuin kortin rivin pituus, koneet ovat paljon älykkäämpiä ja lopputulos on mahdollisesti enemmän ratkaiseva.

”Miten voit mitata ponnistelun ja sitoutumisen heikkenemisen tai tahdonvapauden ja autonomian heikkenemisen tai taitojen hienovaraisen heikkenemisen kustannuksia? Et voi", hän kirjoittaa. "Nämä ovat sellaisia ​​hämäriä, aineettomia asioita, joita arvostamme harvoin ennen kuin ne ovat kadonneet, ja silloinkin meillä voi olla vaikeuksia ilmaista tappioita konkreettisesti."

Sellaiset sosiaaliset robotit, joista Belpaeme teoretisoi tutkimuspaperissa, eivät vielä ole valtavirtaa, mutta joistakin näistä hämmennyksistä on jo esimerkkejä toiminnassa. Esimerkiksi Carr avaa kirjansa mainitsemalla Federal Aviation Administrationin muistion, jossa todettiin, kuinka lentäjien tulisi käyttää vähemmän aikaa lentämiseen automaattiohjauksella tämän aiheuttamien riskien vuoksi. Tämä perustui törmäystietojen analyysiin, joka osoitti, että lentäjät luottavat usein liian voimakkaasti tietokonejärjestelmiin.

Samanlainen tapaus koski vuoden 2009 oikeusjuttua, jossa nainen nimeltä Lauren Rosenberg nosti kanteen Googlea vastaan sen jälkeen, kun häntä kehotettiin kävelemään reittiä, joka johti vaaralliseen liikenteeseen. Vaikka tapaus hylättiin oikeudesta, se osoittaa, että ihmiset ohittavat oman maalaisjärkensä uskoen, että koneälyllä on enemmän älyä kuin meillä.

Jokaista laivaa kohti on haaksirikko

Loppujen lopuksi, kuten Belpaeme myöntää, ongelma on se, että joskus haluamme siirtää päätöksenteon koneille. Robotit lupaa tehdä työt, jotka ovat tylsiä, likaisia ​​ja vaarallisia - ja jos meidän on arvattava jokainen päätös, ne eivät todellakaan ole niitä työtä säästäviä laitteita, joita on luvattu. Jos aiomme lopulta kutsua robotteja kotiimme, haluamme heidän pystyvän toimimaan itsenäisesti, ja siihen liittyy tietty luottamus.

”Robotit, jotka kohdistavat sinuun sosiaalista painetta, voivat olla hyvä asia; sen ei tarvitse olla synkkää", Belpaeme jatkoi. ”Jos sinulla on terveydenhuollossa tai koulutuksessa käytettyjä robotteja, haluat niiden pystyvän vaikuttamaan sinuun. Jos esimerkiksi haluat laihtua, sinulle voidaan antaa laihdutusrobotti kahdeksi kuukaudeksi monitorit kalorien saanti ja kannustaa sinua lisäämään liikuntaa. Haluat sellaisen robotin vakuuttavan ja vaikuttavan sinuun. Mutta mitä tahansa tekniikkaa, jota voidaan käyttää hyvään, voidaan käyttää myös pahaan."

Mikä on vastaus tähän? Tällaisista kysymyksistä keskustellaan tapauskohtaisesti. Jos paha lopulta painaa enemmän kuin hyvä, sosiaalisten robottien kaltainen teknologia ei koskaan pääse nousuun. Mutta on tärkeää, että otamme oikeat oppitunnit tutkimuksista, kuten robotin aiheuttamasta vertaispaineesta. Eikä se ole tosiasia, että olemme niin paljon älykkäämpiä kuin lapset.

Toimittajien suositukset

• Automaation tulevaisuus: Robotteja tulee, mutta ne eivät vie työtäsi
• Nämä robotit torjuvat rikkaruohoja kuoliaaksi, jotta maanviljelijät eivät tarvitse kemiallisia rikkakasvien torjunta-aineita