За да променим леко заглавието на добре познато телевизионно предаване: Децата правят най-скъпите неща. Наскоро изследователи от Германия и Обединеното кралство направиха проучване, публикувани в списанието Научна роботика, което демонстрира степента, в която децата са податливи на натиск от страна на роботите. TLDR версия: отговорът на онзи стар родителски въпрос: „Ако всичките ви приятели ви кажат да скочите от скала, бихте ли?“ може да е „Разбира се. Ако всичките ми приятели бяха роботи.
Съдържание
- Наистина ли възрастните са много по-умни?
- За всеки кораб има корабокрушение
Тестът възпроизвежда известен експеримент от 1951 г., въведен от полския психолог Соломон Аш. Експериментът демонстрира как хората могат да бъдат повлияни от натиска на груповото мислене, дори когато това противоречи на информацията, за която знаят, че е вярна. В експериментите на Аш група студенти бяха събрани заедно и им бяха показани две карти. Картата отляво показва изображение на една вертикална линия. Картата вдясно показваше три реда с различна дължина. След това експериментаторът попита участниците коя линия на дясната карта съответства на дължината на линията, показана на лявата карта.
Препоръчани видеоклипове
„Специалното при тази възрастова група деца е, че те все още са на възраст, в която ще престанат да вярват.“
Дотук всичко е ясно. Там, където нещата станаха по-заобиколни обаче, беше съставът на групата. Само един човек от групата беше истински участник, докато останалите бяха актьори, на които беше казано какво да кажат предварително. Експериментът трябваше да провери дали истинският участник ще се съгласи с останалата част от групата, когато те единодушно дадат грешен отговор. Както се оказа, повечето биха го направили. Натискът от страна на връстници означава, че мнозинството от хората ще отрекат информация, която е ясно вярна, ако това означава съобразяване с мнението на мнозинството.
Свързани
- Развиващи се, самовъзпроизвеждащи се роботи са тук, но не се тревожете за въстание
- Роботите не идват да ви откраднат работата. Те идват да го подобрят
В ремикса на експеримента от 2018 г. беше използван същият принцип — само че вместо група връстници на колежанска възраст, „истинският участник“ беше дете на възраст от седем до девет години. „Актьорите“ бяха изиграни от трима робота, програмирани да дават грешен отговор. В извадка от 43 доброволци 74 процента от децата са дали същия неправилен отговор като роботите. Резултатите показват, че повечето деца на тази възраст ще се отнасят към натиска от страна на роботите по същия начин, както към натиска на връстниците от техните връстници от плът и кръв.
„Специалното при тази възрастова група деца е, че те все още са на възраст, в която ще престанат да вярват,“ Тони Белпаеме, професор по интелигентни и автономни системи за управление, който помогна за провеждането на проучването, каза за Digital Trends. „Те ще си играят с играчки и ще вярват, че техните фигурки или кукли са истински; те пак ще гледат куклено представление и наистина ще вярват какво се случва; те все още може да вярват в [Дядо Коледа]. Същото е, когато гледат робот: те не виждат електроника и пластмаса, а по-скоро социален характер.
Интересното е, че експериментът контрастира това с реакцията на възрастните. За разлика от децата, възрастните не се повлияха от грешките на роботите. „Когато един възрастен видя робота да дава грешен отговор, те го погледнаха озадачено и след това дадоха правилния отговор“, продължи Белпаеме.
Значи няма за какво да се притеснявате тогава? Докато спрем децата да се докопават до роботи, програмирани да дават лоши отговори, всичко трябва да е наред, нали? Не бързайте толкова.
Наистина ли възрастните са много по-умни?
Както Белпаеме призна, тази задача е проектирана да бъде толкова проста, че няма несигурност какъв може да бъде отговорът. Реалният свят е различен. Когато мислим за видовете задачи, които лесно се предават на машини, това често са задачи, които ние, като хора, не винаги сме в състояние да изпълняваме перфектно.
Тази задача беше проектирана да бъде толкова проста, че нямаше несигурност какъв може да бъде отговорът.
Възможно е задачата да е невероятно проста, но машината да я изпълни значително по-бързо от нас. Или може да е по-сложна задача, при която компютърът има достъп до много по-големи количества данни от нас. В зависимост от потенциалното въздействие на работата, не е изненадващо, че много от нас биха били недоволни от коригирането на машина.
Дали една медицинска сестра в болница ще се радва ли да отмени Одобрен от FDA алгоритъм което може да помогне за приоритизиране на здравето на пациентите чрез наблюдение на жизнените показатели и след това изпращане на предупреждения до медицинския персонал? Или шофьорът ще се чувства удобно да хване волана от автомобил без водач, когато се занимава с особено сложен пътен сценарий? Или дори пилот, който отменя автопилота, защото смятат, че се взема грешно решение? Във всички тези случаи бихме искали да мислим, че отговорът е „да“. По най-различни причини обаче това може да не е реалност.
Никълъс Кар пише за това в своята книга от 2014 г Стъклената клетка: накъде ни отвежда автоматизацията. Начинът, по който той го описва, подчертава вида неяснота, която включват случаите на автоматизация в реалния живот, къде са проблемите много по-сложни от дължината на ред на карта, машините са много по-умни и резултатът е потенциално по-голям от решаващо значение.
„Как измервате цената на ерозията на усилията и ангажираността, или отслабването на свободата на избор и автономията, или едва доловимо влошаване на уменията? Не можете“, пише той. „Това са вид сенчести, нематериални неща, които рядко оценяваме, докато не изчезнат, и дори тогава може да имаме проблеми да изразим загубите в конкретни термини.“
„Това са видовете сенчести, нематериални неща, които рядко оценяваме, докато не изчезнат.“
Социалните роботи от вида, за който Белпаеме теоретизира в изследователската статия, все още не са масови, но вече има илюстрации на някои от тези главоблъсканици в действие. Например Кар започва книгата си със споменаване на меморандум на Федералната авиационна администрация, в който се отбелязва как пилотите трябва да прекарват по-малко време, летейки на автопилот, поради рисковете, които това създава. Това се основава на анализ на данни за катастрофи, показващ, че пилотите често разчитат твърде много на компютъризирани системи.
Подобен случай включва съдебно дело от 2009 г., в което жена на име Лорън Розенберг заведе дело срещу Google след като е бил посъветван да върви по маршрут, който води до опасен трафик. Въпреки че делото беше отхвърлено от съда, това показва, че хората ще пренебрегнат собствения си здрав разум с убеждението, че машинният интелект има повече интелект от нас.
За всеки кораб има корабокрушение
В крайна сметка, както Белпаеме признава, проблемът е, че понякога искаме да предадем вземането на решения на машините. роботи обещайте да вършите работата, която е скучна, мръсна и опасна — и ако трябва да преценим всяко решение, те всъщност не са устройствата, които спестяват труд, които са обещани. Ако в крайна сметка възнамеряваме да поканим роботи в дома си, ще искаме те да могат да действат автономно и това ще включва определено ниво на доверие.
„Роботите, упражняващи социален натиск върху вас, могат да бъдат нещо добро; не е нужно да е зловещо - продължи Белпаеме. „Ако имате роботи, използвани в здравеопазването или образованието, искате те да могат да ви влияят. Например, ако искате да отслабнете, можете да получите робот за отслабване за два месеца, който монитори вашия калориен прием и ви насърчава да правите повече упражнения. Искате робот като този да бъде убедителен и да ви влияе. Но всяка технология, която може да се използва за добро, може да се използва и за зло.
Какъв е отговорът на това? Въпроси като този ще се обсъждат за всеки отделен случай. Ако лошото в крайна сметка надделее над доброто, технологии като социалните роботи никога няма да излетят. Но е важно да вземем правилните поуки от проучвания като това за индуцирания от роботи натиск от връстници. И не е фактът, че сме много по-умни от децата.
Препоръки на редакторите
- Бъдещето на автоматизацията: Роботите идват, но те няма да вземат вашата работа
- Тези роботи унищожават плевелите до смърт, така че фермерите нямат нужда от химически хербициди
