Трохи видозмінивши назву відомого телешоу: Kids do darnest things. Нещодавно дослідники з Німеччини та Великобританії провели дослідження, опубліковано в журн Наукова робототехніка, що продемонструвало, наскільки діти сприйнятливі до тиску ровесників. Версія TLDR: відповідь на старе батьківське запитання: «Якби всі твої друзі сказали тобі стрибнути зі скелі, ти б це зробив?» цілком може бути «Звичайно. Якби всі мої друзі були роботами».
Зміст
- Чи справді дорослі настільки розумніші?
- Для кожного корабля є корабельна аварія
Тест відтворював відомий експеримент 1951 року, започаткований польським психологом Соломоном Ашем. Експеримент продемонстрував, як на людей може вплинути тиск групового мислення, навіть якщо це суперечить інформації, яку вони знають як правильну. В експериментах Аша групу студентів коледжу зібрали разом і показали дві картки. Картка ліворуч відображала зображення однієї вертикальної лінії. Картка праворуч відображала три лінії різної довжини. Потім експериментатор запитав учасників, яка лінія на правій картці відповідає довжині лінії, зображеної на лівій картці.
Рекомендовані відео
«Особливість дітей цього віку полягає в тому, що вони все ще в тому віці, коли вони можуть припинити недовіру».
Поки що все просто. Однак де все стало більш підступним, так це у складі групи. Лише одна особа з групи була справжнім учасником, тоді як усі інші були акторами, яким заздалегідь сказали, що говорити. Експеримент полягав у тому, щоб перевірити, чи реальний учасник погодиться з рештою групи, коли вони одноголосно дадуть неправильну відповідь. Як виявилося, більшість би. Тиск з боку однолітків означає, що більшість людей буде заперечувати інформацію, яка є явно правильною, якщо це означає відповідність думці більшості.
Пов'язані
- Роботи, що розвиваються, самовідтворюються, але не турбуйтеся про повстання
- Роботи не приходять, щоб вкрасти вашу роботу. Вони приходять, щоб покращити його
У реміксі експерименту 2018 року був використаний той же принцип — тільки замість групи однолітків коледжу «реальним учасником» стала дитина семи-дев’яти років. «Акторів» грали три роботи, запрограмовані на неправильну відповідь. У вибірці з 43 добровольців 74 відсотки дітей дали таку саму неправильну відповідь, що й роботи. Результати показують, що більшість дітей цього віку сприймуть тиск з боку роботів так само, як тиск з боку однолітків з боку однолітків із плоті.
«Особливість цього вікового діапазону дітей полягає в тому, що вони все ще в тому віці, коли вони можуть припинити недовіру», Тоні Белпаєм, професор інтелектуальних і автономних систем управління, який допоміг провести дослідження, розповів Digital Trends. «Вони гратимуться іграшками і все ще вірять, що їхні фігурки чи ляльки справжні; вони все одно дивитимуться лялькову виставу і справді вірять у те, що відбувається; вони все ще можуть вірити в [Діда Мороза]. Те ж саме, коли вони дивляться на робота: вони бачать не електроніку та пластик, а радше соціальний персонаж».
Цікаво, що експеримент порівняв це з відповіддю дорослих. На відміну від дітей, дорослі не вплинули на помилки роботів. «Коли дорослий побачив, що робот дає неправильну відповідь, він спантеличено подивився на нього, а потім дав правильну відповідь», — продовжив Белпаеме.
Тож нема про що хвилюватися? Поки ми не даємо дітям отримати в руки роботів, запрограмованих давати погані відповіді, все має бути добре, чи не так? Не поспішай.
Чи справді дорослі настільки розумніші?
Як визнав Бельпаєм, це завдання було розроблено настільки простим, що не було невизначеності щодо відповіді. Реальний світ інший. Коли ми думаємо про типи завдань, які легко доручаються машинам, це часто завдання, які ми, як люди, не завжди можемо виконати ідеально.
Це завдання було розроблено настільки простим, що не було невизначеності щодо відповіді.
Можливо, завдання неймовірно просте, але машина може виконати його значно швидше, ніж ми. Або це може бути більш складне завдання, у якому комп’ютер має доступ до значно більших обсягів даних, ніж ми. Залежно від потенційного впливу поточної роботи, не дивно, що багато хто з нас були б незадоволені виправленням машини.
Чи буде медсестра в лікарні рада відхилити Схвалений FDA алгоритм які можуть допомогти визначити пріоритети щодо здоров’я пацієнтів шляхом моніторингу життєво важливих показників і надсилання сповіщень медичному персоналу? Або водієві буде зручно сісти за кермо безпілотного автомобіля, коли він має справу з особливо складною ситуацією на дорозі? Або навіть пілот, який перекриває автопілот, тому що вважає, що приймається неправильне рішення? У всіх цих випадках ми хотіли б думати, що відповідь буде «так». Проте з різних причин це може не бути реальністю.
Про це пише Ніколас Карр у своїй книзі 2014 року Скляна клітка: куди нас веде автоматизація. Те, як він це описує, підкреслює різновид двозначності реальних випадків автоматизації, де є проблеми набагато складніше, ніж довжина рядка на картці, машини набагато розумніші, а результат потенційно кращий вирішальне значення.
«Як ви вимірюєте витрати, пов’язані з розмиванням зусиль і залученості, або ослабленням волі та самостійності, або незначним погіршенням навичок? Не можна», – пише він. «Це тіньові, нематеріальні речі, які ми рідко цінуємо, поки вони не зникнуть, і навіть тоді у нас можуть виникнути проблеми з виразом втрат конкретними словами».
«Це тіньові, нематеріальні речі, які ми рідко цінуємо, поки вони не зникнуть».
Соціальні роботи, про яких Бельпаєм теоретизує в дослідницькій статті, ще не є мейнстрімом, але вже є ілюстрації деяких із цих головоломок у дії. Наприклад, Карр починає свою книгу зі згадки про меморандум Федерального управління цивільної авіації, в якому зазначено, що пілоти повинні витрачати менше часу на політ на автопілоті через ризики, які це створює. Це ґрунтувалося на аналізі даних про катастрофи, який показав, що пілоти часто надто покладаються на комп’ютеризовані системи.
Подібний випадок стосувався судового процесу 2009 року, в якому брала участь жінка на ім’я Лорен Розенберг подав позов проти Google після того, як йому порадили йти пішки по маршруту, який веде до небезпечного руху. Незважаючи на те, що справу було відхилено в суді, це свідчить про те, що люди переважатимуть над власним здоровим глуздом, вірячи, що машинний інтелект має більше розуму, ніж ми.
Для кожного корабля є корабельна аварія
Зрештою, як визнає Belpaeme, проблема полягає в тому, що іноді ми хочемо передати прийняття рішень машинам. Роботи пообіцяти виконувати роботу, яка є нудною, брудною та небезпечною — і якщо нам доведеться переосмислювати кожне рішення, то насправді це не ті пристрої, які заощаджують робочу силу, як обіцяли. Якщо ми збираємося врешті-решт запросити роботів до нашого дому, ми хочемо, щоб вони могли діяти автономно, і це включатиме певний рівень довіри.
«Роботи, які чинять на вас соціальний тиск, можуть бути корисними; це не повинно бути зловісним, — продовжив Бельпаєм. «Якщо у вас є роботи, які використовуються в охороні здоров’я чи освіті, ви хочете, щоб вони могли впливати на вас. Наприклад, якщо ви хочете схуднути, вам можуть дати робота для схуднення на два місяці монітори споживання калорій і заохочує вас більше займатися спортом. Ви хочете, щоб такий робот був переконливим і впливав на вас. Але будь-яка технологія, яку можна використати на благо, також може бути використана на зло».
Яка відповідь на це? Такі питання обговорюватимуться в кожному конкретному випадку. Якщо погане зрештою переважить хороше, такі технології, як соціальні роботи, ніколи не запрацюють. Але важливо, щоб ми винесли правильні уроки з таких досліджень, як те, що стосується тиску з боку ровесників, спричиненого роботами. І не факт, що ми набагато розумніші за дітей.
Рекомендації редакції
- Майбутнє автоматизації: роботи приходять, але вони не заберуть вашу роботу
- Ці роботи знищують бур’яни до смерті, тому фермерам не потрібні хімічні гербіциди
