Негативные эффекты искусственного интеллекта

Создание машин, способных имитировать человеческое мышление, превосходить его или даже осознавать себя, является хорошо изученной предпосылкой научной фантастики. В сегодняшнем технологическом ландшафте появление искусственного интеллекта - ИИ - может стать одним из величайших достижений человечества. достижений, но, как предупреждал известный физик Стивен Хокинг, «это может быть и последнее, если мы не научимся избегать риски ".

Сложные технологии продолжают внедряться в современное общество, от цифровых персональных помощников и алгоритмов интеллектуального поиска в Google до экспериментальных беспилотных автомобилей. Искусственный интеллект определяется как компьютер или машина, способная выполнять «логические выводы и умозаключения» и «принимать решения. основанный на прошлом опыте или недостаточной или противоречивой информации. "Текущий уровень технологий уже создает пугающие этические дилеммы, такие как о том, должны ли военные дроны или другие роботизированные системы быть разработаны для использования смертоносной силы против целей без непосредственного вмешательства человека. участие. В настоящее время запрограммированные машины могут реагировать с большей скоростью и точностью, чем человек-оператор, но все же способны совершать грубые ошибки без человеческих предубеждений и интуиции для принятия решений. Эти проблемы усугубятся, если ИИ будет встроен в такие системы, привнося независимые мотивы, которые могут быть совершенно непредсказуемыми или прямо противоречащими человеческим намерениям.

Внедрение искусственного интеллекта радикально изменит представление человечества о работе. Начиная с индустриальной эпохи, любые технологии неизбежно делают многие рабочие места устаревшими, создавая новые возможности в новых областях. ИИ предлагает будущее, в котором машины выполняют задачи вместо нас, позволяя людям заниматься досугом. Экономист Джон Мейнард Кейнс зашел так далеко - еще в 1930 году - предсказал, что к 2030 году рабочая неделя составит 15 часов. При нынешнем уровне населения все аспекты жизни общества потребовали бы радикального переосмысления как в культурном, так и в экономическом плане, если бы автоматизация произвела такой резкий сдвиг в том, как мы проводим наши дни.

Одна из серьезных угроз искусственного интеллекта заключается в том, решит ли он использовать уже расширенные возможности для создания машин с еще большей когнитивной способностью. Развитые поколения искусственного интеллекта могут действовать так же высоко, как и мы, над людьми, и даже, вполне возможно, развиваться дальше, чем человеческая способность понять это. В этом результате - названном Сингулярностью доктором Вернором Винджем на симпозиуме VISION-21 исследовательского центра NASA Lewis в 1993 году - правила жизни, какими мы знаем, изменится навсегда, поскольку невозможно предсказать, решит ли ИИ сосуществовать или будет враждебно настроен по отношению к человечеству.

Хокинг подчеркивает, что любое серьезное обсуждение искусственного интеллекта должно принимать во внимание потенциальные угрозы и способы управления ими. призывает к более критическим институциональным исследованиям, поскольку растущие корпоративные ресурсы направляются на реализацию прорывов в создании искусственных интеллект. Виндж постулирует, что ИИ можно жестко регулировать правилами, которые фактически жестко закрепляют доброжелательность. в автономных роботов, как это сформулировал писатель-фантаст Айзек Азимов в книге "Три закона развития". Робототехника. Виндж также предупреждает, что естественная человеческая конкуренция, вероятно, приведет к развитию неограниченных моделей ИИ, поэтому даже таких мер предосторожности может быть недостаточно для контроля Сингулярности, если она произойдет.