Efeitos negativos da inteligência artificial

O desenvolvimento de máquinas capazes de imitar o pensamento humano, superá-lo ou até mesmo se tornar autoconsciente é uma premissa bem explorada dentro da ficção científica. No cenário tecnológico de hoje, o advento da inteligência artificial - IA - pode se tornar um dos maiores realizações, mas como o renomado físico Stephen Hawking advertiu, "também pode ser a última, a menos que aprendamos a evitar o riscos. "

A tecnologia sofisticada continua a incorporar-se na sociedade moderna, de assistentes pessoais digitais e algoritmos de pesquisa inteligente no Google, a carros autônomos experimentais. A inteligência artificial é definida como um computador ou máquina capaz de realizar "deduções e inferências lógicas" e "tomar decisões com base na experiência anterior ou em informações insuficientes ou conflitantes. "Os níveis de tecnologia atuais já apresentam dilemas éticos assustadores, como como se drones militares ou outros sistemas robóticos deveriam ser projetados para usar força letal contra alvos sem humanos diretos envolvimento. Atualmente, as máquinas programadas podem reagir com maior velocidade e precisão do que um operador humano, mas ainda são capazes de erros grosseiros sem preconceitos humanos e intuição para orientar a tomada de decisão. Esses problemas serão intensificados se a IA for construída em tais sistemas, introduzindo motivos independentes que podem ser completamente imprevisíveis ou em conflito direto com as intenções humanas.

A incorporação da inteligência artificial mudará drasticamente o conceito de trabalho da humanidade. Desde a Era Industrial, a tecnologia de qualquer tipo inevitavelmente torna muitos empregos obsoletos, ao mesmo tempo que cria novas oportunidades em campos emergentes. A IA oferece um futuro no qual as máquinas realizam tarefas em nosso lugar, permitindo que as pessoas tenham uma vida de lazer. O economista John Maynard Keynes foi tão longe - em 1930 - que previu uma semana de trabalho de 15 horas em 2030. Nos níveis atuais da população, todos os aspectos da sociedade exigiriam uma reformulação drástica, tanto cultural quanto economicamente, se a automação criasse uma mudança tão dramática na forma como nossos dias são passados.

Uma ameaça significativa da inteligência artificial é se ela opta por usar habilidades já aprimoradas para criar máquinas de poder cognitivo ainda maior. Gerações avançadas de IA poderiam operar tão acima dos seres humanos quanto nós fazemos acima dos animais, e muito possivelmente evoluir além da capacidade humana de entendê-la. Neste resultado - referido como a Singularidade pelo Dr. Vernor Vinge para o Simpósio VISION-21 do NASA Lewis Research Center em 1993 - o as regras para a vida como a conhecemos mudariam para sempre, pois não há como prever se a IA decidiria coexistir ou ser hostil à humanidade.

Hawking enfatiza que qualquer discussão séria sobre inteligência artificial deve levar em consideração as ameaças potenciais e como gerenciá-las, e clama por pesquisas institucionais mais críticas, já que os recursos corporativos crescentes são dedicados a realizar avanços na criação de inteligência. Vinge postula que a IA pode ser rigidamente regulada por regras que efetivamente determinam o benevolente comportamento em robôs autônomos, como imaginado pelo escritor de ficção científica Isaac Asimov, Três Leis da Robótica. Vinge também adverte que a competição humana natural provavelmente levará ao desenvolvimento de modelos irrestritos de IA, então mesmo essas salvaguardas podem não ser suficientes para controlar a Singularidade, caso ela ocorra.