Se os indivíduos que estão na vanguarda da tecnologia de inteligência artificial estão comentando sobre o efeitos potencialmente catastróficos de sistemas de IA altamente inteligentes, provavelmente é sensato sentar e tomar perceber.
Há apenas alguns meses, Geoffrey Hinton, um homem considerado um dos “padrinhos” da IA por seu trabalho pioneiro na área, disse que o rápido ritmo de desenvolvimento da tecnologia significava que era "não inconcebível" que a IA superinteligente — considerada superior à mente humana — pode acabar acabando com a humanidade.
Vídeos recomendados
E Sam Altman, CEO da OpenAI, a empresa por trás o chatbot viral ChatGPT, admitiu estar “um pouco assustado” com os efeitos potenciais de sistemas avançados de IA na sociedade.
Relacionado
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
- O tráfego do site ChatGPT caiu pela primeira vez
- Ensinei o ChatGPT a me ensinar jogos de tabuleiro e agora nunca mais voltarei
Altman está tão preocupado que na quarta-feira sua empresa anunciou a criação de uma nova unidade chamada Superalinhamento destinado a garantir que a IA superinteligente não acabe causando o caos ou algo distante pior.
“A superinteligência será a tecnologia de maior impacto que a humanidade já inventou e pode nos ajudar a resolver muitos dos problemas mais importantes do mundo”, disse. OpenAI disse em um post apresentando a nova iniciativa. “Mas o vasto poder da superinteligência também pode ser muito perigoso e pode levar ao enfraquecimento da humanidade ou até mesmo à extinção humana.”
A OpenAI disse que, embora a IA superinteligente possa parecer distante, ela acredita que pode ser desenvolvida até 2030. E admite prontamente que, no momento atual, não existe nenhum sistema “para dirigir ou controlar uma IA potencialmente superinteligente e impedir que ela se torne desonesta”.
Para lidar com a situação, a OpenAI quer construir um “pesquisador de alinhamento automatizado de nível humano” que realizaria verificações de segurança em um IA superinteligente, acrescentando que o gerenciamento desses riscos também exigirá novas instituições de governança e solução do problema da superinteligência alinhamento.
Para que o superalinhamento tenha efeito, a OpenAI precisa montar uma equipe de ponta com os principais pesquisadores e engenheiros de aprendizado de máquina.
A empresa parece muito franca sobre seu esforço, descrevendo-o como uma “meta incrivelmente ambiciosa”, ao mesmo tempo em que admite que não é "garantido que terá sucesso". Mas acrescenta que é “otimista que um esforço concentrado e concentrado possa resolver isso problema."
Novas ferramentas de IA como o ChatGPT da OpenAI e o Bard do Google, entre muitas outras, são tão revolucionárias que os especialistas têm certeza que mesmo nesse nível pré-superinteligência, o local de trabalho e a sociedade em geral enfrentam mudanças fundamentais no próximo prazo.
É por isso que os governos de todo o mundo estão se esforçando para recuperar o atraso, movendo-se apressadamente para impor regulamentações sobre a indústria de IA em rápido desenvolvimento em uma tentativa de garantir que a tecnologia seja implantada de maneira segura e responsável maneiras. No entanto, a menos que um único órgão seja formado, cada país terá suas próprias opiniões sobre a melhor forma de usar a tecnologia, o que significa que esses regulamentos podem variar amplamente e levar a resultados marcadamente diferentes. E são essas diferentes abordagens que tornarão o objetivo do Superalinhamento ainda mais difícil de alcançar.
Recomendações dos editores
- O Google Bard agora pode falar, mas pode abafar o ChatGPT?
- A nova empresa de IA de Elon Musk visa "entender o universo"
- OpenAI revela a localização de seu primeiro posto avançado internacional
- Advogados de NY multados por usar casos falsos do ChatGPT em resumo legal
- Este navegador da Web integra o ChatGPT de uma maneira nova e fascinante
Atualize seu estilo de vidaO Digital Trends ajuda os leitores a acompanhar o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais perspicazes e prévias exclusivas.
