A IA generativa vem se movendo em uma velocidade inacreditável nos últimos meses, com o lançamento de várias ferramentas e bots como ChatGPT da OpenAI, Google Bardo, e mais. No entanto, esse rápido desenvolvimento está causando sérias preocupações entre os veteranos experientes no campo da IA - então tanto que mais de 1.000 deles assinaram uma carta aberta pedindo aos desenvolvedores de IA que batam no freios.
A carta foi publicada no site da Instituto Futuro da Vida, uma organização cuja missão declarada é “dirigir a tecnologia transformadora para beneficiar a vida e afastá-la de riscos extremos em grande escala”. Entre o os signatários são vários acadêmicos proeminentes e líderes em tecnologia, incluindo o co-fundador da Apple, Steve Wozniak, o CEO do Twitter, Elon Musk, e o político Andrew Yang.
Vídeos recomendados
O artigo pede que todas as empresas que trabalham com modelos de IA mais poderosos que o recentemente lançado GPT-4 interromper imediatamente o trabalho por pelo menos seis meses. Esta moratória deveria ser “pública e verificável” e daria tempo para “desenvolver e implementar conjuntamente um conjunto de protocolos de segurança para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por terceiros independentes especialistas”.
Relacionado
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
- O recurso de navegação Bing do ChatGPT foi desativado devido a uma falha de acesso pago
- Rival do ChatGPT da Apple pode escrever código automaticamente para você
A carta diz que isso é necessário porque “os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade”. Aqueles os riscos incluem a disseminação de propaganda, a destruição de empregos, a potencial substituição e obsolescência da vida humana e a “perda de controle da nossa civilização”. Os autores acrescentam que a decisão de avançar para esse futuro não deve ser deixada para “técnicos não eleitos”. líderes”.
AI 'para o benefício claro de todos'
A carta vem logo após as alegações de que o GPT-5, a próxima versão da tecnologia do ChatGPT, poderia alcançar a inteligência geral artificial. Se correto, isso significa que seria capaz de entender e aprender qualquer coisa que um ser humano possa compreender. Isso pode torná-lo incrivelmente poderoso de maneiras que ainda não foram totalmente exploradas.
Além disso, a carta afirma que o planejamento e o gerenciamento responsáveis em torno do desenvolvimento de sistemas de IA não estão acontecendo, “mesmo que nos últimos meses tenhamos visto a IA laboratórios presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém - nem mesmo seus criadores - pode entender, prever ou confiar ao controle."
Em vez disso, a carta afirma que novos sistemas de governança devem ser criados para regular o desenvolvimento da IA, ajudar as pessoas a distinguir as criadas pela IA e conteúdo criado por humanos, responsabilizar laboratórios de IA como OpenAI por qualquer dano que causem, permitir que a sociedade lide com a interrupção da IA (especialmente para a democracia), e mais.
Os autores terminam com uma nota positiva, afirmando que “a humanidade pode desfrutar de um futuro próspero com IA… no qual colheremos as recompensas, projetar esses sistemas para o benefício claro de todos e dar à sociedade uma chance de se adaptar.” Pausa em sistemas de IA mais poderosos que GPT-4 permitiria que isso acontecesse, afirmam.
A carta terá o efeito pretendido? Isso é difícil de dizer. Existem claramente incentivos para a OpenAI continuar trabalhando em modelos avançados, tanto financeiros quanto de reputação. Mas com tantos riscos potenciais – e com muito pouca compreensão deles – os autores da carta sentem claramente que esses incentivos são perigosos demais para serem perseguidos.
Recomendações dos editores
- O Google Bard agora pode falar, mas pode abafar o ChatGPT?
- O tráfego do site ChatGPT caiu pela primeira vez
- 81% acham que o ChatGPT é um risco à segurança, segundo pesquisa
- Ensinei o ChatGPT a me ensinar jogos de tabuleiro e agora nunca mais voltarei
- Advogados de NY multados por usar casos falsos do ChatGPT em resumo legal
Atualize seu estilo de vidaO Digital Trends ajuda os leitores a acompanhar o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais perspicazes e prévias exclusivas.
