Uma nova ameaça surgiu no Bate-papoGPT saga, com os cibercriminosos desenvolvendo uma maneira de hackear o chatbot de IA e inundá-lo com comandos de malware.
O empresa de pesquisa Checkpoint descobriu que hackers projetaram bots que podem se infiltrar na API GPT-3 da OpenAI e alterar seu código para que pode gerar conteúdo malicioso, como texto que pode ser usado para e-mails de phishing e malware roteiros.
Os bots funcionam por meio do aplicativo de mensagens Telegram. Atores mal-intencionados usam os bots para configurar uma versão obscura e sem restrições do ChatGPT, de acordo com Ars Técnica.
Vídeos recomendados
ChatGPT tem botões de polegar para cima e polegar para baixo que você pode pressionar como parte de seu algoritmo de aprendizagem se gerar conteúdo que possa ser considerado ofensivo ou impróprio. Normalmente, entradas como geração de código malicioso ou e-mails de phishing estão fora dos limites, com o ChatGPT se recusando a dar uma resposta.
Essa nefasta alternativa de chatbot tem um preço de US$ 6 para cada 100 consultas, e os hackers por trás dela também dão dicas e exemplos do conteúdo ruim que você pode gerar com esta versão. Os hackers também disponibilizaram um script no GitHub. O script OpenAI, baseado em API, tem a capacidade de permitir que usuários falsifiquem uma empresa ou pessoa, além de gerar e-mails de phishing por meio de comandos de geração de texto. Os bots também podem auxiliar no posicionamento ideal do link de phishing no e-mail, segundo
Jogador de PC.É difícil saber até que ponto este desenvolvimento representará uma ameaça para os geradores de texto de IA em movimento. avançar, especialmente com grandes empresas já comprometidas em trabalhar com este mercado cada vez mais popular tecnologia. O Microsoft Bing está definido para adicionar em breve Suporte ChatGPT ao seu navegador em uma atualização futura como parte de seu colaboração contínua com OpenAI, por exemplo.
Embora o ChatGPT permaneça gratuito no futuro próximo, sem a prioridade Assinatura ChatGPT Plus, esta não é a primeira vez que o gerador de texto de IA é alvo de golpistas. Em janeiro, surgiram notícias de que milhares de pessoas foram enganadas depois de pagar iOS e Android versões de aplicativos móveis do chatbot, que atualmente é um serviço baseado em navegador.
A versão da Apple App Store era especialmente popular, apesar do preço de assinatura semanal de US$ 8 após um teste de três dias. Os usuários também tinham a opção de pagar uma assinatura mensal de US$ 50, que era ainda mais cara do que o custo semanal. O aplicativo acabou sendo removido da loja da Apple depois de receber atenção da mídia.
O ChatGPT é certamente o principal alvo dos golpistas, pois sua popularidade aumentou, mas ainda não se sabe se os malfeitores acabarão atacando um dos muitos ChatGPT alternativas circulando.
Recomendações dos Editores
- Veja por que as pessoas pensam que o GPT-4 pode ficar mais burro com o tempo
- ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
- O que é um prompt DAN para ChatGPT?
- O Google Bard agora pode falar, mas será que pode abafar o ChatGPT?
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
