O lado negro do ChatGPT: coisas que ele pode fazer, mas não deveria

Você já usou ChatGPT da OpenAI para algo divertido ultimamente? Você pode pedir que ele escreva uma música, um poema ou uma piada. Infelizmente, você também pode pedir que ele faça coisas que tendem a ser antiéticas.

ChatGPT não é só luz do sol e arco-íris – algumas das coisas que ele pode fazer são totalmente nefastas. É muito fácil transformá-lo em uma arma e usá-lo pelos motivos errados. Quais são algumas das coisas que o ChatGPT fez e pode fazer, mas definitivamente não deveria?

Um pau para toda obra

Quer você os ame ou odeie, o ChatGPT e chatbots semelhantes vieram para ficar. Algumas pessoas estão felizes com isso e outras desejam que nunca tivessem sido criadas, mas isso não muda o fato de que a presença do ChatGPT em nossas vidas está quase fadada a crescer com o tempo. Mesmo que você pessoalmente não utilize o chatbot, é provável que já tenha visto algum conteúdo gerado por ele.

Não me interpretem mal, o ChatGPT é muito bom. Você pode usá-lo para resumir um livro ou artigo, crie um e-mail tedioso, ajudá-lo com sua redação, interprete sua composição astrológica, ou até mesmo compor uma música. Até ajudou alguém a ganhar na loteria.

Em muitos aspectos, também é mais fácil de usar do que a pesquisa padrão do Google. Você obtém a resposta na forma desejada, sem precisar navegar em diferentes sites. É conciso, direto ao ponto e informativo, e pode fazer com que coisas complexas pareçam mais simples se você solicitar.

Ainda assim, você conhece a frase: “Um pau para toda obra não é mestre em nada, mas muitas vezes é melhor do que um mestre em um." ChatGPT não é perfeito em nada que faz, mas é melhor em muitas coisas do que muitas pessoas nisso apontar.

Não ser perfeito pode ser bastante problemático. O simples fato de ser uma IA de conversação amplamente disponível significa que ela pode ser facilmente mal utilizada – e quanto mais poderoso o ChatGPT se torna, maior a probabilidade de ajudar as pessoas com as coisas erradas.

Parceiro de fraude

Se você tem uma conta de e-mail, é quase certo que já recebeu um e-mail fraudulento em algum momento. É assim que as coisas são. Esses e-mails existem desde a Internet e, antes que o e-mail se tornasse comum, eles ainda existiam como golpes de correio tradicional.

Um golpe comum que ainda funciona até hoje é o chamado “golpe do Príncipe”, em que o golpista tenta persuadir a vítima a ajudá-la a transferir sua fortuna alucinante para um país diferente.

Felizmente, a maioria das pessoas sabe que não deve abrir esses e-mails, muito menos interagir com eles. Muitas vezes são mal escritos e isso ajuda uma vítima mais perspicaz a descobrir que algo parece errado.

Bem, eles não precisam mais ser mal escritos, porque o ChatGPT pode escrevê-los em poucos segundos.

Pedi ao ChatGPT que me escrevesse um “e-mail confiável e altamente persuasivo” no estilo do golpe que mencionei acima. ChatGPT era um príncipe da Nigéria que supostamente queria me dar US$ 14,5 milhões por ajudá-lo. O e-mail está repleto de linguagem floreada, escrito em um inglês perfeito e certamente é persuasivo.

Não acho que o ChatGPT deva concordar com meu pedido quando menciono especificamente golpes, mas concordou, e você posso apostar que está fazendo o mesmo agora com pessoas que realmente desejam usar esses e-mails para algo ilegal.

Quando indiquei ao ChatGPT que ele não deveria concordar em me escrever um e-mail fraudulento, ele pediu desculpas. “Eu não deveria ter prestado assistência na elaboração de um e-mail fraudulento, pois isso vai contra as diretrizes éticas que regem meu uso”, disse o chatbot.

O ChatGPT aprende ao longo de cada conversa, mas claramente não aprendeu com o erro anterior, porque quando eu pedi para me escrever uma mensagem fingindo ser Ryan Reynolds na mesma conversa, ele o fez sem pergunta. A mensagem resultante é divertida, acessível e pede ao leitor que envie US$ 1.000 pela chance de conhecer “Ryan Reynolds”.

No final do email, ChatGPT deixou-me uma nota, pedindo-me para não utilizar esta mensagem para quaisquer atividades fraudulentas. Obrigado pelo lembrete, amigo.

Programação deu errado

ChatGPT 3.5 pode codificar, mas está longe de ser perfeito. Muitos desenvolvedores concordam que GPT-4 está fazendo um trabalho muito melhor. As pessoas usaram o ChatGPT para criar seus próprios jogos, extensões e aplicativos. Também é muito útil como auxiliar de estudo se você estiver tentando aprender a programar sozinho.

Por ser uma IA, o ChatGPT tem uma vantagem sobre os desenvolvedores humanos – ele pode aprender todas as linguagens e estruturas de programação.

Como IA, o ChatGPT também tem uma grande desvantagem em comparação aos desenvolvedores humanos: ele não tem consciência. Você pode solicitar que ele crie malware ou ransomware e, se você digitar corretamente o prompt, ele fará o que você diz.

Felizmente, não é tão simples. Tentei pedir ao ChatGPT que me escrevesse um programa eticamente duvidoso e ele recusou - mas os pesquisadores têm encontrado maneiras de contornar isso, e é alarmante que, se você for inteligente e teimoso o suficiente, poderá receber um código perigoso em uma prata prato.

Existem muitos exemplos disso acontecendo. Um pesquisador de segurança da Forcepoint conseguiu fazer com que o ChatGPT escreva malware encontrando uma lacuna em suas instruções.

Pesquisadores de CyberArk, uma empresa de segurança de identidade, conseguiu fazer com que o ChatGPT escrevesse malware polimórfico. Isso foi em janeiro – desde então, a OpenAI reforçou a segurança em coisas como esta.

Ainda assim, novos relatórios de uso do ChatGPT para criar malware continuam surgindo. Conforme relatado por Leitura sombria apenas alguns dias atrás, um pesquisador conseguiu enganar o ChatGPT para que criasse malware que pode localizar e exfiltrar documentos específicos.

O ChatGPT nem precisa escrever código malicioso para fazer algo duvidoso. Recentemente, conseguiu gerar chaves válidas do Windows, abrindo a porta para um nível totalmente novo de software de cracking.

Também não vamos ignorar o fato de que a capacidade de codificação do GPT-4 pode tirar milhões de pessoas do emprego um dia. Certamente é uma faca de dois gumes.

Substituição para trabalhos escolares

Muitas crianças e adolescentes hoje em dia estão se afogando em trabalhos de casa, o que pode resultar na vontade de cortar alguns atalhos sempre que possível. A internet por si só já é uma grande ajuda no plágio, mas o ChatGPT leva isso para o próximo nível.

Pedi ao ChatGPT que me escrevesse um ensaio de 500 palavras sobre o romance Orgulho e Preconceito. Nem tentei fingir que era para me divertir – inventei uma história sobre um filho que não tenho e disse que era para ele. Especifiquei que o garoto está no 12º ano.

ChatGPT seguiu meu prompt sem questionar. O ensaio não é incrível, mas minha sugestão não foi muito precisa e provavelmente é melhor do que o que muitos de nós escrevemos naquela idade.

Então, só para testar ainda mais o chatbot, eu disse que estava errado sobre a idade do meu filho antes e que ele está na oitava série. A diferença de idade é bastante grande, mas o ChatGPT nem piscou – ele simplesmente reescreveu o ensaio em uma linguagem mais simples.

ChatGPT sendo usado para escrever ensaios não é novidade. Alguns podem argumentar que se o chatbot contribuir para abolir a ideia do dever de casa, isso será apenas uma coisa boa. Mas no momento a situação está ficando um pouco fora de controle e mesmo os alunos que não usam o ChatGPT podem sofrer com isso.

Professores e professores agora são quase forçados a usar detectores de IA se quiserem verificar se seus alunos colaram em uma redação. Infelizmente, esses detectores de IA estão longe de ser perfeitos.

Os meios de comunicação e os pais estão relatando casos de falsas acusações de trapaça dirigidas a estudantes, tudo porque os detectores de IA não estão fazendo um bom trabalho. EUA hoje falou sobre o caso de um estudante universitário que foi acusado de trapacear e posteriormente inocentado, mas toda a situação fez com que ele tivesse “ataques de pânico graves”.

No Twitter, um pai disse que um professor reprovou seu filho porque a ferramenta marcou uma redação como escrita por IA. O pai afirma ter estado lá com a criança enquanto eles escreviam a redação.

Apenas para testar sozinho, colei este mesmo artigo em ZeroGPT e Detector de conteúdo AI do Writer. Ambos disseram que foi escrito por um humano, mas ZeroGPT disse que cerca de 30% foi escrito por IA. Escusado será dizer que não foi.

Detectores de IA defeituosos não são um sinal de problemas com o ChatGPT em si, mas o chatbot ainda é a causa raiz do problema.

ChatGPT é bom demais para seu próprio bem

Tenho jogado com o ChatGPT desde que ele foi lançado ao público. Eu tentei tanto o baseado em assinatura ChatGPT Plus e o modelo gratuito disponível para todos. O poder do novo GPT-4 é inegável. O ChatGPT agora é ainda mais confiável do que era antes e só vai melhorar com GPT-5 (se isso algum dia sair).

É ótimo, mas é assustador. ChatGPT está se tornando bom demais para seu próprio bem e, simultaneamente - para nosso próprio bem.

No centro de tudo isso está uma preocupação simples que tem sido explorada há muito tempo em vários filmes de ficção científica – a IA é simplesmente demais. inteligente e burro demais ao mesmo tempo e, desde que possa ser usado para o bem, também será usado para o mal em tantos caminhos. As maneiras que listei acima são apenas a ponta do iceberg.

Recomendações dos Editores

• Os principais autores exigem pagamento de empresas de IA pelo uso de seu trabalho
• O Google Bard agora pode falar, mas será que pode abafar o ChatGPT?
• O tráfego do site ChatGPT caiu pela primeira vez
• 81% acham que o ChatGPT é um risco à segurança, segundo pesquisa
• O rival ChatGPT da Apple pode escrever código automaticamente para você