ChatGPT é uma ferramenta maravilhosa, mas há um lado obscuro nesse serviço avançado de IA que pode escrever como um especialista em praticamente qualquer assunto – plágio. Quando os alunos que deveriam demonstrar seu conhecimento e compreensão de um tópico trapaceiam usando o ChatGPT secretamente, isso invalida o teste e a avaliação. As habilidades de IA são ótimas, mas não são o único assunto que os alunos devem aprender.
Policiar esse problema provou ser difícil. Como o ChatGPT foi treinado em um vasto conjunto de dados de escrita humana, é quase impossível para um instrutor identificar se uma redação foi criada por um aluno ou por uma máquina. Várias ferramentas foram criadas que tentativa de reconhecer escrita gerada por IA, mas a precisão era muito baixa para ser útil.
Vídeos recomendados
Em meio a preocupações crescentes de educadores e proibições de alunos usando o ChatGPT, Business Insider relata que OpenAI está trabalhando em uma solução para este problema. Um recente twittar de Tom Goldstein, professor associado de aprendizado de máquina na Universidade de Maryland, explicou como ele pode ser preciso na detecção de texto com marca d'água escrito pelo ChatGPT.
#OpenAI está planejando parar #ChatGPT os usuários criem bots de mídia social e trapaceiem na lição de casa com resultados de "marca d'água". Quão bem isso poderia realmente funcionar? Aqui estão apenas 23 palavras de um LLM com marca d'água de parâmetro 1.3B. Nós o detectamos com 99,999999999994% de confiança. Veja como 🧵 pic.twitter.com/pVC9M3qPyQ
— Tom Goldstein (@tomgoldsteincs) 25 de janeiro de 2023
Qualquer ferramenta que pudesse identificar plágio com quase 100% de precisão resolveria essa discussão rapidamente e aliviaria qualquer preocupação. De acordo com Goldstein, uma solução é fazer com que o modelo de linguagem grande (LLM) escolha de um limitado vocabulário de palavras, formando uma lista branca que pode ser usada pela IA e uma lista negra de palavras que são proibido. Se um número anormalmente grande de palavras da lista branca aparecer em uma amostra, isso sugere que foi gerado pela IA.
Essa abordagem simplista seria muito restritiva, pois é difícil prever quais palavras podem ser necessárias para uma discussão ao trabalhar uma palavra por vez, como faz a maioria dos LLMs. Goldstein sugere que o ChatGPT pode ter a capacidade de olhar além de uma palavra para que possa planejar uma frase que possa ser preenchida com palavras da lista de permissões enquanto ainda faz sentido.
ChatGPT fez um grande barulho quando entrou o pool de redação da comunidade e também pode ser um ótimo auxiliar de ensino. É importante introduzir inteligência artificial nas escolas, pois será claramente uma tecnologia importante entender no futuro, mas continuará a ser controverso até que a questão do plágio seja abordado.
Recomendações dos editores
- O Google Bard agora pode falar, mas pode abafar o ChatGPT?
- ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
- O recurso de navegação Bing do ChatGPT foi desativado devido a uma falha de acesso pago
- OpenAI revela a localização de seu primeiro posto avançado internacional
- 81% acham que o ChatGPT é um risco à segurança, segundo pesquisa
Atualize seu estilo de vidaO Digital Trends ajuda os leitores a acompanhar o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais perspicazes e prévias exclusivas.
