Descobrir se as coisas que você lê na internet são verdadeiras pode ser um desafio. Graças a um novo plug-in da web, determinar se as histórias foram escritas por um ser humano ou por uma IA. agora é muito mais fácil. GTrue ou False é uma extensão de navegador para Chrome e Firefox que permite aos usuários selecionar texto em um site (50 palavras e mais) e avaliá-lo para determinar a probabilidade de ter sido escrito pelo GPT-2 A.I. modelo em vez de um humano.
GPT-2 é um algoritmo de geração de texto que permite aos usuários semeá-lo no início de um trecho de texto, como um artigo de jornal, e depois inventar o resto de uma forma terrivelmente convincente. Embora alguns o tenham usado para fins criativos, como gerando jogos de aventura em texto em constante mudança, outros estão legitimamente preocupados com o que isso poderia significar para o propagação de notícias falsas.
Vídeos recomendados
GTrue ou False executa o texto selecionado Modelo de detector GPT-2 da OpenAIe, em seguida, calcula a probabilidade de o texto ter sido gerado por humanos e não por uma máquina.
“Eu diria que o problema é bastante relevante no mundo de hoje”, disse Giulio Starace, criador do GTrue ou False, ao Digital Trends. “À medida que a geração de dados sintéticos se torna cada vez mais sofisticada, tornamo-nos cada vez mais vulneráveis a sermos influenciados de uma forma ou de outra. Notícias falsas geradas por máquinas são um exemplo, mas considere também as críticas falsas. Num mundo onde a revisão é de código aberto, este sistema pode ser abusado e os consumidores podem ser arbitrariamente influenciados para um determinado negócio.”
Starace disse que se inspirou para criar o plugin depois de ver um tweet do diretor de IA da Tesla, Andrej Karpathy. Em 6 de novembro, Karpatia tuitou uma solicitação de extensão do Chrome para ajudar a identificar texto GPT-2 online. “Eu vi o tweet e pensei: ‘ei, provavelmente posso fazer isso’”, disse Starace. O extensão pode ser baixada aqui.
Uma última palavra de cautela: embora este detector seja impressionantemente preciso quando se trata de detectar os rabiscos de uma IA, você ainda vai querer usar o bom senso. Assim como um detector de spam que detecta e-mails inúteis, pode haver algumas peças escritas por humanos que escapam – ou vice-versa.
“Pode ser que o texto gerado pelo GPT-2 e o texto gerado por humanos às vezes tenham características sobrepostas levando o detector a pensar acidentalmente que uma parte do texto gerada por humanos é na verdade gerada por máquina”, Starace disse. “Existem alguns exemplos engraçados disso em meu Twitter onde as pessoas mostram que o detector está errado classifica um discurso de Trump como gerado por computador, e da mesma forma em um trecho de James Joyce. Portanto, ou Trump e James Joyce são robôs ou o detector é imperfeito.”
Recomendações dos Editores
- Os principais autores exigem pagamento de empresas de IA pelo uso de seu trabalho
- Wix usa ChatGPT para ajudá-lo a construir rapidamente um site inteiro
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
- 81% acham que o ChatGPT é um risco à segurança, segundo pesquisa
- O rival ChatGPT da Apple pode escrever código automaticamente para você
Atualize seu estilo de vidaDigital Trends ajuda os leitores a manter o controle sobre o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais criteriosos e prévias únicas.
