O uso desajeitado de ChatGPT conseguiu um escritório de advocacia da cidade de Nova York com uma multa de $ 5.000.
Depois de ouvir tanto sobre o impressionante chatbot com inteligência artificial da OpenAI, o advogado Steven Schwartz decidiu usar para pesquisa, adicionando citações de casos geradas pelo ChatGPT a um resumo legal entregue a um juiz no início deste ano. Mas logo descobriu-se que os casos haviam sido totalmente inventados pelo chatbot.
Vídeos recomendados
O juiz distrital dos EUA P. Kevin Castel ordenou na quinta-feira que os advogados Steven Schwartz e Peter LoDuca, que assumiram o caso de seu colega de trabalho, e seu escritório de advocacia Levidow, Levidow & Oberman, pagassem uma multa de $ 5.000.
Relacionado
- OpenAI, fabricante do ChatGPT, enfrenta investigação da FTC sobre leis de proteção ao consumidor
- O tráfego do site ChatGPT caiu pela primeira vez
- Os melhores chatbots de IA para experimentar: ChatGPT, Bard e mais
O juiz disse os advogados haviam feito “atos de evitação consciente e declarações falsas e enganosas ao tribunal”, acrescentando que “abandonaram seus responsabilidades” ao enviar o resumo escrito por IA antes de apoiar “as opiniões falsas depois que ordens judiciais colocaram sua existência em questão pergunta."
Castel continuou: “Muitos danos decorrem da apresentação de opiniões falsas. A parte contrária desperdiça tempo e dinheiro em expor o engano. O tempo do tribunal é tomado de outros empreendimentos importantes.”
O juiz acrescentou que a ação dos advogados “promove o cinismo sobre a profissão jurídica e o sistema judicial americano”.
O escritório de advocacia de Manhattan disse que discordava “respeitosamente” da opinião do tribunal, descrevendo-a como um “erro de boa fé”.
Em uma audiência relacionada no tribunal no início deste mês, Schwartz disse ele queria “desculpar-se sinceramente” pelo ocorrido, explicando que achava que estava usando um mecanismo de busca e não fazia ideia de que a ferramenta de IA poderia produzir inverdades. Ele disse que “lamentava profundamente” suas ações”, acrescentando: “Sofri tanto profissional quanto pessoalmente [por causa] da ampla publicidade que esse problema gerou. Estou envergonhado, humilhado e extremamente arrependido”.
O incidente estava ligado a um caso assumido pelo escritório de advocacia envolvendo um passageiro que processou a companhia aérea colombiana Avianca após alegar que sofreu uma lesão em um voo para a cidade de Nova York.
A Avianca pediu ao juiz para arquivar o caso, então a equipe jurídica do passageiro compilou um resumo citando seis casos semelhantes em uma tentativa de persuadir o juiz a deixar o caso de seu cliente prosseguir. Schwartz encontrou esses casos perguntando ao ChatGPT, mas não conseguiu verificar a autenticidade dos resultados. A equipe jurídica da Avianca deu o alarme ao dizer que não conseguia localizar os processos contidos no auto.
Em uma ordem separada na quinta-feira, o juiz concedeu a moção da Avianca para rejeitar o processo contra ela, encerrando todo o lamentável episódio.
O ChatGPT e outros chatbots como ele ganharam muita atenção nos últimos meses devido à sua capacidade de conversar de maneira humana e executar habilmente uma gama crescente de tarefas baseadas em texto. Mas eles também são conhecidos por inventar coisas e apresentá-las como se fossem reais. É tão prevalente que existe até um termo para isso: “alucinação”.
Aqueles que trabalham nas ferramentas de IA generativa estão explorando maneiras de reduzir alucinações, mas até então os usuários são aconselhados a verificar cuidadosamente quaisquer “fatos” que os chatbots cuspam.
Recomendações dos editores
- O Google Bard agora pode falar, mas pode abafar o ChatGPT?
- ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
- O recurso de navegação Bing do ChatGPT foi desativado devido a uma falha de acesso pago
- 81% acham que o ChatGPT é um risco à segurança, segundo pesquisa
- Rival do ChatGPT da Apple pode escrever código automaticamente para você
Atualize seu estilo de vidaO Digital Trends ajuda os leitores a acompanhar o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais perspicazes e prévias exclusivas.
