Advogados de NY multados por usar casos falsos do ChatGPT em resumo legal

O uso desajeitado de ChatGPT conseguiu um escritório de advocacia da cidade de Nova York com uma multa de $ 5.000.

Depois de ouvir tanto sobre o impressionante chatbot com inteligência artificial da OpenAI, o advogado Steven Schwartz decidiu usar para pesquisa, adicionando citações de casos geradas pelo ChatGPT a um resumo legal entregue a um juiz no início deste ano. Mas logo descobriu-se que os casos haviam sido totalmente inventados pelo chatbot.

O juiz distrital dos EUA P. Kevin Castel ordenou na quinta-feira que os advogados Steven Schwartz e Peter LoDuca, que assumiram o caso de seu colega de trabalho, e seu escritório de advocacia Levidow, Levidow & Oberman, pagassem uma multa de $ 5.000.

O juiz disse os advogados haviam feito “atos de evitação consciente e declarações falsas e enganosas ao tribunal”, acrescentando que “abandonaram seus responsabilidades” ao enviar o resumo escrito por IA antes de apoiar “as opiniões falsas depois que ordens judiciais colocaram sua existência em questão pergunta."

Castel continuou: “Muitos danos decorrem da apresentação de opiniões falsas. A parte contrária desperdiça tempo e dinheiro em expor o engano. O tempo do tribunal é tomado de outros empreendimentos importantes.”

O juiz acrescentou que a ação dos advogados “promove o cinismo sobre a profissão jurídica e o sistema judicial americano”.

O escritório de advocacia de Manhattan disse que discordava “respeitosamente” da opinião do tribunal, descrevendo-a como um “erro de boa fé”.

Em uma audiência relacionada no tribunal no início deste mês, Schwartz disse ele queria “desculpar-se sinceramente” pelo ocorrido, explicando que achava que estava usando um mecanismo de busca e não fazia ideia de que a ferramenta de IA poderia produzir inverdades. Ele disse que “lamentava profundamente” suas ações”, acrescentando: “Sofri tanto profissional quanto pessoalmente [por causa] da ampla publicidade que esse problema gerou. Estou envergonhado, humilhado e extremamente arrependido”.

O incidente estava ligado a um caso assumido pelo escritório de advocacia envolvendo um passageiro que processou a companhia aérea colombiana Avianca após alegar que sofreu uma lesão em um voo para a cidade de Nova York.

A Avianca pediu ao juiz para arquivar o caso, então a equipe jurídica do passageiro compilou um resumo citando seis casos semelhantes em uma tentativa de persuadir o juiz a deixar o caso de seu cliente prosseguir. Schwartz encontrou esses casos perguntando ao ChatGPT, mas não conseguiu verificar a autenticidade dos resultados. A equipe jurídica da Avianca deu o alarme ao dizer que não conseguia localizar os processos contidos no auto.

Em uma ordem separada na quinta-feira, o juiz concedeu a moção da Avianca para rejeitar o processo contra ela, encerrando todo o lamentável episódio.

O ChatGPT e outros chatbots como ele ganharam muita atenção nos últimos meses devido à sua capacidade de conversar de maneira humana e executar habilmente uma gama crescente de tarefas baseadas em texto. Mas eles também são conhecidos por inventar coisas e apresentá-las como se fossem reais. É tão prevalente que existe até um termo para isso: “alucinação”.

Aqueles que trabalham nas ferramentas de IA generativa estão explorando maneiras de reduzir alucinações, mas até então os usuários são aconselhados a verificar cuidadosamente quaisquer “fatos” que os chatbots cuspam.

Recomendações dos editores

• O Google Bard agora pode falar, mas pode abafar o ChatGPT?
• ChatGPT: as últimas notícias, polêmicas e dicas que você precisa saber
• O recurso de navegação Bing do ChatGPT foi desativado devido a uma falha de acesso pago
• 81% acham que o ChatGPT é um risco à segurança, segundo pesquisa
• Rival do ChatGPT da Apple pode escrever código automaticamente para você

Atualize seu estilo de vidaO Digital Trends ajuda os leitores a acompanhar o mundo acelerado da tecnologia com as últimas notícias, análises divertidas de produtos, editoriais perspicazes e prévias exclusivas.