Juiz nos EUA critica advogados por informação falsa gerada por IA

Um juiz da Califórnia multou dois escritórios de advocacia em US$ 31.000 por usar pesquisa jurídica gerada por IA que continha citações falsas e imprecisas, destacando que o uso não divulgado dessa tecnologia é inaceitável e pode comprometer a integridade do trabalho jurídico

The Verge

Um juiz da Califórnia, nos Estados Unidos, criticou duramente dois escritórios de advocacia pelo uso não divulgado de Inteligência Artificial após receber um memorando suplementar com “inúmeras citações e informações jurídicas falsas, imprecisas e enganosas”. Segundo o site The Verge, Em uma decisão apresentada na semana passada, o juiz Michael Wilner impôs US$ 31.000 em sanções contra os escritórios de advocacia envolvidos, afirmando que “nenhum advogado razoavelmente competente deve terceirizar pesquisa e redação” para IA, conforme apontado pelos professores de direito Eric Goldman e Blake Reid no Bluesky.

“Li a petição deles, fiquei convencido (ou pelo menos intrigado) pelas autoridades que citaram e pesquisei as decisões para saber mais sobre elas – apenas para descobrir que não existiam”, escreve o Juiz Milner. “Isso é assustador. Quase levou ao resultado mais assustador (da minha perspectiva) de incluir esses materiais falsos em uma ordem judicial.”

Conforme observado no processo, o representante legal de um autor em uma ação cível contra a State Farm utilizou IA para gerar um esboço para uma petição complementar. No entanto, esse esboço continha “pesquisa falsa gerada por IA” quando foi enviado a outro escritório de advocacia, o K&L Gates, que adicionou as informações a uma petição.

“Nenhum advogado ou membro da equipe de nenhum dos escritórios aparentemente verificou as citações ou revisou de outra forma essa pesquisa antes de apresentar a petição”.

IA criativa

Ao analisar a petição, o Juiz Milner concluiu que “pelo menos duas das autoridades citadas não existem”. Após solicitar esclarecimentos à K&L Gates, o escritório reapresentou a petição, que, segundo o Juiz Milner, continha “consideravelmente mais citações e citações inventadas, além dos dois erros iniciais”. Em seguida, emitiu uma Ordem de Justificativa, resultando em declarações sob juramento dos advogados que confirmam o uso de IA.

O advogado que elaborou o esboço admitiu ter utilizado o Google Gemini, bem como as ferramentas de pesquisa jurídica de IA do Westlaw Precision com o CoCounsel.

Esta não é a primeira vez que advogados são flagrados usando IA em tribunais. O ex-advogado de Trump, Michael Cohen, citou processos judiciais inventados em um documento legal após confundir o Google Gemini, então chamado de Bard, com “um mecanismo de busca superpoderoso” em vez de um chatbot de IA. Um juiz também concluiu que advogados que processaram uma companhia aérea colombiana incluíram uma série de casos falsos gerados pelo ChatGPT em suas alegações.

“O uso inicial e não divulgado de produtos de IA para gerar o primeiro rascunho da petição foi completamente errado”, escreve o Juiz Milner. “E enviar esse material a outros advogados sem revelar suas origens duvidosas de IA, realisticamente, colocou esses profissionais em perigo.”

Leia no original: Juiz critica advogados por pesquisa falsa gerada por ia