As principais firmas de advogados cobram mais de dois mil dólares por hora, documentos judiciais foram divulgados: “alucinações de IA, erros em série”

Os principais escritórios de advogados dos EUA, Sullivan·Cromwell (Sullivan & Cromwell), pediu recentemente publicamente desculpas a um juiz federal. O motivo foi que os documentos que apresentou ao tribunal falimentar estavam repletos de erros gerados por IA, incluindo precedentes falsos, citações inventadas e artigos inexistentes, lacunas que até foram desmascaradas por advogados externos. De forma irónica, os sócios do escritório cobram 2.000 dólares por hora, mas nem conseguiram garantir sequer uma verificação e revisão básica.

O escritório de advogados deu para o torto! Acusado de usar IA para escrever documentos e ainda com erros em catadupa

O incidente ocorreu num processo de falência no Tribunal de Falências de Manhattan, nos EUA, relacionado com o grupo do “príncipe” do Camboja (Prince Group). A Sullivan·Cromwell representou o liquidatário designado pelas autoridades das Ilhas Virgens Britânicas em tribunal, mas os documentos apresentados continham numerosos erros gerados por IA, num total de mais de trinta ocorrências.

Esses erros nem sequer foram descobertos internamente pelo próprio escritório; foram antes revelados no processo, em documentos públicos, pelo outro escritório de advogados do caso, Boies Schiller Flexner. Os tipos de erros incluem a citação de nomes de precedentes falsos que não existem, afirmações inventadas que nunca foram ditas ou escritas nos documentos, e até a invenção completa de parte de artigos da Lei dos EUA de Falências.

Andrew Dietderich, responsável global pelas reestruturações na Sullivan·Cromwell, admitiu numa carta ao juiz Martin Glenn datada de 18 de abril que alguns dos erros são “alucinações” de IA (hallucinations).

A revisão interna ficou como se fosse inexistente; o sócio do escritório cobra dois mil dólares por hora?

Quanto ao escritório, na carta Dietderich reconhece que o escritório tem, para o uso de ferramentas de IA, “políticas completas e requisitos de formação”, e que antes de os advogados receberem autorização para usar as ferramentas de IA, também devem concluir cursos de formação, nos quais é exigido de forma explícita “não confiar em qualquer conteúdo, devendo tudo ser verificado pessoalmente”. No entanto, as políticas acima não foram postas em prática quando se preparou o referido documento; o procedimento de segunda revisão, encarregado de salvaguardar, também não conseguiu intercetar quaisquer erros.

Comparando com a cobrança de mais de 2.000 dólares por hora feita pelos sócios do escritório, o caso suscitou ampla discussão nos círculos jurídicos, dentro e fora do país. Na carta, o escritório afirma que, após descobrir os erros, realizou uma revisão abrangente de todos os outros documentos no âmbito do caso, confirmou que as alucinações de IA apenas ocorreram neste documento e, em seguida, apresentou uma versão corrigida.

As alucinações de IA abalam o setor jurídico; a responsabilidade ética dos advogados volta a ser questionada

Este incidente não foi a primeira vez que o setor jurídico foi parar às manchetes devido a problemas com IA. Em 2023, dois advogados em Manhattan, Nova Iorque, foram multados em 5.000 dólares por um juiz federal por terem apresentado ao tribunal um resumo jurídico repleto de casos inventados pelo ChatGPT. Nos últimos anos, há dezenas de casos em que juízes sancionaram advogados por utilizarem IA para pesquisa jurídica e para redigir documentos, sem verificar suficientemente o conteúdo.

A American Bar Association (Associação de Advogados dos EUA) (ABA) já exigiu de forma clara que os advogados mantenham cautela ao usar modelos de IA, e que, do ponto de vista ético, também lhes cabe assegurar a exatidão de todos os documentos submetidos ao tribunal. A lei, por ora, não proíbe o uso de IA por advogados, mas a obrigação de verificação após a utilização continua a recair sobre o próprio advogado.

O Trump quer vender a credibilidade! Um velho escritório de grande reputação pediu desculpas

A Sullivan·Cromwell foi fundada há mais de cem anos e é um dos escritórios de advogados mais antigos e conceituados da história dos EUA, com mais de 900 advogados, conhecido mundialmente por operações de fusões e aquisições, litígios de corporate governance e negócios de private equity. Recentemente, o escritório tem sido mantido sob os holofotes devido a estar a tratar continuamente vários processos de recurso em nome do Presidente Trump.

Este incidente “azarado” com IA, sem dúvida, acrescenta uma fissura difícil de ignorar ao emblema desta firma de elite e volta a servir como um alerta para toda a indústria jurídica.

O artigo “O escritório de advogados cobra mais de dois mil dólares por hora; documentos do tribunal foram desmascarados por ‘alucinações de IA’ e erros em catadupa” apareceu pela primeira vez em 鏈新聞 ABMedia.