Um famoso escritório de advocacia de Wall Street, Sullivan & Cromwell, pediu desculpas a um juiz após apresentar um documento judicial com cerca de 40 citações erradas e outros erros causados por “alucinações” de inteligência artificial.
Andrew Dietderich, co-chefe da equipe global de reestruturação da firma, comentou: “Lamentamos profundamente que isso tenha acontecido”, em uma carta ao juiz principal Martin Glenn do Tribunal de Falências dos Estados Unidos.
Ele ainda afirmou que a empresa tem a responsabilidade de garantir a precisão de todos os documentos apresentados, incluindo aqueles sob as regras de falência, e que ele assume a responsabilidade pela falha em cumprir isso.
Esse incidente mostra como as ferramentas de IA podem ser arriscadas em trabalhos profissionais críticos sem supervisão adequada. Um banco de dados gerido por Damien Charlotin registrou 1.334 casos de alucinações de IA em documentos judiciais ao redor do mundo, com mais de 900 apenas nos EUA.
Segundo Charlotin, a maioria dessas alucinações envolve citações inventadas, embora argumentos legais gerados por IA também tenham sido identificados em alguns casos.
Sullivan & Cromwell está investigando internamente
Dietderich mencionou que a empresa adotou “medidas corretivas imediatas”, incluindo uma revisão completa das circunstâncias que levaram aos erros.
Ele também afirmou que a firma está “avaliando se melhorias adicionais em seus processos internos de treinamento e revisão são necessárias”.
Vale lembrar que os erros foram notados por um escritório de advocacia concorrente, e Dietderich se prontificou a agradecê-los e a se desculpar. “Liguei para o Boies Schiller Flexner LLP na sexta-feira para agradecer por trazer esse assunto à nossa atenção”, disse ele.
Este episódio é um alerta poderoso sobre o uso de tecnologia em áreas sensíveis e levanta questões sobre a confiança que depositamos em ferramentas modernas.
Fonte original: https://cointelegraph.com/news/us-law-firm-apologizes-ai-hallucinations-filing?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound. Conteúdo adaptado pela equipe do GraficoCrypto.