Juiz chama ‘testemunha especializada’ por usar o chatbot Copilot de IA da Microsoft para compensar danos

Se você precisar de um perito em um caso judicial, certifique-se de que ele não esteja usando um chatbot de IA para sua suposta experiência.

Na semana passada, um juiz de Nova York repreendeu um perito em um setor imobiliário caso de disputa por usar o chatbot Copilot de IA da Microsoft.

O perito, Charles Ranson, utilizou o Copilot para gerar uma avaliação de danos que deveria ser concedida ao autor do caso. O caso foi primeiro relatado pela Ars Technica.

Copiloto em tribunal – uma má ideia

O caso no centro desta história envolveu uma disputa sobre um imóvel alugado de US$ 485 mil nas Bahamas. O dono do imóvel havia falecido e a propriedade foi incluída em um fundo fiduciário para o filho do falecido. A irmã do falecido foi a responsável pela execução do trust. No entanto, a irmã estava a ser acusada de violar os seus deveres fiduciários ao atrasar a venda da propriedade e ao mesmo tempo utilizá-la para uso pessoal.

Um papel importante na vitória do caso para o filho foi provar que ele sofreu danos devido às ações de sua tia.

Ranson foi convocado como perito e encarregado de avaliar esses danos.

Embora Ranson tenha experiência em litígios fiduciários e imobiliários, de acordo com o juiz Jonathan Schopf, ele “não tinha experiência imobiliária relevante”. Então, Ranson recorreu ao chatbot de IA da Microsoft, Copilot.

Aparentemente, Ranson revelou seu uso de Copilot em seu depoimento. Quando questionado sobre isso, Ranson não conseguiu se lembrar quais instruções ele usou para avaliar os danos ou quais fontes o Copilot citou para chegar à sua estimativa. Ranson também não conseguiu explicar como funciona o Copilot.

O tribunal então decidiu usar o Copilot para ver se conseguia chegar à mesma estimativa fornecida por Ranson. O tribunal perguntou ao Copilot: “Você pode calcular o valor de US$ 250.000 investidos no Vanguard Balanced Index Fund de 31 de dezembro de 2004 a 31 de janeiro de 2021?”

O Copilot forneceu uma resposta diferente em três tentativas diferentes, e cada resposta foi diferente da quantidade gerada pelo próprio Copilot de Ranson.

O tribunal perguntou então ao Copilot se era uma fonte fiável de informação, ao que o Copilot respondeu dizendo que os seus resultados deveriam ser sempre verificados por especialistas.

De acordo com o juiz, Ranson foi inflexível ao afirmar que ferramentas de IA como o Copilot eram de uso padrão em seu setor, mas ele não foi capaz de citar uma única fonte que mostrasse que isso era verdade.

O uso do chatbot AI de Ranson não foi seu único erro. Contudo, a situação do Copiloto certamente atingiu a credibilidade do perito. O juiz considerou que as provas mostravam que o atraso na venda do imóvel não só não resultou em prejuízo, mas em lucro adicional para o filho, e decidiu que não houve violação do dever fiduciário da tia.

Não é a primeira vez, e provavelmente não é a última vez

O uso do Copilot por Ranson como uma fonte especializada de informações certamente não é a primeira vez que chatbots de IA são usados ​​no tribunal.

Os leitores podem se lembrar do advogado Steven Schwartz que no ano passado confiou no ChatGPT em ações judiciais para um caso envolvendo um cliente de uma companhia aérea ferido durante um voo. Schwartz foi repreendido após apresentar documentos que citavam casos completamente inexistentes. Schwartz usou o ChatGPT para sua pesquisa, e o chatbot de IA apenas inventou casos anteriores, que Schwartz incluiu em seus registros.

Como resultado, Schwartz e outro advogado do escritório onde trabalhava foram multado US$ 5.000 pelo tribunal por “agir de má fé”.

O mesmo cenário aconteceu de novo com outro advogado, Jae Lee, que usou o ChatGPT em seus registros no início deste ano. Mais uma vez o ChatGPT alucinava casos que não existiam.

No caso imobiliário das Bahamas, o juiz Schopf fez questão de não culpar o chatbot de IA, mas o usuário por citá-lo. No entanto, os chatbots de IA continuam a proliferar online e grandes empresas tecnológicas como a Google e a Microsoft estão a intensificar a promoção desta tecnologia junto dos utilizadores.