A responsabilidade não se automatiza

arquivo

Por volta de 1750 antes de Cristo, o rei babilônio Hamurabi mandou gravar numa coluna de basalto as leis do seu reino, e a ducentésima vigésima nona delas poderia muito bem estar pendurada em qualquer empresa que hoje põe agentes para funcionar. Se um construtor construiu uma casa e não a construiu com solidez, e a casa desabou e matou o dono, o construtor deve ser morto. Nassim Taleb chamou depois essa lei de a melhor regra de gestão de risco já inventada, e a questão não é a crueldade. Hamurabi simplesmente não deixava ao construtor a possibilidade de dizer que a casa caiu sozinha.

Quase quatro mil anos depois, a companhia aérea Air Canada tentou dizer isso.

---

Em 2022 a avó de Jake Moffatt morreu, e ele entrou no site da Air Canada para comprar uma passagem para o enterro. O chatbot do site explicou que a companhia tinha um desconto para esses casos e que ele podia ser pedido depois, em até três meses após o voo. Moffatt comprou a passagem pelo preço cheio, voou, voltou e pediu o desconto. A companhia respondeu que o desconto não era concedido retroativamente, e isso de fato estava escrito em outra página do mesmo site. Moffatt foi ao tribunal, e lá a Air Canada apresentou um argumento que vai entrar para os manuais: o chatbot, na opinião da companhia, era uma pessoa jurídica à parte, responsável pelos próprios atos. Em fevereiro de 2024 o tribunal da Colúmbia Britânica respondeu que a companhia responde por tudo o que está no seu site, seja numa página comum, seja escrito por um chatbot, e condenou-a a pagar a Moffatt pouco mais de seiscentos e cinquenta dólares canadenses, a diferença de preço. A quantia é ridícula; o precedente é sério.

Um ano antes, em Nova York, dois advogados receberam uma lição parecida. Preparando uma ação contra a companhia aérea Avianca, um deles pediu ao ChatGPT que encontrasse decisões judiciais adequadas, e o modelo encontrou seis, com números de processo, citações e nomes de juízes. Todas as seis eram inventadas. Quando os advogados da parte contrária não conseguiram encontrá-las, os autores da ação primeiro mantiveram a posição e depois explicaram que não sabiam que o ChatGPT era capaz de inventar coisas. Em junho de 2023 o juiz Kevin Castel multou os dois advogados e o escritório deles em cinco mil dólares, e no ano e meio seguinte dezenas de tribunais americanos introduziram regras que obrigam os advogados a informar se usaram IA.