Ответственность не автоматизируется

архив

Около 1750 года до нашей эры вавилонский царь Хаммурапи велел высечь на базальтовом столбе законы своего царства, и двести двадцать девятый из них вполне мог бы висеть в любой компании, которая сегодня запускает агентов. Если строитель построил дом и построил его непрочно, и дом рухнул и убил хозяина, строителя следует предать смерти. Нассим Талеб потом называл этот закон лучшим правилом управления риском из всех когда-либо придуманных, и дело тут не в жестокости. Хаммурапи просто не оставлял строителю возможности сказать, что дом упал сам.

Спустя почти четыре тысячи лет авиакомпания Air Canada попробовала именно это сказать.

---

В 2022 году у Джейка Моффата умерла бабушка, и он зашёл на сайт Air Canada купить билет на похороны. Чат-бот на сайте объяснил ему, что у компании есть скидка для таких случаев и что её можно оформить задним числом, в течение трёх месяцев после полёта. Моффат купил билет по полной цене, слетал, вернулся и подал заявку на скидку. Компания ответила, что задним числом скидку не оформляют, и это действительно было написано на другой странице того же сайта. Моффат пошёл в суд, и в суде Air Canada выдвинула довод, который войдёт в учебники: чат-бот, по мнению компании, был отдельным юридическим лицом, отвечающим за собственные действия. В феврале 2024 года трибунал Британской Колумбии ответил, что компания отвечает за всё, что написано на её сайте, неважно, написано оно на обычной странице или чат-ботом, и присудил Моффату шестьсот пятьдесят с лишним канадских долларов разницы в цене. Сумма смешная, прецедент серьёзный.

Годом раньше в Нью-Йорке похожий урок получили два адвоката. Готовя иск против авиакомпании Avianca, один из них попросил ChatGPT найти подходящие судебные решения, и модель нашла шесть, с номерами дел, цитатами и именами судей. Все шесть оказались выдуманными. Когда адвокаты противной стороны не смогли их отыскать, истцы сначала стояли на своём, а потом объяснили, что не знали, что ChatGPT умеет сочинять. В июне 2023 года судья Кевин Кастел оштрафовал обоих адвокатов и их фирму на пять тысяч долларов, и за следующие полтора года десятки американских судов ввели правила, обязывающие юристов сообщать, если они пользовались ИИ.