В середине февраля 2024 года суд в Канаде обязал авиакомпанию Air Canada выплатить пассажиру положенную компенсацию в размере $812 (включая ущерб, проценты и сборы, связанные с поездкой и судебным разбирательством) после того, как чат-бот по продаже билетов Travel Air Canada предоставил человеку неверную информацию о стоимости билета и положенной скидке за перелёт.
Согласно документам суда, в ноябре 2022 года у Джейка Моффата умерла бабушка, он был вынужден со своей семьёй срочно лететь на её похороны. Моффат начал искать подходящие авиабилеты и использовал чат-бота на веб-сайте Air Canada. Информационная система предложила Моффатту странную скидку — купить билеты туда и обратно, а потом «задним числом подать заявку на компенсацию части оплаты за билеты в случае утраты родственников». Чат-бот пообещал. что в этом случае Моффат сэкономит примерно $380 в каждом направлении.
Однако, по правилам авиакомпании Air Canada нельзя использовать таким образом тариф в связи с утратой, а после покупки билета такая компенсация не положена. В итоге Моффату пришлось заплатить полную стоимость билетов в размере $1630 со всеми сборами авиаперевозчика.
Моффатт заявил суду, что Air Canada должна обеспечить частичное возмещение стоимости билета в размере $880 долларов, что представляет собой заявленную разницу в цене между обычным и предполагаемым тарифом на авиаперелёт в связи с утратой родственника.
Представитель Air Canada объяснил на суде Моффатту, что чат-бот ввёл его в заблуждение, предоставив неверную информацию по поводу скидок и стоимости авиабилетов. Кроме того, Air Canada заявила, что «она не может нести ответственность за информацию, предоставленную одним из её агентов, служащих или представителей, включая чат-бота». Судья принял пояснения авиакомпании и заявил, что «по сути, Air Canada предполагает, что чат-бот является отдельным юридическим лицом, которое несёт ответственность за свои действия». В итоге аргументы авиакомпании были отвергнуты судом. так как на самом деле не имеют смысла, а судья встал на сторону Моффата в этом деле.
В декабре 2023 года пользователь Крис Бакке рассказал, как он смог уговорить чат-бота на базе ChatGPT одного из дилерских центров в Калифорнии продать ему новый внедорожник Chevy Tahoe 2024 всего за $1. Цена автомобиля начинается от $60 тысяч. После этого Бакке уведомил дилера, и тот отключил чат-бота. В GM заявили, что не имеют отношения к сторонним инструментам, которые по собственной инициативе используют партнёры компании. В компании отметили, что чат-боты могут привлекать внимание своими ответами, однако «это хорошее напоминание важности человеческого интеллекта» и необходимости проверки генерируемого контента.
