Житель Торонто Зак Джакомелли решил продать свой подержанный автомобиль BMW 2021 года обратно дилерскому центру BMW Toronto, где он его и приобрел.
В ходе текстовой переписки ИИ-чат-бот по имени Куинн выразил сочувствие по поводу поломки машины и сделал твердое предложение о выкупе на сумму 27 162 доллара, что полностью покрывало остаток долга клиента по автокредиту.
Сразу после этого Джакомелли позвонил менеджер автосалона и аннулировал предложение, заявив, что Куинн является не реальным человеком, а ошибившимся роботом.
Дилерский центр предложил за машину всего 20 000 долларов, что вызвало возмущение клиента, который даже не знал, что общался с искусственным интеллектом.
Юристы отмечают, что канадские суды уже признавали компании ответственными за ошибки чат-ботов, которые могут заключать контракты от имени бизнеса.
После обращения журналистов издания CBC News руководство BMW Toronto восстановило первоначальное предложение робота на сумму 27 162 доллара, и клиент сразу его принял. Менеджер автосалона Скотт Шадболт объяснил, что бот неверно истолковал сумму долга из-за ошибки сотрудника-человека.
Теперь компания меняет настройки системы, чтобы клиенты всегда знали, когда они общаются с искусственным интеллектом, а сами предложения о выкупе будут делать только люди.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.