Дилерский центр отозвал предложение о выкупе BMW клиента, обвинив в ошибке чат-бота с искусственным интеллектом

Житель Торонто Зак Джакомелли решил продать свой подержанный автомобиль BMW 2021 года обратно дилерскому центру BMW Toronto, где он его и приобрел.

В ходе текстовой переписки ИИ-чат-бот по имени Куинн выразил сочувствие по поводу поломки машины и сделал твердое предложение о выкупе на сумму 27 162 доллара, что полностью покрывало остаток долга клиента по автокредиту.

Сразу после этого Джакомелли позвонил менеджер автосалона и аннулировал предложение, заявив, что Куинн является не реальным человеком, а ошибившимся роботом.

Дилерский центр предложил за машину всего 20 000 долларов, что вызвало возмущение клиента, который даже не знал, что общался с искусственным интеллектом.

Юристы отмечают, что канадские суды уже признавали компании ответственными за ошибки чат-ботов, которые могут заключать контракты от имени бизнеса.

После обращения журналистов издания CBC News руководство BMW Toronto восстановило первоначальное предложение робота на сумму 27 162 доллара, и клиент сразу его принял. Менеджер автосалона Скотт Шадболт объяснил, что бот неверно истолковал сумму долга из-за ошибки сотрудника-человека.

Теперь компания меняет настройки системы, чтобы клиенты всегда знали, когда они общаются с искусственным интеллектом, а сами предложения о выкупе будут делать только люди.