Известный канадский музыкант Эшли Макайзек подал гражданский иск против Google на сумму 1.5 миллиона долларов. Поводом стала ложная информация, сгенерированная искусственным интеллектом компании, которая представила скрипача как опасного преступника.
Функция AI Overview приписала обладателю трех премий Juno судимости за сексуальное насилие над женщиной и вовлечение ребенка в интернет-переписку с преступными целями. В ИИ-сводке также утверждалось, что Макайзек якобы пожизненно внесен в национальный реестр сексуальных преступников.
Последствия "галлюцинаций" алгоритма оказались вполне реальными: в декабре прошлого года община коренных народов Сипекнекатик отменила концерт музыканта, сославшись на жалобы публики, прочитавшей ложные сведения. Позже община принесла официальные извинения, подтвердив ошибку поисковика.
Сам артист заявляет, что из-за клеветы испытывал "осязаемый страх" за свою безопасность при выходе на сцену. В иске утверждается, что Google знал о несовершенстве своих систем, но проявил безразличие, не предложив извинений и не связавшись с пострадавшим.
Макайзек требует по 500 тысяч долларов в качестве общих, штрафных и компенсационных убытков за ущерб репутации. Его адвокаты подчеркивают, что Google не должен нести меньшую ответственность только потому, что клевета была опубликована программой, а не живым представителем компании.
Google в ответ на запросы СМИ ранее заявлял, что постоянно работает над качеством ответов ИИ. На данный момент в ИИ-справке о музыканте уже указано, что в 2025-2026 годах он попал в заголовки газет именно из-за судебного иска против корпорации.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.