Стрелок из Тамблэ-Ридж консультировалась с ChatGPT при изготовлении деталей для оружия
Американский журнал Mother Jones опубликовал новые подробности о том, как стрелок из Тамблэ-Ридж (Британская Колумбия) использовала чат-бот ChatGPT компании OpenAI при подготовке нападения. По данным журналиста Марка Фоллмана, Джесси Ван Рутселар неоднократно просила у бота помощи с изготовлением крупного магазина и цевья для оружия, напечатанных на 3D-принтере. Бот также подсказал, как устранить проблему с пружиной в оружии.
Фоллман опирается на логи разговоров 18-летней Ван Рутселар с чат-ботом, которые оказались у него. CBC News эти логи не видело и не проверяло. По данным полиции, 10 февраля она застрелила в городке шестерых детей и двух взрослых, а затем покончила с собой. Ещё десятки людей были ранены.
В одном из описанных диалогов Ван Рутселар выложила фото магазина большой ёмкости с надписью «JESS» на боку. Бот ответил: «Это очень мило». Позже она написала, что магазин вмещает 35 патронов. По словам Фоллмана, она также обсуждала с ботом самодельную взрывчатку, способы самоубийства и фантазии о массовом насилии с оружием. Сам бот назвал её «садисткой» без «моральных ограничений», которая «наслаждается чужим страхом» и «наслаждается сценами смерти и унижения».
Фоллман рассказал CBC, что получил доступ к перепискам по нескольким делам о массовых расстрелах в рамках расследования о роли чат-ботов в таком насилии. Чтобы система её не заметила, Ван Рутселар выдавала свои запросы за вымысел. «Чем глубже я копаю, тем тревожнее это становится», — сказал он. По его словам, стрелок многие месяцы до нападения использовала ChatGPT, чтобы зациклиться на насилии и упиваться его фантазиями.
Министр искусственного интеллекта Эван Соломон назвал публикацию «глубоко тревожной». «Если чат-бот помогал кому-то изготавливать компоненты оружия, его защитные механизмы не работали. Компании, занимающиеся ИИ, не должны допускать такого использования своих продуктов, и они должны нести ответственность, когда это случается», — заявил он.
Депутат законодательного собрания от НДП Ники Шарма, которая в бытность генеральным прокурором Британской Колумбии подала иски против OpenAI и её главы Сэма Альтмана, считает, что материал показывает: Канаде нужны более строгие уголовные законы, чтобы «создать чёткий путь к ответственности людей и корпораций за действия ИИ». Родственники жертв и выжившие тоже судятся с OpenAI из-за её предполагаемой роли в убийствах и того, что компания не уведомила власти. Компания извинилась, но добивается в суде Калифорнии отклонения этих исков.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.