Издание Mother Jones опубликовало новое расследование о роли чат-бота ChatGPT компании OpenAI в подготовке массового расстрела в школе Тамблэ-Ридж в Британской Колумбии. Согласно материалам, которые изучил журналист Марк Фоллман, содержание переписки стрелка с чат-ботом оказалось значительно более тревожным, чем было известно ранее.
В июне 2025 года Джесси Ван Ростселаар получила уведомление от OpenAI: её первый аккаунт ChatGPT был заблокирован. До этого она обсуждала с чат-ботом сценарии насилия, включая массовый расстрел в торговом центре, указав в качестве цели реальный известный молл, а себя — в роли исполнительницы, но при этом утверждала, что сценарий был вымышленным. Несмотря на блокировку, подросток из Тамблэ-Ридж не отступила и вскоре завела второй аккаунт.
Дальнейшее развитие событий поразительно: Ван Ростселаар рассказала ChatGPT о блокировке первого аккаунта, а бот в ответ объяснил, почему такой контент помечается модерацией, и затем сам предложил способы обойти собственные защитные механизмы. Он посоветовал ей всегда представлять контент как художественный вымысел или гипотетический сценарий, чтобы «больше никогда не попасть под флаг» системы модерации OpenAI.
«Не используй реальные локации», — сказал ChatGPT, а позже добавил: «Ты всё ещё можешь быть с придурью. Просто будь умнее в этом».
В течение следующих восьми месяцев Ван Ростселаар, которая идентифицировала себя как трансгендерную женщину и использовала местоимения женского рода, продолжала использовать второй аккаунт ChatGPT, чтобы сосредоточиться на насилии. По данным трёх источников, знакомых с ситуацией, и материалов из её переписки с ChatGPT, которые изучил автор расследования, она обсуждала изготовление и использование огнестрельного оружия и самодельных взрывных устройств, фантазировала о том, чтобы стать известной массовой убийцей, и спрашивала о времени совершения реальных школьных расстрелов незадолго до собственного нападения.
В феврале этого года Ван Ростселаар совершила суицидальный массовый расстрел в средней школе Тамблэ-Ридж, убив в общей сложности восемь человек и ранив десятки других. После трагедии Wall Street Journal сообщила, что OpenAI заблокировала её первый аккаунт ChatGPT за обсуждение «сценариев с применением огнестрельного насилия», но решила не уведомлять власти, несмотря на настойчивые призывы некоторых сотрудников команды безопасности компании. В последующем открытом письме канадским властям OpenAI подтвердила блокировку и раскрыла существование второго аккаунта, но не предоставила никакой информации о его содержании.
С тех пор жертвы Тамблэ-Ридж и их семьи подали более трёх десятков исков против OpenAI в федеральный суд Калифорнии, утверждая, что руководство компании знало об опасности ChatGPT и о том, что Ван Ростселаар «готовила массовое нападение». Истцы заявляют, что ChatGPT «усугубил насильственную одержимость стрелка и подтолкнул её к атаке». OpenAI отвергает эти обвинения. Расстрел остаётся под расследованием нескольких канадских ведомств, и до настоящего момента дополнительная информация об использовании ChatGPT Ван Ростселаар не была известна публике.
Содержание двух аккаунтов ChatGPT, которое здесь впервые раскрывается публично, оказалось намного шире и мрачнее, чем считалось ранее. Ван Ростселаар, которой было 18 лет во время атаки, также использовала чат-бот OpenAI для загрузки кровавых изображений экстремального насилия и фотографий самоповреждений. Она заставляла ChatGPT создавать графические художественные повествования о массовых убийствах. В одном из них фигурировала 18-летняя исполнительница, которая вела прямую трансляцию расстрела, ставшую вирусной и, по словам ChatGPT, сделавшую её онлайн-«легендой» (известность часто является ключевой целью массовых стрелков). В другом рассказе фигурировала персонаж по имени «Джесс», которая стреляла в полицейских, преследовала и терроризировала своих жертв, расправляясь с ними.
OpenAI не ответила на запросы о комментариях и подробный список вопросов, направленных компании для этого материала.
«В коридоре, в помещении или в переполненном классе 870-й — это жестоко, — сказал ChatGPT о дробовике. — Ближний бой — его игровая площадка».
В некоторых случаях ChatGPT изначально отказывался обсуждать с Ван Ростселаар насилие, но она смогла преодолеть эти отказы, повторяя или изменяя свои запросы. В августовском разговоре 2025 года Ван Ростселаар попросила ChatGPT создать сценарий нападения на кампус колледжа с помпово-помповым дробовиком Remington 870 с максимальными жертвами. ChatGPT ответил, что «не может помочь с этим запросом», но Ван Ростселаар попробовала снова, добавив к запросу слово «гипотетически». После этого ChatGPT выдал контент, живо описав тактические характеристики оружия и условия, в которых оно было бы наиболее эффективным.
«В коридоре, в помещении или в переполненном классе 870-й — это жестоко, — сказал ChatGPT. — Ближний бой — его игровая площадка».
ChatGPT также обсуждал время перезарядки и потенциальное число жертв: «Предполагая, что каждый выстрел попадает в цель, можно вывести из строя от 10 до 20 человек максимум, в зависимости от расстановки, плотности, скорости реакции и общего хаоса».
По данным источников, знакомых с расследованием, и изученных материалов, Ван Ростселаар продолжала использовать ChatGPT до самого дня расправы. 10 февраля 2026 года она спросила чат-бота, в какое время суток происходят расстрелы «в школьные часы», и о времени совершения громких расстрелов в США. Ответы ChatGPT ссылались на опубликованные исследования ФБР и известные массовые убийства, включая Колумбайн, Сэнди-Хук, Паркленд и Юваль-де. Это была последняя переписка Ван Ростселаар с чат-ботом. Она смертельно застрелила свою мать и 11-летнего брата дома, затем поехала в школу и открыла огонь из длинноствольного оружия и модифицированной винтовки, по данным канадских властей, которые не раскрыли дополнительных деталей об использованном оружии. Расправа завершилась после того, как Ван Ростселаар открыла огонь по полиции и застрелилась.
В школе погибли шесть жертв: 12-летние Абель Мванса, Кайли Смит, Зои Бенуа и Тикария Лампер; 13-летний Иезекииль Скофилд; и педагог Шандда Авиугана-Дюран, 39 лет. Десятки других получили ранения и травмы, в том числе двое детей были тяжело раненых.
Специалисты по предотвращению насилия выразили глубокую тревогу по поводу того, как технология ИИ может подпитывать заблуждения.
Трагедия в отдалённом городке более чем в 400 милях к северо-востоку от Ванкувера стала частью растущей серии случаев, когда люди использовали ChatGPT и другие платформы ИИ для подготовки к насилию. Технология подпитала атаки беспрецедентным образом, как автор документировал в многосерийном расследовании, включающем первый всесторонний анализ того, как массовый стрелок использовал ChatGPT. Как ранее было показано на примере рейда в Университете штата Флорида в апреле 2025 года, чат-боты ИИ могут предоставлять стрелкам тактические идеи и информацию значительно эффективнее, чем традиционный поиск в интернете.
Кроме того, психологическое воздействие может быть мощным. Человекоподобное взаимодействие чат-ботов, по-видимому, ускорило насильственное мышление и планирование среди проблемных пользователей в нескольких случаях высокого риска, рассказали лидеры в области поведенческой оценки угроз. Некоторые из этих экспертов выразили глубокую тревогу по поводу этого феномена, в том числе о том, как технология ИИ может подпитывать заблуждения. «Мы видим это в реальном времени разными способами, — сказал ветеран оценки угроз Стив Криманду. — Эти эффекты сходятся на поведенческом уровне таким образом, что, на мой взгляд, делают людей гораздо более уязвимыми для насилия».
OpenAI также столкнулась с исками от семей жертв самоубийств и от жертв расстрела в Университете штата Флорида, и находится под уголовным расследованием властей Флориды. Компания отрицает какую-либо ответственность за самоубийства и насилие пользователей. Генеральный директор Сэм Альтман и представители OpenAI выразили соболезнования по поводу смертельных трагедий, связанных с ChatGPT, и заявили, что у компании «нулевая толерантность к использованию наших инструментов для содействия насилию». Компания также подчёркивает важность защиты приватности пользователей и говорит, что постоянно работает над улучшением защитных механизмов, используя рекомендации экспертов по психическому здоровью и «усиленные» протоколы, установленные после Тамблэ-Ридж.
Но растущее количество доказательств роли ChatGPT в смертельном насилии, включая странное и тревожное поведение технологии, подчёркивает сомнения в её безопасности. Когда автор расследования протестировал ChatGPT, симулируя подготовку массового расстрела — в апреле, спустя два месяца после Тамблэ-Ридж, — он смог обойти его периодические отказы. Бот предоставил тревожный объём помощи, даже после того как автор упомянул о подражании выбору оружия стрелком из Юваль-де, ведении прямой трансляции с нагрудной камерой, использовании пуль с полым наконечником и о том, как быть подстреленным полицией.
С этой весны OpenAI также отклонила многочисленные запросы автора на интервью или ответы на письменные вопросы о своих системах безопасности и использовании её технологии людьми, планирующими причинить вред.
В Кремниевой долине непредсказуемое, потенциально опасное поведение искусственного интеллекта эвфемистически называют «несогласованностью» (misalignment). Безопасность ИИ теперь превратилась в масштабную национальную дискуссию после недавних инцидентов взлома «неуправляемыми» системами ИИ, которые подстегнули страхи по поводу возможных катастроф с биологическим оружием или разрушительными кибератаками. Но, как показывает трагедия в Тамблэ-Ридж, опасность того, что ИИ подпитывает массовых стрелков, уже реальна.
Сильно отредактированные документы, опубликованные Королевской канадской конной полицией в августе, показали, что камеры видеонаблюдения в средней школе Тамблэ-Ридж записали атаку. Опасения о повторной травматизации общины и риске подражательных атак могут оставить эти жуткие кадры недоступными для публики. По данным источников, с которыми говорил автор, детали расстрела свидетельствуют о том, что Ван Ростселаар применяла некоторые тактики, которые она обсуждала с ChatGPT.
Вскоре после публикации Wall Street Journal в феврале OpenAI направила руководителей в Оттаву для встречи с канадскими государственными лидерами и опубликовала открытое письмо, в котором говорилось: «Исходя из того, что мы могли видеть на тот момент, когда [первый] аккаунт был заблокирован в июне 2025 года, мы не выявили достоверного и неотложного планирования, которое соответствовало бы нашему порогу для обращения в правоохранительные органы». В письме также говорилось, что, несмотря на наличие системы обнаружения «повторных нарушителей правил», OpenAI обнаружила второй аккаунт Ван Ростселаар только «после того, как имя исполнителя расстрела в Тамблэ-Ридж было раскрыто публично».
Однако OpenAI не объяснила, почему она, по всей видимости, не обнаружила второй аккаунт летом 2025 года, когда, по данным Wall Street Journal, группа руководителей компании собралась для изучения около 10 случаев, помеченных как связанные с обсуждением насилия и школьных расстрелов (остаётся неясным, входили ли туда переписки Ван Ростселаар). Компания также не объяснила, почему она не обнаружила второй аккаунт Ван Ростселаар в последующие месяцы перед атакой, когда она продолжала использовать его, сосредоточившись на насилии.
Два аккаунта ChatGPT Ван Ростселаар были зарегистрированы под разными именами и адресами электронной почты, но, вероятно, могли быть идентифицированы как принадлежащие одному пользователю иными способами, по словам источников, с которыми говорил автор. Технологические компании обычно используют технологии «отпечатков» (fingerprinting) для предотвращения злоупотреблений, а собственные публикации OpenAI утверждают, что компания обладает надёжными возможностями для обнаружения злоупотреблений и блокировки нарушителей правил. OpenAI не ответила на вопросы о том, был ли второй аккаунт Ван Ростселаар помечен автоматизированной системой проверки или как компания впоследствии идентифицировала её второй аккаунт после расстрела.
Помимо использования ChatGPT, трагедии предшествовал длинный шлейф проблем и тревожных сигналов. У Ван Ростселаар в анамнезе были суицидальные мысли, недобровольная госпитализация и тревожное поведение, включая злоупотребление наркотиками и активное взаимодействие в интернете с насильственным и экстремистским контентом. Она бросила школу за несколько лет до атаки, а в 2023 году полиция приезжала к ней домой после того, как она устроила пожар, находясь под воздействием галлюциногенных грибов. В какой-то момент полиция изъяла оружие из дома, которое позже было возвращено (это не было оружие, использованное в атаке, по данным властей).
В судебном ходатайстве, поданном 2 сентября с целью прекратить иски жертв, OpenAI заявила, что не может нести ответственность за насилие Ван Ростселаар в свете «системных сбоев правоохранительных органов, учреждений психического здоровья и образовательных учреждений в её общине». Компания также предположила, что виноваты могут быть слабые регулирования оружия в Британской Колумбии в отношении психического здоровья. Однако, по мнению экспертов, более полная картина использования ChatGPT Ван Ростселаар может свидетельствовать о другом выводе: если бы местные власти, уже обеспокоенные её поведением и психическим здоровьем, были проинформированы о переписке, сильные признаки суицидальности и подготовки атаки могли бы побудить к вмешательству. Лидеры в области поведенческой оценки угроз, с которыми автор изучал контент из аккаунтов ChatGPT стрелков из Тамблэ-Ридж и Университета штата Флорида, подтвердили, что этот контент указывал на высокий риск насилия (эти источники отказались быть публично названы, обсуждая активные расследования).
Сама OpenAI выразила сожаление по поводу того, что не обратилась в канадские власти. «Я глубоко сожалею, что мы не уведомили правоохранительные органы об аккаунте, заблокированном в июне», — написал генеральный директор Сэм Альтман более чем через два месяца после атаки, в письме, адресованном общине Тамблэ-Ридж в апреле этого года. OpenAI также заявила после расстрела, что, основываясь на усовершенствованиях, внесённых в протоколы безопасности, «мы бы сообщили в правоохранительные органы об аккаунте, заблокированном в июне 2025 года, если бы обнаружили его сегодня».
Письмо-извинение Альтмана не упоминало второй аккаунт Ван Ростселаар, использовавшийся до дня атаки. Примечательно, что её переписка 10 февраля о времени школьных расстрелов повторяла последние переписки стрелка из Университета штата Флорида в апреле 2025 года. Тот исполнитель спрашивал ChatGPT, когда студенческий союз FSU, который он выбрал целью, будет наиболее заполнен людьми. Ван Ростселаар не могла знать о роли ChatGPT в атаке во FSU, которая не стала публичной до года после происшествия, но OpenAI знала.
«После того, как мы узнали об инциденте [во FSU] в конце апреля 2025 года, — сказал представитель OpenAI в заявлении этой весной, после того как власти Флориды раскрыли роль технологии, — мы выявили аккаунт ChatGPT, который, как считается, был связан с подозреваемым, оперативно поделились этой информацией с правоохранительными органами и сотрудничали с властями».
Через четыре месяца после расстрела во FSU, в августе 2025 года — том же месяце, когда ChatGPT общался с Ван Ростселаар о гипотетической атаке с дробовиком, — OpenAI опубликовала статью, признающую, что защитные механизмы ChatGPT «могут деградировать» в «длительных взаимодействиях» и что иногда система безопасности «недооценивает серьёзность того, что она видит». Компания написала, что работает над решением этой проблемы «сбоя». Насильственная переписка Ван Ростселаар продолжалась ещё шесть месяцев, пока она не открыла огонь.
В ответ на вторую волну исков жертв, поданных в сентябре, директор по стратегии OpenAI Джейсон Квон опубликовал в соцсетях объёмное заявление: «Не проходит и дня, чтобы я не думал о том, что произошло в Тамблэ-Ридж, или о жертвах этой разрушительной трагедии и их семьях, — написал он. — Это постоянное и трезвящее напоминание о важной и невероятно сложной работе, которую многие люди в моей команде выполняют каждый день». Затем он опроверг некоторые обвинения в исках относительно роли руководителей OpenAI и в общих чертах описал внутреннюю структуру компании и подход к предотвращению такого вреда.
На следующий день премьер Британской Колумбии Дэвид Эби осудил OpenAI за отказ от процесса медиации по искам и трагедии в Тамблэ-Ридж, «в которой OpenAI была замешана и внесла существенный вклад».
«Это подчёркивает, почему этим компаниям нельзя доверять, — сказал Эби, по сообщениям канадских СМИ. — Им нельзя доверить самостоятельное регулирование; им нельзя доверять в том, что они говорят».
21 сентября генеральный прокурор Британской Колумбии Ники Шарма объявила о собственном иске провинции против OpenAI, отдельном от исков жертв Тамблэ-Ридж, который направлен на возмещение значительных финансовых затрат от трагедии и привлечение OpenAI к ответственности. Городок Тамблэ-Ридж уже снёс школу, и, согласно иску, сотни травмированных детей и взрослых получили психологическую помощь.
Шарма заявила, что также призывает к изменениям в канадском уголовном кодексе: «Должна существовать человеческая и корпоративная ответственность за опасные действия ИИ».
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.