Компания OpenAI сообщила, что заблокировала аккаунт, связанный с 17-летней Джесси Ван Рутселар в июне прошлого года.
В ответ на запрос CBC News компания заявила, что активность аккаунта была выявлена автоматическими системами и в ходе ручной проверки — как возможное «нецелевое использование моделей для содействия насилию». При этом в июне 2025 года действия пользователя не достигли «более высокого порога», необходимого для передачи информации правоохранительным органам.
По объяснению OpenAI, такой порог предполагает «непосредственную и достоверную угрозу серьёзного физического вреда». В случае с Ван Рутселар этот критерий, по версии компании, не был выполнен.
Королевская канадская конная полиция подтвердила, что после стрельбы платформа сама вышла на связь с правоохранителями и передала информацию. Однако, как уточнили в Royal Canadian Mounted Police, изначально аккаунт был отмечен только внутренне.
Джесси Ван Рутселар была названа полицией человеком, который 10 февраля застрелил восемь человек в северо-восточной части Британской Колумбии — пятерых детей и ассистента преподавателя в средней школе Тамблер-Ридж, а также двух человек в частном доме, после чего покончила с собой.
OpenAI заявила, что её чат-бот обучен избегать предоставления советов, способных привести к немедленному физическому вреду. Компания добавила, что случаи возможной подготовки к насилию передаются в специализированные группы проверки, уполномоченные блокировать аккаунты.
Сейчас OpenAI пересматривает критерии передачи информации правоохранительным органам, чтобы понять, требуется ли их корректировка.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.