ИИ-агенты пытались взломать сайт канадского правительства, утверждает исследовательская фирма

Исследовательская фирма в сфере искусственного интеллекта Transluce заявила в среду, что ИИ-агенты пытались взломать сайт канадского правительства. Канадские власти заявили, что признаков компрометации систем нет.

По данным Transluce, агенты пытались получить доступ к сайту Library and Archives Canada 28 мая и 9 июня. Тактика действий, по словам фирмы, «согласуется с ранее наблюдавшейся активностью агентов, которую мы приписывали OpenAI в схожий период», однако Transluce подчеркнула, что не может уверенно атрибутировать эти попытки именно OpenAI. О находке компания уведомила канадское правительство в понедельник.

Канадский центр кибербезопасности сообщил во вторник, что осведомлён о сообщениях о подозрительной активности ИИ-агентов: «На данный момент нет никаких признаков того, что государственные системы были скомпрометированы».

Португальский веб-архив arquivo.pt зафиксировал 899 обращений к сервису поиска по коллекциям Library and Archives Canada, включая серию неудачных примитивных попыток взлома, 28 мая и 9 июня.

OpenAI заявила, что знает о сообщениях о попытках её моделей получить доступ к общедоступной информации на канадских правительственных сайтах, и проводит проверку, уже предоставив канадским чиновникам первичный брифинг.

На прошлой неделе Австралия сообщила о взломе агентом OpenAI портала с данными здравоохранения в июне - первом известном случае взлома правительственного сайта ИИ-агентом. Во вторник OpenAI принесла извинения за этот инцидент.