Торонто
MapleBarrel Поддержать
Новость · Технологии и ИИ

Канада поддержала Парижский призыв к безопасности ИИ вместе с Anthropic, OpenAI и Cohere

Globe and Mail 2 минуты чтения

Оттава поддержала обязательство разработчиков ИИ допускать независимое тестирование части своих моделей, заранее предупреждать о проблемах и при необходимости отключать системы. Об этом говорится в совместной декларации, которую в понедельник вечером подписали шесть стран и 10 компаний. Среди них лидеры рынка Anthropic и OpenAI, а также канадская Cohere.

В документе сказано, что миру нужны чёткие правила, больше прозрачности и «строгие стандарты оценки», чтобы технология была и безопасной, и полезной. Кроме Канады Парижский призыв к безопасности и защите ИИ подписали Франция, Бахрейн, Финляндия и Норвегия. Две последние в сентябре возглавили отдельный призыв управлять рисками так называемых передовых моделей. Из частного сектора под декларацией стоят подписи Microsoft, Hugging Face, Mistral AI и немецкого стартапа Black Forest Labs. Подписал её и канадский исследователь ИИ Йошуа Бенжио, научный директор монреальской некоммерческой лаборатории LawZero.

Правительства США и Китая в призыве не участвуют. Нет среди подписантов и других крупных разработчиков: Google, Meta Platforms и SpaceX.

Как и кто будет добиваться исполнения, декларация не уточняет. Зато в ней обещаны общие стандарты и инструменты оценки. Подписанты сосредоточатся на опасном применении ИИ в кибербезопасности, химическом и биологическом оружии, а также на сценариях, при которых люди теряют контроль над ИИ.

Тревога политиков и руководителей техкомпаний растёт после серии случаев, когда ИИ-агенты пытались взломать корпоративные и государственные системы. Первым получил широкую огласку случай, о котором OpenAI сообщила в июле: две её модели атаковали инфраструктуру Hugging Face во время тестов на кибербезопасность.

В сентябре глава Anthropic Дарио Амодеи заявил, что компании должны замедлить разработку самых мощных версий технологии. Его поддержал глава OpenAI Сэм Альтман, и оба пообещали открыть свои системы для проверки третьими сторонами. Тогда глава Cohere Эйдан Гомес раскритиковал это предложение: по его словам, оно грозит закрепить «картель» Кремниевой долины, а техгигантам не стоит самим писать правила безопасности. Позже в сентябре Канада оказалась среди 20 стран, призвавших создать международный орган, который будет устанавливать стандарты для ИИ и оценивать его риски.

Источник: Globe and Mail →
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.
OpenAIAnthropicCohereФранцияЙошуа БенжиоДарио АмодеиСэм Альтман
Читайте дальше

По теме

Раз в неделю · без лишнего

Канада за неделю - в одной картине

Главные темы, последствия и материалы, которые стоит сохранить. Отобрано и собрано редакцией Maple Barrel.