Глава BMO: Канада может выиграть в ИИ, если сделает доверие своим конкурентным преимуществом
Дэррил Уайт, глава BMO Financial Group, считает, что Канаде нужны одновременно инновации и подотчётность: соразмерные риску правила и международная координация, пока ИИ не стал причиной кризиса.

Дэррил Уайт, генеральный директор BMO Financial Group, начинает с истории тридцатидвухлетней давности. Тогда он, молодой инвестбанкир, с дискетой ходил к единственному терминалу с рыночными данными, строил в Lotus 1-2-3 график динамики акций и гордо нёс его начальнику. Тот посмотрел на график три секунды и спросил: «А как будет выглядеть другой период?» Сегодня ИИ делает такую работу за секунды, но урок, пишет Уайт, остался: первый ответ редко бывает окончательным. ИИ выдаёт первые ответы быстро и уверенно, а правильный он или нет, определяют любопытство и человеческое суждение.
Поэтому, по его словам, нужно уметь проверять сказанное ИИ, понимать, какие данные нельзя ему доверять (например, банковские пароли), и помнить, что некоторые решения должен принимать только человек. Растут и обоснованные вопросы о безопасности, приватности, справедливости и ответственности. Но «ответственный ИИ» не должен превращаться в бездействие: ответственность рождает доверие, доверие позволяет внедрять технологию, а внедрение превращает изобретения в отдачу. Это, считает Уайт, помогло бы Канаде выйти из привычного цикла: рано изобретаем, поздно коммерциализируем. Спор «инновации против регулирования» он называет ложным: нужны и то и другое.
Образцом он считает новые рекомендации Совета по финансовой стабильности: управление ИИ на уровне всей организации, контроль рисков на протяжении всего жизненного цикла системы, согласование внедрения со стратегией и аппетитом к риску. Из этого Уайт выводит два принципа.
Первый — соразмерное регулирование. Инструмент для краткого пересказа текстов не требует того же контроля, что система, от которой зависит доступ к кредиту, здравоохранению или общественная безопасность. Чем выше риск, тем строже тестирование и мониторинг. Цену промедления показали соцсети: они встроились в то, как миллиарды людей общаются, и даже в основы демократий, прежде чем общество осознало последствия, в том числе для детей. Правила пытаются ввести лишь сейчас, когда технологию почти невозможно отделить от повседневной жизни. С ИИ эту ошибку повторять нельзя.
Второй принцип — международное согласование. В финансовом секторе координация правил появлялась только после кризисов; с ИИ, по мнению Уайта, есть шанс действовать до кризиса. Недавние международные обязательства Канады по безопасности ИИ он называет обнадёживающим шагом. Разработчики передовых моделей — исследовательские лаборатории и софтверные компании, а не финансовые институты, — сами управляют новыми рисками, но эффективное регулирование должно работать поверх границ. Правила для ядерного оружия, озонового слоя и морского права не локальны, и технологии с глобальными рисками тоже нуждаются в глобальных правилах.
Канада, пишет Уайт, может предложить подход, основанный на принципах и чувствительный к риску, который подстраивается под развитие технологии. Он опирается на традицию финансового сектора: ясные принципы, сильная подотчётность, взвешенный надзор и гибкость для самих институтов. Призыв премьер-министра Марка Карни создать глобальный совет по технологической стабильности, по словам автора, уже следует этой логике.
У страны есть сильные стороны: исследования и кадры мирового уровня, растущая технологическая экосистема, избыток энергии и критические минералы, на которых держится цифровая экономика: «в конце концов, цифровое облако сделано из металла». Если соблюсти баланс, заключает Уайт, Канада станет не просто участником ИИ-революции, а страной, которая определяет, как мир ею управляет, и доверие станет её конкурентным преимуществом.
Источник: Globe and Mail →
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.