Оттава внедряет ИИ в госаппарат без общих правил, обучения и прозрачности
В федеральной Канаде нет обязательных правил для генеративного ИИ: после отказа в ПМЖ из-за «выдуманных» обязанностей заявительницы колумнист показывает, что власти не могут объяснить, как работают их системы.

Колин Хорган, автор The Walrus, пишет о том, как федеральные ведомства Канады используют ИИ. Его отправная точка — история Кеми Аде, постдока и приглашённого преподавателя Университета Макмастера. Она специалист по иммунологии старения, то есть именно тот высококвалифицированный иммигрант, которого Канада старается привлечь. В прошлом году она подала заявление на постоянное проживание. По словам её юриста, она была «идеальным кандидатом». Ей отказали: Министерство иммиграции, беженцев и гражданства (IRCC) сослалось на обязанности, которые ей не принадлежали, например на монтаж управляющих схем и сборку панелей для станков и роботов. Из письма об отказе следовало, что при обработке использовали генеративный ИИ. В IRCC уверяют, что последнее слово всегда за человеком. Юрист ответил Toronto Star: «Я не могу понять, как какой-либо человек мог принять такое решение. Каким-то образом он выдумал должностные обязанности моей клиентки».
По мнению Хоргана, это лишь малая часть куда более масштабного и непрозрачного эксперимента. Правительство Марка Карни вкладывается в ИИ и считает его необходимым для будущего экономики, а ведомства применяют его для всего: от перевода до выявления угроз нацбезопасности. Но бизнес может сначала думать о прибыли, а государство отвечает перед гражданами, и стандарты для него должны быть выше. Между тем ИИ остаётся одним из самых ненадёжных инструментов. Генеральный аудитор Онтарио сообщил в 2026 году, что одобренные ИИ-скрибы выдумывали сведения о пациентах в 45% случаев, записывали неверные лекарства в 60% и упускали ключевые детали о психическом здоровье в 85%. При этом, пишет автор, ясности о том, как ИИ используют федеральные служащие, поразительно мало. Правительство раздроблено на ведомства-«королевства», единой стратегии нет, а коммерческая тайна закрывает купленные инструменты от проверки.
Оттава не была застигнута врасплох. Белая книга по ответственному ИИ появилась в 2016 году, а в 2019-м — Директива об автоматизированном принятии решений (DADM). Это до сих пор единственный обязывающий федеральный документ по теме. Директива требует оценки риска и тем более строгих гарантий, чем выше ставки: тестирования, объяснений, вмешательства человека, рецензирования, обучения и путей обжалования. Но она писалась для систем с заранее заданными правилами, а не для генеративных моделей, которые непредсказуемы, всегда выдают ответ, даже неверный, и могут пропускать чувствительные данные. Первые документы об их рисках Оттава выпустила только в сентябре 2023 года, почти через год после появления ChatGPT: руководство Казначейского совета и добровольный кодекс министерства инноваций (ISED). Оба необязательны.
Последствия видны по опросу KPMG среди работников госсектора Канады (в него вошли и провинциальные, и муниципальные служащие). Почти половина часто использует ИИ в работе, а из них половина пользуется публичными инструментами. Около 40% не имели понятной политики по данным или не знали о ней, 60% не проходили обучения по работе с данными. Обязательное обучение есть не везде. В Министерстве занятости и социального развития (ESDC) его надо пройти до марта 2027 года. В IRCC обучение необязательно, а на прямой вопрос ведомство не назвало, какими публичными инструментами пользуются его сотрудники. Под угрозой, замечает автор, персональные данные десятков миллионов канадцев: здоровье, налоги, иммиграционный статус, судимости.
Собственный защищённый чат-бот правительства CANChat, запущенный в пилотном режиме в конце 2024 года, обещает безопасную альтернативу. Он даёт доступ к разным моделям, а данные остаются под канадским контролем. Но, по словам источников, внедрение почти не продвинулось: один чиновник вспомнил лишь пару писем о нём за год. Служащих же постоянно призывают осваивать ИИ. В итоге возникают обходные пути: документ отправляют на личную почту, правят в публичном ИИ и возвращают обратно. Что показывает опыт Онтарио: за пять месяцев 2025 года сотрудники провинциальной службы получили доступ примерно к 400 ИИ-сайтам, около 60% из них Microsoft Defender счёл небезопасными. Обязательное обучение прошли лишь 3%, а единственный одобренный сервис, Copilot Chat, получил только 6% визитов. Правила, обучение и инструмент были, но люди пошли в другое место. Аудитор Онтарио предлагает блокировать небезопасные сайты, сделать обучение обязательным, направлять сотрудников к одобренному инструменту и проверять, пользуются ли им. Будет ли федеральный аудитор проводить такую проверку, он публично не сказал.
Пока канадцы, считает Хорган, узнают об ИИ в госслужбе лишь когда что-то ломается. Урок уже был с ArriveCAN: летом 2022 года из-за «сбоя» более 10 000 путешественников получили автоматические уведомления о карантине, хотя отправили все данные и подтверждение вакцинации. Правительство уверяло, что решения принимали сотрудники пограничной службы, но уполномоченный по защите частной жизни выяснил, что проверка человеком не опиралась на «точную информацию». Да и сам «человек в контуре» защищает слабо: исследования показывают, что люди редко отменяют рекомендацию ИИ, особенно при потоке дел. Иммиграционные юристы уже связывают несправедливые отказы по визам с компьютерными инструментами IRCC.
Джоанна Реддин из Западного университета с командой с 2015 года составляла базу TAG Register Canada, где собрала более 300 записей об автоматизированных системах. Федеральный публичный реестр ИИ, появившийся в конце 2025 года, содержит 412 заявленных систем: от расшифровки подписей к коллекциям насекомых в Минсельхозе до инструмента с распознаванием лиц у пограничной службы. Но Реддин, по её словам, документирует ещё и «где есть повод для беспокойства», и считает, что реестр должен делать то же самое. Оценок алгоритмического воздействия на портале открытых данных опубликовано лишь 44. Мэтт Мэлоун из Центра международных инноваций в сфере управления отмечает: если бы решения об иммиграции поручили нанятому человеку, ожидалась бы ответственность, а «вокруг технологий эти ожидания каким-то образом размываются». Решение, по его словам, нередко полностью вытесняется доверием к выводам ИИ. Пример — майское дело женщины, которая пыталась остановить высылку в Мексику и защищала себя сама. Министерство за короткое время подготовило с помощью ИИ подробные письменные доводы и 400 страниц материалов, суд принял это во внимание, а её ходатайство отклонил. Решал человек, но то, что он видел, уже отобрал, пересказал и выстроил ИИ.
Вывод автора: ИИ в госслужбе не надо запрещать, он может сделать услуги доступнее и ускорить медленные процессы, включая иммиграционные, а бодрая позиция правительства Карни в целом верна. Но управление должно поспевать за внедрением, а решение нельзя просто передать машине. Что именно произошло с заявлением Аде, наверняка сказать нельзя: правительство не раскрывает инструменты, не требует обучения, не проводит аудит и сохраняет режим доступа к информации, при котором технологию трудно изучить. Хорган заключает: «Вопрос в том, достаточно ли этого».
Источник: thewalrus.ca →
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.