В Канаде разгорается новый скандал вокруг иммиграционной системы: отказ в ПМЖ объяснили обязанностями, которых у заявительницы никогда не было.
Речь идёт о Кеми Аде — научной сотруднице и преподавателе в университете Макмастера. В решении Immigration, Refugees and Citizenship Canada указало, что её работа связана с монтажом электрических схем, сборкой панелей и программированием — что полностью не соответствует её реальной деятельности в сфере медицинских исследований.
Сама Аде заявила, что была шокирована: подобные обязанности она никогда не указывала в заявке.
Внизу письма содержалось примечание о том, что при обработке использовался генеративный ИИ. Формально ведомство подчёркивает, что решение принял человек, а ИИ не давал рекомендаций.
Однако критики видят в этом серьёзную проблему.
Иммиграционный юрист Зейнаб Зиаи отмечает, что такие системы могут «галлюцинировать» — то есть генерировать факты, которых не существует.
Адвокат заявительницы Лука Вукелич прямо говорит: система фактически «придумала» описание работы его клиентки.
Профессор права Университета Макгилла Дженнифер Расо добавляет, что использование таких инструментов может подрывать доверие к системе, особенно если непонятно, как именно они применяются и что именно проверяет человек.
Особое беспокойство вызывает непрозрачность: власти не раскрывают, какие именно ИИ-инструменты используются и как они влияют на процесс.
На фоне огромного бэклога — около миллиона заявок, превышающих сроки обработки — ведомство активно внедряет автоматизацию для ускорения работы.
Но этот случай показывает обратную сторону: ошибки ИИ могут напрямую влиять на судьбы людей.
После огласки дело Аде пересматривается.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.