Торонто
MapleBarrel Поддержать
Новость · Технологии и ИИ

Исследователи: законопроект C-36 оставляет медицинские данные канадцев без надёжной защиты

CBC 3 минуты чтения

Исследователи в области здравоохранения раскритиковали федеральный законопроект C-36 о защите приватности и потребительских данных. В комментарии в Canadian Medical Association Journal (CMAJ) они пишут, что документ «содержит критические пробелы, из-за которых чувствительные медицинские данные остаются уязвимыми».

Летом федеральное правительство объявило об обновлении законов о приватности в частном секторе. Приватность должна стать фундаментальным правом, решения автоматизированных систем, включая ИИ, станут прозрачнее, а в ряде случаев люди смогут потребовать удалить свои данные. В правительстве назвали законопроект «ключевым элементом» стратегии AI for All.

Главная претензия авторов — к понятию «законного интереса». По законопроекту компания может собирать, использовать и раскрывать личные данные без ведома и согласия человека, если у неё есть «законный интерес», который перевешивает «разумно предвидимый» вред для него. «Тревожно то, что решение принимает сама компания», — говорит соавтор комментария Шерил Спитхофф, исследователь-клиницист из больницы Women's College в Торонто. По её словам, это даёт компаниям значительную свободу использовать данные пациентов без согласия. Компании обязаны документировать свой интерес и оценивать риски для приватности, но Спитхофф считает, что они должны с самого начала сообщать о нём регуляторам, а сама норма должна применяться лишь в редких случаях. Для медицинской информации, по её словам, нужны более высокие стандарты. Авторы напоминают, что общий регламент ЕС по защите данных требует высокой степени доказательств и не ставит «законный интерес» выше фундаментальных прав и свобод владельцев данных. В C-36 таких ограничений нет.

Канцелярию министра по вопросам ИИ Эвана Соломона спросили, что считается «законным интересом» и как не допустить продажи медицинских данных частным компаниям. В ответ повторили определение из законопроекта и сообщили, что организации должны оценивать риски для приватности и снижать их. Какие именно это меры, не уточнили.

Вторая проблема — деперсонализация. Законопроект требует «деидентифицировать» данные, изменяя имена и номера медицинских карт, но риск повторной идентификации сохраняется, и с развитием ИИ он растёт. «Есть очень реальные опасения, что ничто больше нельзя properly или полностью анонимизировать… при том объёме других доступных данных и мощи технологий ИИ», — сказала Тереза Скасса, профессор Оттавского университета и ещё один автор комментария. Человека могут отнести к группе высокого риска по дорогому в лечении заболеванию, и тогда он не сможет получить некоторые виды страхования. Умышленная повторная идентификация по законопроекту будет правонарушением, но доказать её трудно.

Кроме того, закон охватывает только деидентифицированные данные, а анонимизированные, то есть «необратимо и навсегда» лишённые личных сведений, остаются за его рамками. Именно на таких данных обучают системы ИИ. «Есть риски использования информации в системах искусственного интеллекта, а у нас нет средств это регулировать», — сказала Скасса. Анонимные данные нередко отражают общественные предубеждения, и ИИ может дискриминировать людей с общими признаками. В США, например, широко применявшийся алгоритм распределения больничных ресурсов выделял меньше ресурсов чернокожим, чем белым: он опирался на прошлое использование ресурсов системы здравоохранения.

Не все врачи настроены так критично. Амол Верма из больницы St. Michael's в Торонто руководит сетью VITAL, которая даёт организациям по всей стране доступ к деидентифицированным данным больниц. По его словам, это помогло повысить эффективность стационарной помощи и безопасно сократить время пребывания в больнице. «Единственный способ получить инновации с данными в нашей системе здравоохранения — идти рука об руку с инновациями в защите приватности», — сказал он.

Источник: CBC →
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.
ТоронтоЭван Соломон
Читайте дальше

По теме

Раз в неделю · без лишнего

Канада за неделю - в одной картине

Главные темы, последствия и материалы, которые стоит сохранить. Отобрано и собрано редакцией Maple Barrel.