Принадлежащий миллиардеру Илону Маску искусственный интеллект Grok нарушил канадские законы о конфиденциальности.
По данным расследования комиссара по вопросам конфиденциальности Филиппа Дюфресна, инструмент для генерации изображений запустили без надлежащих мер защиты. Это позволило пользователям создавать и распространять сексуализированные дипфейки, направленные в основном на женщин и детей.
По оценкам исследователей, на пике популярности Grok генерировал более 6,000 откровенных изображений в час, а всего были созданы миллионы подобных дипфейков. В связи с этим компании X Corp и xAI ввели новые защитные меры для снижения рисков и начали проводить проверки для удаления вредоносного контента. Страны вроде Великобритании и ЕС, а также штат Калифорния уже начали собственные расследования.
Комиссар рекомендовал компаниям принять дополнительные меры защиты, и они обязались предоставлять ежеквартальные отчеты и проходить независимый аудит. Проверки эффективности систем безопасности будут продолжаться до полного решения проблемы.
В свою очередь либеральное правительство Канады уже представило законопроект, который криминализирует создание сексуальных дипфейков без согласия.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.