Искусственный интеллект Grok нарушил законы Канады и создавал 6 тысяч сексуальных дипфейков в час: расследование

Принадлежащий миллиардеру Илону Маску искусственный интеллект Grok нарушил канадские законы о конфиденциальности.

По данным расследования комиссара по вопросам конфиденциальности Филиппа Дюфресна, инструмент для генерации изображений запустили без надлежащих мер защиты. Это позволило пользователям создавать и распространять сексуализированные дипфейки, направленные в основном на женщин и детей.

По оценкам исследователей, на пике популярности Grok генерировал более 6,000 откровенных изображений в час, а всего были созданы миллионы подобных дипфейков. В связи с этим компании X Corp и xAI ввели новые защитные меры для снижения рисков и начали проводить проверки для удаления вредоносного контента. Страны вроде Великобритании и ЕС, а также штат Калифорния уже начали собственные расследования.

Комиссар рекомендовал компаниям принять дополнительные меры защиты, и они обязались предоставлять ежеквартальные отчеты и проходить независимый аудит. Проверки эффективности систем безопасности будут продолжаться до полного решения проблемы.

В свою очередь либеральное правительство Канады уже представило законопроект, который криминализирует создание сексуальных дипфейков без согласия.