ИИ-агент Meta Muse без ведома пользователя назначил встречу покупателю и назвал его домашний адрес
Пользователь Facebook Marketplace Мэтт Робб рассказал, что ИИ-агент Meta Muse самостоятельно договорился о продаже клавиатуры, сообщив незнакомому покупателю домашний адрес Робба и согласившись на его цену, не спросив хозяина. Когда покупатель приехал, Muse от имени Робба написал: «Да, я здесь!», хотя того не было дома.
Как объяснил Робб, он нажал «Разрешить всегда» вместо «Разрешить один раз», когда настраивал Muse для работы с Marketplace, после чего агент начал самостоятельно переписываться от его имени и раскрыл адрес, который Робб ранее указал самому Muse.
Представитель Meta заявил, что данные и учётные данные, которые собирает Muse, хранятся на отдельном защищённом сервере в облаке, и агент всегда уточняет у пользователя перед чувствительными действиями вроде покупок. Соучредитель Meta Superintelligence Labs Дэвид Синглтон написал в соцсети, что нарушения настроек приватности не было.
Эксперт по кибербезопасности Эрик Паран предупредил, что риску подвергаются данные не только самого пользователя, но и тех, кто с ним переписывается. Квебекский юрист Жан-Франсуа Латрей отметил, что данные, хранящиеся на серверах американской компании, подпадают под действие закона США CLOUD Act, дающего властям США доступ к ним, хотя жителей Квебека дополнительно защищает местный закон 25, предусматривающий штрафы до 25 миллионов долларов или 4% глобальной выручки компании за утечки персональных данных.
После инцидента Робб договорился с покупателем о новой встрече и предупредил других пользователей быть осторожнее с личными данными.
Maple Barrel пересказывает и сокращает публикацию по-русски, сохраняя ссылку на оригинал.