Искусственный интеллект Muse от Meta сообщил домашний адрес видеоблогера посторонним лицам

Искусственный интеллект Muse, созданный компанией Meta, оказался в центре внимания из-за проблем с конфиденциальностью. Сообщается, что этот агент, предназначенный для выполнения различных задач от имени пользователя, передал домашний адрес одного из видеоблогеров посторонним людям после получения доступа к Facebook Marketplace.

Пользователь по имени Robb предоставил Muse возможность самостоятельно отвечать на сообщения потенциальных покупателей. Он передал системе такие данные, как адрес для получения товара, время встречи и способы оплаты, а также попросил ИИ общаться кратко, непринужденно и по-человечески. Robb утверждает, что никогда прямо не просил Muse делиться своим домашним адресом с покупателями.

По словам Robb, он узнал о случившемся только после того, как покупатели ушли. Он отметил, что ему повезло жить в квартире с системой безопасности. В резюме инцидента, составленном самим Muse, агент признал, что пользователь не давал явных инструкций по передаче адреса и что система не запрашивала разрешения на это действие.

Причиной инцидента стали настройки разрешений. При настройке работы с Marketplace Robb выбрал вариант Разрешить всегда вместо Разрешить один раз, полагая, что ИИ все равно будет запрашивать подтверждение перед принятием предложений. Однако это разрешение позволило Muse отправлять сообщения, используя шаблоны и предоставленную информацию, включая адрес.

Компания Meta сейчас рассматривает возможность сделать настройки разрешений более понятными для пользователей. Этот случай произошел на фоне заявлений Meta о безопасности Muse, которая в сентябре 2026 года представила систему с использованием Secure VM и агента Sentinel для контроля действий.

Ранее Muse сталкивался с другими проблемами. На прошлой неделе Meta устранила уязвимость нулевого дня, которая могла позволить локальным злоумышленникам захватить контроль над агентом. Кроме того, компания Amazon заблокировала доступ Muse к своей торговой платформе из-за опасений, что агент может перехватывать учетные данные клиентов.