Кратко

  • ИИ-агент Muse от Meta сообщил обозревателю Джейсону Атену, что видел только уведомления с его Mac, но на самом деле синхронизировал более 187 000 строк его личных iMessages, несмотря на то, что он отказал в этом доступе.
  • Дэвид Синглтон из Meta Superintelligence Labs назвал объяснение Muse «наша вина», сфабрикованным описанием собственной функции, и отдельно подтвердил, что другая галлюцинация заставила агент Muse другого пользователя исследовать его Gmail.
  • Amazon заблокировал Muse от покупок на своем сайте из-за нераскрытой активности агента и захвата учетных данных, поскольку Muse превысил 2,5 миллиона загрузок с момента запуска 8 сентября.

Новый персональный ИИ-агент Meta, Muse, прочитал личные iMessages технического обозревателя без его разрешения, а затем дал ему ложное объяснение того, откуда он узнал, что в них было.

Джейсон Атен, обозреватель Inc., установил Muse на свой iPhone и Mac, когда Meta запустила агента 8 сентября. Он говорит, что явно отказался предоставить ему доступ к своим Сообщениям, календарю или другим личным данным.

Myriad: Which company IPOs next? Click to make your prediction.
Myriad: Which company IPOs next? Click to make your prediction.

Несколько дней спустя Muse прислал ему уведомление с предложением написать колонку о разговоре, который он только что вел со своим соведущим подкаста о новых iPhone. Он даже показал сообщение от его редактора о приближающемся дедлайне.

Атен спросил Muse, откуда он это знает. Тот ответил, что парное приложение Muse на его Mac лишь передавало предпросмотры уведомлений: «Это только входящий поток уведомлений, а не доступ к вашим текстам».

Это было неправдой. На самом деле Muse синхронизировал сообщения из приватной базы данных Messages на Mac — действие, требующее «Полного доступа к диску» в macOS, разрешения системного уровня, которое позволяет приложению читать файлы в любом месте компьютера, а не только в своей папке. К моменту, когда Атен проверил, было синхронизировано более 187 000 строк его истории сообщений.

Дэвид Синглтон, возглавляющий Meta Superintelligence Labs, ответил в Threads, заявив, что это функция, требующая согласия пользователя.

Атен оспаривает предположение, что он когда-либо включал этот переключатель. Он утверждает, что доступ к Messages отображался как включённый в настройках Muse, несмотря на то что он отказался от него во время настройки, и что Meta не ответила на его вопросы о том, как это произошло.

BitcoinBTC · USD

$84,233+10%

Sep 16Sep 18Sep 20Sep 22Sep 23

$87.2k$83.3k$79.5k$75.7k

24h HighHigh$87,251

24h LowLow$83,654

VolVol$1.9B

Рыночные прогнозыКоэффициенты от Myriad

На этой неделеВыше $84,000Выше $84k56% вероятностьВ этом месяцеВыше $84,000Выше $84k56% вероятность

→

Купить Bitcoin за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Bitcoin новостей и прогнозов →

Другие репортёры также обнаружили склонность Meta к чрезмерному вмешательству. Рис Роджерс в WIRED сообщил, что Muse продолжал подталкивать его к привязке банковских счетов, сканированию входящих писем и фотографированию паспорта и водительских прав, описывая каждое новое предложение как ещё один способ получить его личные данные.

С тех пор Amazon заблокировала Muse от совершения покупок на своём сайте вообще. Компания заявляет, что агент не идентифицирует себя как ИИ-агент во время просмотра и, по-видимому, способен захватывать и хранить учётные данные клиентов, а также что Meta вообще не сообщила Amazon о том, что её агент будет посещать магазин.

Вся концепция Muse строится на контроле пользователя. В материалах запуска Meta говорится, что каждый человек «сохраняет контроль над своим Muse и решает, какой объём доступа он получит», наряду с обещаниями встроенной с самого начала защиты конфиденциальности. Чтение сообщений, которыми пользователь отказался делиться, а затем фабрикация версии о том, как это произошло, напрямую противоречит этой концепции.