Коротко

  • ШІ-агент Muse від Meta сказав колумністу Джейсону Атену, що бачив лише попередній перегляд сповіщень з його Mac, але насправді синхронізував понад 187 000 рядків його приватних iMessages, попри те що він відхилив такий доступ.
  • Девід Сінглтон з Meta Superintelligence Labs назвав пояснення Muse «наша провина», вигаданим описом власної функції, і окремо підтвердив, що інша галюцинація змусила агента Muse іншого користувача перевіряти його Gmail.
  • Amazon заблокував Muse від покупок на своєму сайті через нерозкриту активність агента та захоплення облікових даних, оскільки Muse перевищив 2,5 мільйона завантажень від моменту запуску 8 вересня.

Новий персональний ШІ-агент Meta, Muse, прочитав приватні iMessages технічного колумніста без його дозволу, а потім дав йому хибне пояснення того, як він дізнався, що в них міститься.

Джейсон Атен, колумніст Inc., встановив Muse на свій iPhone та Mac, коли Meta запустила агента 8 вересня. Він каже, що чітко відмовився надавати йому доступ до своїх Повідомлень, календаря чи інших особистих даних.

Myriad: Яка компанія проведе IPO наступною? Натисніть, щоб зробити свій прогноз.
Myriad: Яка компанія проведе IPO наступною? Натисніть, щоб зробити свій прогноз.

Через кілька днів Muse надіслав йому сповіщення з пропозицією написати колонку про розмову, яку він щойно мав зі своїм співведучим подкасту про нові iPhone. Він навіть показав повідомлення від його редактора про наближення дедлайну.

Атен запитав Muse, звідки він це знає. Той відповів, що спарений застосунок Muse на його Mac лише передавав попередній перегляд сповіщень: «Це лише потік вхідних сповіщень, а не доступ до ваших текстів».

Це було неправдою. Насправді Muse синхронізував повідомлення з приватної бази даних Messages на Mac — дія, яка вимагає Full Disk Access у macOS, дозволу на рівні системи, що дає застосунку змогу читати файли будь-де на комп'ютері, а не лише у власній теці. На момент, коли Атен перевірив, він синхронізував понад 187 000 рядків його історії повідомлень.

Девід Сінглтон, який очолює Meta Superintelligence Labs, відповів у Threads, заявивши, що це функція, яку вмикає користувач.

Атен заперечує натяк на те, що він колись перемикав той перемикач. Він каже, що доступ до Messages відображався як увімкнений у налаштуваннях Muse, попри те що він відхилив його під час налаштування, і що Meta не відповіла на його запитання про те, як це сталося.

BitcoinBTC · USD

$84,233+10%

16 вер18 вер20 вер22 вер23 вер

$87.2k$83.3k$79.5k$75.7k

24г МаксМакс$87,251

24г МінМін$83,654

ОбсОбс$1.9B

Ринкові прогнозиКоефіцієнти від Myriad

Цього тижняВище $84,000Вище $84k56% ймовірністьЦього місяцяВище $84,000Вище $84k56% ймовірність

→

Купити Bitcoin за USDT

Працює на Jupiter

Дані про ціни від CoinGeckoCoinGeckoБільше Bitcoin новин та прогнозів →

Інші репортери також виявили схильність Meta до надмірного втручання. Ріс Роджерс у WIRED повідомив, що Muse постійно підштовхував його до прив’язки банківських рахунків, сканування вхідних листів електронної пошти та фотографування паспорта й водійського посвідчення, описуючи кожну нову пропозицію як ще один спосіб отримати його особисті дані.

Відтоді Amazon заблокував Muse від покупок на своєму сайті взагалі. Компанія заявляє, що агент не ідентифікує себе як ШІ-агент під час перегляду та, схоже, здатен захоплювати й зберігати облікові дані клієнтів, а також що Meta взагалі не повідомила Amazon про те, що її агент відвідуватиме магазин.

Уся концепція Muse ґрунтується на контролі користувача. Матеріали запуску Meta стверджують, що кожна людина «залишається під контролем свого Muse і вирішує, який обсяг доступу він отримає», поряд із обіцянками захисту приватності, вбудованого з самого початку. Читання повідомлень, якими користувач відмовився поділитися, а потім вигадування розповіді про те, як це сталося, прямо суперечить цій концепції.