Meta Muse звинуватили у цифровому стеженні й зборі досьє
Асистент Muse може не лише відповідати на запити, а й автоматично формувати цифрові профілі людей, із якими спілкується користувач. Дослідники з’ясували, що система збирає відомості про родичів, друзів і колег, навіть якщо вони ніколи не користувалися Muse або іншими сервісами Meta.
Як Muse формує профілі знайомих
Незалежний дослідник Каран Джоші разом із фахівцями The Future Society проаналізували системні промпти та файли асистента. За їхніми словами, у внутрішніх інструкціях Muse передбачено регулярне — приблизно щогодинне — створення або оновлення окремої сторінки про кожну важливу для користувача людину.
Такі профілі можуть з’являтися на основі розмов у чаті, інформації, якою користувач поділився з асистентом, а також відкритих даних. У результаті система накопичує контекст про людей, які самі не давали згоди на використання Muse.
Які відомості потрапляють до цифрового досьє
Профіль може бути не просто набором імен чи коротких нотаток. Він охоплює різні аспекти взаємин користувача з конкретною людиною:
- Основні персональні дані: ім’я, характер зв’язку з користувачем, місце проживання, професія, дні народження та інші важливі дати.
- Спільний контекст: теми, які регулярно обговорюються, спільні плани, поїздки, фінансові цілі або вже вирішені суперечки.
- Оцінка взаємин: приблизний рівень близькості, звичні моделі спілкування та можливі потреби людини в контакті.
- Поради для підтримання зв’язку: приводи зателефонувати, ідеї для продовження розмови чи рекомендації щодо подарунків.
Фактично Muse намагається побудувати не лише довідку про знайомих користувача, а й своєрідну карту його соціального оточення. На її основі асистент може пропонувати, коли та як краще відновити спілкування або підтримати стосунки.
Покупки, безпекові ризики та реакція Meta
Ідея персонального ШІ-помічника вже спричинила суперечки не тільки через обсяг зібраних даних. Питання виникли також щодо доступу Muse до сторонніх сервісів і безпеки наданих йому дозволів.
Основні претензії до асистента
- Обмеження з боку Amazon. У вересні Amazon заблокувала для Muse можливість здійснювати покупки у своєму магазині. Компанія заявила, що Meta не повідомила її заздалегідь про запуск асистента, а також висловила занепокоєння щодо безпеки облікових записів клієнтів.
- Критична вразливість у версії для Mac. Meta усунула помилку, яку могли використовувати сторонні шкідливі програми для перехоплення контролю над Muse та застосування дозволів, наданих асистенту користувачем.
- Ризики для приватності. Дослідники вважають тривожним те, що ШІ прагне дізнатися про людей майже так само детально, як близький знайомий. Вони називають це одним із проблемних наслідків безплатних цифрових сервісів.
Що пояснює Meta
У Meta стверджують, що Muse використовує лише інформацію з відкритих джерел і дані, якими користувач добровільно ділиться з асистентом. За позицією компанії, відомості зберігаються в окремій захищеній віртуальній машині кожного користувача, тому інші асистенти не мають до них доступу.
Компанія також заявляє, що користувач може в будь-який момент очистити пам’ять Muse. Водночас це не розв’язує головного етичного питання: люди, про яких система створює профілі, можуть навіть не знати про таке накопичення інформації та не мати можливості безпосередньо на нього вплинути.
Ситуація з Muse показує, наскільки глибоко персональні асистенти можуть аналізувати приватне життя. Навіть якщо дані зберігаються ізольовано та походять із відкритих джерел, поєднання окремих фактів здатне створити детальний портрет людини без її прямої згоди.
