ИИ-агент Muse от Meta собирает данные знакомых пользователей
Новый персональный ИИ-помощник Muse от Meta спустя месяц после релиза был скачан миллионы раз и занял первое место в Apple App Store. Приложение запрашивает доступ к контактам, перепискам и банковским счетам, собирая информацию не только о пользователях, но и об их окружении без их согласия.
Массовый сбор данных и интерфейс с элементами манипуляции
Приложение Muse создано для автоматизации рутинных повседневных задач пользователей, таких как заполнение счетов или отправка электронной почты. Для полноценной работы виртуальный помощник запрашивает широкие доступы к конфиденциальной информации, включая банковские счета, пароли, списки контактов и чаты.
Эксперты по кибербезопасности отмечают, что интерфейс приложения устроен так, чтобы стимулировать пользователей делиться максимумом информации. Из-за сложных настроек приватности люди часто непреднамеренно передают ИИ гораздо больше данных, чем предполагали изначально.
Проблема согласия третьих лиц и создание профилей
Главная претензия к ИИ-агенту заключается в том, что пользователи, устанавливающие приложение, передают нейросети не только собственную информацию, но и личные данные своих друзей, родственников и коллег. В результате Muse строит подробные досье и профили людей, которые никогда не давали согласия на обработку своей информации.
Исследователи безопасности выяснили, что внутренние алгоритмы приложения ежечасно компилируют и обновляют профили каждого человека из жизни пользователя. Система отслеживает характер и прочность личных связей, чтобы формировать персонализированные рекомендации.
Позиция Meta и инциденты с утечками данных
Представители Meta заявляют, что Muse собирает контекст только на основе публичной информации и того, чем сам пользователь решил поделиться с приложением. Компания подчеркивает, что все доступы к сообщениям и другим чувствительным данным являются полностью опциональными, а пользователи могут настроить параметры конфиденциальности.
Тем временем на фоне конкурентной борьбы на рынке, где Google и Meta вернулись в лидеры гонки ИИ с новыми моделями, пользователи уже столкнулись с первыми тревожными инцидентами. Некоторые владельцы жаловались на случайный доступ ИИ к миллионам текстовых сообщений, а в одном из случаев приложение по ошибке передало домашний адрес техноблогерa постороннему человеку.
Что это значит для пользователей
- Инструмент полезен тем, кто хочет полностью автоматизировать рутинные задачи, вроде отправки писем или работы со счетами.
- Компания пока не сообщила подробных данных о стоимости и полной географии доступности приложения, кроме того, что оно заняло первое место в App Store.
- Главный риск заключается в компрометации приватности: приложение анализирует переписки и собирает информацию о людях из вашей телефонной книги без их ведома.
- В отличие от традиционных чат-ботов, ИИ-агенты глубоко интегрируются в личные данные и создают почасовые психологические профили вашего окружения на основе чужих соглашений.
Источник: theverge.com
Обсудить в Telegram
