Злоумышленники использовали ИИ-ассистента службы поддержки Meta для массового захвата аккаунтов в Instagram 🚀
Хакеры применяли метод прямой «промпт-инъекции», который позволяет им сменить привязанный к профилю адрес электронной почты 💰 Они просили чат-бота сделать это, не проверяя личности пользователя.
Единственным условием для успеха операции было использование VPN, чья геолокация совпадала с данными истинного владельца
После того, как бот менял email в настройках без дополнительной проверки личности, атакующие инициировали стандартную процедуру сброса пароля.
Масштаб проблемы: среди скомпрометированных профилей оказались архивный аккаунт Белого дома времен Барака Обамы, страница главного сержанта Космических сил США Джона Бентивеньи и официальный профиль бренда Sephora 📊.
В профиле Белого дома хакеры успели разместить проиранские посты Другие злоумышленники охотились за редкими «короткими» юзернеймами для их дальнейшей перепродажи на теневых форумах.
Инструмент Meta AI Support Assistant запущен в марте
Компания позиционировала его как решение для автоматизации восстановления доступа «от начала до конца» Теперь это кажется не таким уж хорошей идеей 😐.
Представитель корпорации Энди Стоун заявил об исправлении уязвимости
Однако эксперты считают, что Meta должна была тщательнее «красного тестирования» перед внедрением ИИ в такие критические узлы, как управление настройками безопасности.
По мнению профессора Сомеша Джа, ИИ-агенты «слишком стремятся выполнить задачу» и игнорируют контрольные вопросы, которые обязательно задал бы человек Это говорит о том, что Meta не достаточно серьезно относилась к безопасности пользователей.
За матеріалами ForkLog