Злоумышленники использовали AI-ассистента службы поддержки Meta для массового захвата аккаунтов в Instagram 🚀
Они применили метод прямой «промпт-инъекции», прося чат-бота сменить привязанный к профилю адрес электронной почты 📞 Единственным дополнительным условием для успеха операции было использование VPN, чья геолокация совпадала с данными истинного владельца.
После того как бот менял email в настройках без дополнительной проверки личности, атакующие инициировали стандартную процедуру сброса пароля и получали полный контроль над страницей 📊
Это было действительно печально!
Масштаб проблемы оказался большим: среди скомпрометированных профилей оказались архивный аккаунт Белого дома времен Барака Обамы, страница главного сержанта Космических сил США Джона Бентивеньи и официальный профиль бренда Sephora 🤯!
В профиле Белого дома хакеры успели разместить проиранские посты, а другие злоумышленники охотились за редкими «короткими» юзернеймами для их дальнейшей перепродажи на теневых форумах 💰.
Инструмент Meta AI Support Assistant запущен в марте, и компания позиционировала его как решение для автоматизации восстановления доступа «от начала до конца» 📈.
Представитель корпорации Энди Стоун заявил об исправлении уязвимости, и компания говорит, что они сейчас защищают поврежденные аккаунты 🚫.
Эксперты подчеркнули, что Meta пренебрегла тщательным «красным тестированием» перед внедрением ИИ в такие критические узлы, как управление настройками безопасности ⚡!
Это еще раз доказывает, что мы должны быть внимательными, когда работаем с технологиями и должны помнить, что безопасность – это главная задача в любой системе!
По материалам ForkLog