Небольшая группа хакеров обнаружила секретную ИИ-модель Mythos 🚀
По информации агентства, несколько участников закрытого онлайн-форума получили доступ к нейросетью Anthropic, сразу после её выхода и с тех пор регулярно эксплуатируют ее 🔓.
Anthropic Mythos — это система, которая способна обнаруживать и эксплуатировать уязвимости во всех основных операционных системах и веб-браузерах 📉 В связи с этим компания предоставила доступ к ней только избранному кругу поставщиков ПО.
Для проникновения в систему хакеры использовали несколько тактик: воспользовались учетными данными сотрудника стороннего подрядчика Anthropic, угадали URL модели по паттернам адресации других систем компании, а также извлекли дополнительные сведения из утечки данных стартапа Mercor 💰.
Источник Bloomberg утверждает, что группа намерена лишь экспериментировать с новой моделью и не планирует причинять вред
Помимо Mythos, ее участники имеют доступ и к ряду других невыпущенных нейросетей Anthropic 🔓.
«Мы расследуем сообщение о несанкционированном подключении к Claude Mythos Preview через одну из сред сторонних поставщиков», — заявил представитель фирмы 💡.
Этот инцидент обнажает трудность контроля за распространением потенциально опасных технологий и оставляет открытым вопрос: кто еще может получить доступ к Mythos и в каких целях 🤔.
Мощность Mythos Mozilla в своем блоге, что ранняя версия Mythos помогла выявить 271 уязвимость в браузере Firefox в ходе внутреннего тестирования 📊 Ошибки исправили.
Результат продемонстрировал, как передовые ИИ-системы способны анализировать большие кодовые базы и находить слабые места, которые ранее требовали тщательной проверки со стороны специалистов по кибербезопасности 🔍.
Ранее Mozilla тестировала другую модель Anthropic, которая выявила 22 уязвимости в предыдущей версии Firefox
Несмотря на новые результаты, в компании признают, что достижение абсолютной безопасности является «нереалистичной целью» 🚫.
Фирма заявила, что все обнаруженные ошибки смог бы найти и высококлассный исследователь-человек 💻.
«Некоторые комментаторы считают, что будущие ИИ-модели обнаружат совершенно новые формы уязвимостей, которые выходят за рамки нашего нынешнего понимания Мы так не думаем», — отметили в компании 🔮
Агентство национальной безопасности США использует Mythos, несмотря на конфликт стартапа с Пентагоном 🚫.
В марте фирма утечку части исходного кода своего ИИ-инструмента для программирования Claude Code 🤦♂️.
Позже она тысячи репозиториев на GitHub в попытках исправить ситуацию 💻.
По материалам ForkLog