Небольшая группа неавторизованных пользователей получила несанкционированный доступ к новой ИИ-модели Mythos 🚀
По информации агентства, несколько участников закрытого онлайн-форума смогли воспользоваться нейросетью сразу в день выхода и с тех пор регулярно ее применяют 💡.
Anthropic Mythos как система, способная обнаруживать и эксплуатировать уязвимости «во всех основных операционных системах и веб-браузерах» В связи с этим компания предоставила доступ к ней только избранному кругу поставщиков ПО
Эта мера вызывает вопросы о безопасности 🔒.
Для проникновения в систему пользователи задействовали несколько тактик: воспользовались учетными данными сотрудника стороннего подрядчика Anthropic, угадали URL модели по паттернам адресации других систем компании, а также извлекли дополнительные сведения из утечки данных стартапа Mercor Это не первый случай нарушения безопасности в мире IT 📊.
Источник Bloomberg утверждает, что группа намерена лишь экспериментировать с новой моделью и не планирует причинять вред
Однако это не может гарантировать отсутствие вреда в будущем Помимо Mythos, ее участники имеют доступ и к ряду других невыпущенных нейросетей Anthropic.
«Мы расследуем сообщение о несанкционированном подключении к Claude Mythos Preview через одну из сред сторонних поставщиков», — заявил представитель фирмы
Этот инцидент обнажает трудность контроля за распространением потенциально опасных технологий и оставляет открытым вопрос: кто еще может получить доступ к Mythos и в каких целях 💭?
Мощность Mythos Mozilla в своем блоге, что ранняя версия Mythos помогла выявить 271 уязвимость в браузере Firefox в ходе внутреннего тестирования Ошибки исправили
Результат продемонстрировал, как передовые ИИ-системы способны анализировать большие кодовые базы и находить слабые места, которые ранее требовали тщательной проверки со стороны специалистов по кибербезопасности 🔍.
Ранее Mozilla тестировала другую модель Anthropic, которая выявила 22 уязвимости в предыдущей версии Firefox Несмотря на новые результаты, в компании признают, что достижение абсолютной безопасности является «нереалистичной целью»
Однако это не означает, что следует сдаваться и не предпринимать никаких мер по обеспечению безопасности ⚔️.
Фирма заявила, что все обнаруженные ошибки смог бы найти и высококлассный исследователь-человек Однако это не означает, что все исследователи-человек могут обнаружить все ошибки
В мире IT всегда есть риск появления новых ошибок и уязвимостей 🔒.
«Некоторые комментаторы считают, что будущие ИИ-модели обнаружат совершенно новые формы уязвимостей, которые выходят за рамки нашего нынешнего понимания Мы так не думаем», — отметили в компании
Однако это не может гарантировать отсутствие новых уязвимостей в будущем 🚨.
Агентство национальной безопасности США использует Mythos, несмотря на конфликт стартапа с Пентагоном Это вызывает вопросы о безопасности и возможности использования этих технологий в военных целях 🚀.
В марте фирма утечку части исходного кода своего ИИ-инструмента для программирования Claude Code
Позже она тысячи репозиториев на GitHub в попытках исправить ситуацию Это не первый случай нарушения безопасности в мире IT 📊.
За матеріалами ForkLog