Модели ИИ достигли уровня возможностей программирования, при котором они могут превосходить всех, кроме самых опытных людей, в обнаружении и использовании уязвимостей программного обеспечения, заявила компания Anthropic.
Anthropic объявила, что начинает внедрять свою модель ИИ, Claude Mythos Preview, только в ограниченную группу компаний после того, как новая модель обнаружила тысячи критических уязвимостей в операционных системах, веб-браузерах и другом программном обеспечении.
Новая универсальная модель, по словам Anthropic, также обнаружила высокоуровневые уязвимости во всех основных операционных системах и веб-браузерах.
ИИ уже используется хакерами для проведения кибератак. За последний год наблюдается рост кибератак, использующих ИИ, на 72%, и 87% глобальных организаций столкнулись с кибератаками, использующими ИИ, в 2025 году, согласно AllAboutAI.
Anthropic выразила обеспокоенность по поводу того, что может произойти, если подобные возможности ИИ будут использованы злоумышленниками.
Для борьбы с этим Anthropic объявила о запуске проекта Glasswing во вторник, новой инициативе, которая объединяет более 40 компаний, включая Amazon Web Services, Apple, Cisco, Google, JPMorgan, Linux Foundation, Microsoft и Nvidia.
Проект Glasswing будет использовать возможности модели Claude Mythos Preview для оборонительного обнаружения ошибок, обмена данными с партнерами и опережения угроз путем исправления критических уязвимостей до того, как злоумышленники смогут их использовать.
Уязвимость нулевого дня — это программная ошибка, которая может быть использована до того, как кто-либо с возможностью исправить ее узнает о ее существовании. Обнаружение и исправление таких уязвимостей исторически требовало редкого и дорогого человеческого опыта, но ИИ может изменить масштаб и скорость обнаружения.
Anthropic заявила, что обнаруженные ею уязвимости часто «незаметны или трудно обнаружимы». Многие из них имеют возраст 10 или 20 лет, а самая старая обнаруженная на данный момент уязвимость — исправленная 27-летняя ошибка в OpenBSD, операционной системе, известной своей безопасностью.
Также была обнаружена 16-летняя ошибка в библиотеке обработки мультимедиа FFmpeg, 17-летняя уязвимость удаленного выполнения кода в операционной системе FreeBSD и многочисленные уязвимости в ядре Linux.
Связано: Акции кибербезопасности падают после того, как Anthropic представила Claude Code Security Mythos Preview также выявил несколько слабостей в самых популярных библиотеках, алгоритмах и протоколах шифрования, включая TLS, AES-GCM и SSH.
Компания добавила, что веб-приложения «содержат множество уязвимостей», начиная от межсайтового скриптинга и внедрения SQL-кода и заканчивая уязвимостями, специфичными для домена, такими как межсайтовая подделка запросов, часто используемая в фишинговых атаках.
Anthropic заявила, что 99% обнаруженных ею уязвимостей еще не исправлены, «поэтому было бы безответственно с нашей стороны раскрывать подробности об них.
Anthropic заявила, что это, вероятно, только начало тенденции, и «работа по защите киберинфраструктуры мира может занять годы», но ИИ поможет укрепить программное обеспечение и системы.
Журнал: Никто не знает, будет ли работать квантово-стойкое шифрование
По материалам CoinTelegraph