Новости из мира AI: Anthropic остановила доступ к своим моделям из-за директивы правительства США 🚀
Компания Anthropic объявила, что доступ к своим моделям Fable 5 и Mythos 5 отключен из-за директивы правительства США в рамках экспортного контроля. Это означает, что все иностранные граждане, включая сотрудников Anthropic, теперь не имеют доступа к этим моделям 📉.
Anthropic заявила, что директива была получена 9 июня в 17:21 по восточному времени США. В письме не было конкретики о рисках для национальной безопасности, но компания связала решение властей с техникой обхода защит Fable 5.
Компания утверждает, что проверила демонстрацию и увидела лишь небольшое число ранее известных незначительных уязвимостей. Однако Anthropic подчеркивает, что такие уязвимости относительно просты и другие публично доступные модели тоже способны находить их без обхода защит 💰.
Перед запуском Fable 5 защитные механизмы тестировали правительство США, британский AISI, несколько сторонних организаций и внутренние команды. На проверки ушло более 1000 часов тестирования. Anthropic заявила, что универсальный джейлбрейк для модели пока не найден ⚡.
Компания напомнила, что для Fable 5 действует 30-дневное хранение данных клиентов — для расследования и закрытия обходов. Однако от правительства, по ее словам, поступалиonly устные сведения о возможном узком, неуниверсальном джейлбрейке. Предполагаемая техника, как описывает Anthropic, сводилась к просьбе к модели прочитать конкретную кодовую базу и исправить ошибки в ПО 🐋.
Anthropic заявила, что изучила отчет, который, как она считает, лег в основу директивы, и пришла к выводу: показанный уровень возможностей доступен и у других моделей, включая GPT-5.5 от OpenAI. Компания подчеркнула, что выполнит юридическое требование, но не согласна с отзывом коммерческого продукта из-за узкого потенциального обхода защит 📊.
Доступ к остальным продуктам Anthropic не изменился. Компания извинилась перед клиентами и сообщила, что работает над разрешением ситуации, которую назвала «недоразумением». Наблюдаем ли мы за началом нового этапа в развитии искусственного интеллекта и переходом от режима раскрытия информации к обязательным проверкам безопасности наиболее мощных ИИ-моделей? 🤔
По материалам ForkLog