Белый дом обеспокоен доступом к модели Mythos, возможно, связанной с Китаем
Власти США обеспокоены доступом к модели Mythos, которая, возможно, связана с Китаем 🚀 Это одна из причин, почему компания Anthropic запретила доступ к своим продуктам из КНР
Об этом сообщает Semafor с ссылкой на источник.
Вместе с этим, администрация президента США обеспокоена темой обхода защиты Fable 5 💰 Журналисты рассказали, что это стало триггером сообщения об обходе защиты, но не уточнили, как это произошло и откуда Белый дом узнал об этом.
По данным Business Insider, представитель Anthropic заявил, что в переговорах с властями тема «китайского доступа» к Mythos не поднималась 💻
Компания запрещает доступ к своим продуктам из КНР.
11 июня CEO Amazon Энди Джесси сообщил администрации президента о возможности обойти ограничения Fable 5 ⚡ По словам собеседника издания, компания отвечала на запрос о проверке модели
Согласно данным, министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, по которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны.
Чиновники якобы пытались убедить Anthropic добровольно приостановить доступ к моделям, но компания не согласилась 📊 Собеседник издания, близкий к стартапу, оспорил эту версию и заявил, что Белый дом дал стартапу 90 минут на отключение моделей без подробностей о характере угрозы.
13 июня советник главы Белого дома Дэвид Сакс в X, что администрация получила предупреждение о возможном обходе защит Fable 5 от партнера, которому доверяли и власти, и Anthropic 🐋.
«Администрация надеется, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, а Fable вернется в общий доступ
[…] Мяч на стороне Anthropic», — написал Сакс.
Позиция Anthropic Anthropic заявила, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности 📊 По версии компании, претензии касались способа обхода защиты Fable 5.
Стартап утверждает, что изучил демонстрацию этой техники и считает ее «небольшой» 📊
По его оценке, она позволяла найти «небольшое число ранее известных незначительных уязвимостей» В Anthropic добавили, что другие публично доступные модели способны выявлять те же проблемы без обхода защиты.
Компания также заявила, что перед запуском Fable 5 потратила «тысячи часов» на тестирование защит вместе с правительством США, британским Институтом безопасности ИИ, сторонними организациями и внутренними командами 💻
По данным Anthropic, тестировщики пока не нашли универсальный способ массово обходить ограничения модели.
«Мы считаем это недоразумением и работаем над восстановлением доступа как можно скорее», — заявили в компании 🚀.
9 июня Anthropic Fable 5 и Mythos 5 💰 Компания назвала Fable 5 моделью класса Mythos для общего доступа
Mythos 5 использует ту же базовую модель, но имеет ослабленные ограничения в отдельных областях и предназначена для киберзащитников и поставщиков критической инфраструктуры в рамках Project Glasswing.
2 июня Anthropic о расширении Project Glasswing примерно на 150 организаций более чем из 15 стран 🌎 По данным компании, ранние партнеры программы к тому моменту нашли свыше 10 000 уязвимостей высокой и критической степени.
По материалам ForkLog