В США требуется более серьезный подход к регулированию искусственного интеллекта 🚀
По мнению главы Anthropic Дарио Амодеи, пришло время перейти от прозрачности к обязательному регулированию ИИ Вместе с эссе компании два документа: Advanced AI Framework о надзоре за фронтирными моделями и Economic Policy Framework о подготовке экономики к возможному вытеснению работников ИИ 📊.
Амодеи предлагает ввести обязательное тестирование для моделей, которые превышают определенный порог по вычислительным ресурсам
В рамке Anthropic речь идет о системах, обученных с использованием более 10²⁵ операций с плавающей точкой, если разработчик зарабатывает более $500 млн в год на ИИ или тратит свыше $1 млрд на исследования и разработки в этой сфере 💰.
Проверки должны проводиться квалифицированной внешней организацией и покрывать четыре категории рисков: создание биологического оружия, потерю контроля над ИИ-системами, автоматизированные исследования и разработки, которые могут ускорить эти угрозы 🚫.
Если оценка показывает неприемлемый риск, власти должны получить право блокировать запуск или сдерживать развертывание модели Амодеи сравнил предлагаемый режим с надзором в сфере авиации: «Наиболее мощные ИИ-модели, как и самолеты, должны проходить технические испытания и аудит» 🛫.
Отдельно предлагается обязать разработчиков защищать веса моделей и инфраструктуру обучения, регулярно проводить проверки безопасности, публиковать отчеты о рисках и оперативно сообщать о серьезных инцидентах
Это позволит минимизировать риск взлома или несанкционированного использования ИИ-систем 🤖.
Амодеи предупредил, что ИИ может вызвать более масштабные и более длительные сбои на рынке труда, чем прошлые технологические сдвиги Вероятны три сценария: безработице около 5%, 10% и беспрецедентный уровень 💼.
Среди возможных мер он перечислил улучшенный сбор данных о вытеснении работников, стимулы для сохранения занятости, программы переобучения и, при более тяжелом сценарии, долгосрочную поддержку доходов, включая безусловный базовый доход 📈.
Антиropic направит $200 млн в Economic Futures Research Fund на исследования и оценку экономической политики, а также создаст национальную программу стипендий на $150 млн для специалистов ранней карьеры
Это позволит поддержать развитие ИИ и подготовить экономику к будущим изменениям 👨🎓.
Амодеи также предлагает закрепить правила подотчетности для полностью автономного оружия, запретить его применение внутри США и закрыть лазейку с покупкой данных у брокеров для массового надзора Это позволит защитить гражданские свободы и предотвратить потенциальные риски 🚫.
Еще одна идея — обеспечить гражданам доступ к ИИ, не уступающему тому, который государство использует против них в регуляторных или судебных процедурах
По мнению Амодеи, без такого баланса ИИ может усилить преимущество властей 💔.
Эссе вышло на следующий день после Claude Fable 5 и Claude Mythos 5 Anthropic назвала Fable 5 самой мощной из своих общедоступных моделей, а Mythos 5 — версией той же базовой модели с ослабленными ограничениями в отдельных областях для ограниченного круга партнеров Project Glasswing
В компании допустили, что обществу может понадобиться механизм замедления разработки передовых моделей, чтобы институты и исследования безопасности успевали за прогрессом 🔥.
По материалам ForkLog