Як США повинні зміцнити регулювання штучного інтелекту та перейти від режиму розкриття інформації до обов’язкових перевірок безпеки наймогутніших ІІ-моделей Таке пропозиція зробив CEO Anthropic Даріо Амодео в своєму
За його словами, прийшов час перейти від прозорості до більш серйозного та обов’язкового регулювання ІІ
Разом з есею Anthropic два документи: Advanced AI Framework о надзорі за фронтирними моделями та Economic Policy Framework о підготовці економіки до можливого витіснення працівників ІІ 📊💰
Зовнішні перевірки та право на блокування Амодео запропонував вводити обов’язкове тестування для моделей, які перевищують певний поріг за обчислювальними ресурсами
У рамках Anthropic мова йде про системи, навчені за допомогою більш ніж 10²⁵ операцій з плаваючою точкою, якщо розробник заробляє більше $500 млн на рік на ІІ чи витрачає більше $1 млрд на дослідження та розробки в цій сфері 🚀💻
Перевірки, за його замислом, повинні проводити кваліфікована зовнішня організація
Тестування повинно охоплювати чотири категорії ризику:
створення біологічного озброєння;
потеря контролю над ІІ-системами;
автоматизовані дослідження та розробки, які можуть прискорити ці загрози.
Якщо оцінка показує нездійсненний ризик, влади повинні отримати право зупинити запуск або обмежити розгортання моделі 🚫💻
Амодео порівняв запропонований режим з надзором в сфері авіації:
«Наймогутніші ІІ-моделі, як і літаки, повинні проходити технічні випробування та аудит»
Відповідно пропоновано зобов’язати розробників захищати дані моделей та інфраструктуру навчання, регулярно проводити перевірки безпеки, публікувати звіт про ризики та оперативно повідомляти про серйозні інциденти 📊💻
Ринок праці: від переобучення до базового доходу В есе Амодео попередив, що ІІ може викликати більш масштабні та більш тривалі відмови на ринку праці, ніж попередні технологічні зміни
Суперечливі три сценарії: рівень безробіття близько 5%, 10% і безпрецедентний рівень 🤔💸
Серед можливих заходів він перелічив покращену збір даних про витіснення працівників, стимули для збереження зайнятості, програми переобучення та, якщо ситуація буде гіршою, довгострокову підтримку доходів, включаючи безумовний базовий дохід
💸📈
За документа Anthropic, компанія спрямує $200 млн в Economic Futures Research Fund на дослідження та оцінку економічної політики, а також створить національну програму стипендій на $150 млн для спеціалістів ранньої кар’єри 📊💼
Громадські свободи Відокремлений розділ есе Амодео присвячено громадянським свободам
Він запропонував закріпити правила підотчетності для повністю автономного озброєння, заборонити його застосування всередині США та закрити лазівку з покупкою даних від брокерів для масового спостереження 🚫👮
Інша ідея — забезпечити громадянам доступ до ІІ, не гіршого від того, яким користується держава проти них у регуляторних або судових процедурах
За поглядами Амодео, без такого балансу ІІ може посилювати перевагу влади 🤝📊
Ессе вийшло наступного дня після Claude Fable 5 і Claude Mythos 5
Anthropic назвала Fable 5 наймогутнішою з її відкритих моделей, а Mythos 5 версією тієї ж базової моделі зі слабшеними обмеженнями в окремих галузях для обмеженого кола партнерів проекту Glasswing 🤖💻
За повідомленням компанії Anthropic, їй здавалося, що суспільству може бути потрібен механізм замедлення розробки передових моделей, щоб інститути та дослідження безпеки могли зберегти крок із прогресом
💡🔒
За матеріалами ForkLog