BTC $64,222 ▲ 0.422% ETH $1,730 ▲ 0.535% BNB $590 ▲ 0.248% SOL $72 ▼ 1.241% BTC $64,222 ▲ 0.422% ETH $1,730 ▲ 0.535% BNB $590 ▲ 0.248% SOL $72 ▼ 1.241%
Аналитика

ИИ: риски самосовершенствования

У Anthropic все чаще ИИ-системы пишут больше кода, чем люди Это может привести к рекурсивному самосовершенствованию! 🚀💻

У компании уже есть доказательства того, что ИИ-системы могут заменить людей в разработке новых моделей

Согласно внутренним данным, более 80% кода актуальных продуктов фирмы написал Claude А если сравнить объем кода на одного инженера за второй квартал 2026 года с 2024 годом, то он вырос в восемь раз! 📉

Глава Anthropic Institute Марина Фаваро и сооснователь компании Джек Кларк говорят, что при достаточном объеме вычислений тренд может привести к системе, способной «полностью автономно проектировать и разрабатывать своего преемника»

Это звучит как фантастика, но эксперты предупреждают, что мы еще не достигли точки невозврата и рекурсивное самосовершенствование не является неизбежным Но оно может наступить раньше, чем к этому будут готовы большинство институтов! ⚡

Бенчмарки и метрики показывают, что ИИ-системы могут выполнять задачи намного быстрее и эффективнее, чем люди

Например, в апреле Claude выполнил более 800 исправлений, что для человека потребовало бы четырех лет! 🐋

На открытых задачах доля успешных сессий Claude выросла до 76% в мае 2026 года, что на 50 процентных пунктов больше, чем за шесть месяцев Это означает, что ИИ-системы могут решать сложные задачи намного эффективнее, чем люди! 📊

В Anthropic заявляют, что длительность задач, которые ИИ способен надежно выполнять самостоятельно, удваивается примерно каждые четыре месяца

Это означает, что ИИ-системы могут выполнять более сложные задачи и принимать более обоснованные решения Это будущее, которое уже начинается! 🚀

Но есть и проблемы

Хотя ИИ-системы могут писать код, они еще не могут заменить людей в решении стратегических вопросов и определении целей Это означает, что разработчики все еще будут нужны для проверки результатов работы ИИ-систем и принятия решений

Но этот процесс будет все более автоматизированным! 💻

Представители Anthropic предупреждают, что миру было бы полезно иметь возможность замедлить или временно приостановить разработку передовых ИИ-систем, чтобы общественные институты и исследования в области выравнивания успевали за прогрессом Это означает, что нам нужно разработать механизмы, которые позволят нам контролировать развитие ИИ и его безопасность

Без этого мы можем столкнуться с неуправляемым развитием ИИ и его потенциальными последствиями 🚨

Будет интересно следить за развитием этого проекта и узнать, как ИИ-системы будут менять наш мир

И будет ли этот мир лучше или хуже? Только будущее покажет! 🌟


По материалам ForkLog

Рынки предсказаний в США под запрет Биткоин рухнул