AI агенти можуть закінчити період застосування програм, перетворюючи програмне забезпечення на перевірені системи, побудовані користувачами
Світова спільнота може нормалізувати ризик протягом багатьох років, лише потім знову класифікувати його як ризиковий, коли з’являється більш безпечний варіант пошуку.
Підривний ефект подібний до того, як люди раніше вважали, що пивання перед керуванням, їзда без підвішок безпеки та встановлення випадкових бінарних файлів з інтернету належать до однієї сім’ї історичних сліпих місць.
Пов’язаний аспект полягає в соціальній згоді.
Поведінка продовжується, коли альтернатива є коштовною, незручною або технічно недоступною Коли більш безпечний шлях стає дешевим і рутиною, стара стежка починає виглядати безглуздо.
AI агентові підтвердження можуть змінити уявлення про взаємодію між користувачем та програмним забезпеченням, замінивши уявлення про вірність виконання шляхів attested, більш безпечних замовних рішень та користувацької інфраструктури керування.
AI агенти розкривають слабкості програми вірності сучасного програмного забезпечення
Сучасне програмне забезпечення ще продовжує використовувати угоду, якої рідко дотримується
Визначник створює код, компанія, організація або невідомий підтримувач коду.
Інтернет-канал упаковує його Користувач, підприємство або операційна система виконують його.
Безпека тоді стає спробою керувати наслідками цієї справи.
Права користувача, підписання коду, магазини програмного забезпечення, розпізнавання кінця, sandboxing, перевірка належності виробника та надання допомоги після інциденту всі існують тому, що основне діло залишалося небезпечним: виконання інструкцій іншого користувача на своєму комп’ютері, всередині його облікового запису, з доступом до його даних.
Цей модель вірності провалився на інституційному рівні
Вони показали, як шкідливий код, вставлений у процесу створення програми, міг бути розповсюджений через звичайні оновлення і досягти відомств влади, підприємств технологій, мереж телекомунікацій та інших цілей у багатьох регіонах.
Оскільки процес створення програми був порушений, звичайні знаряддя вірності перетворилися на інфраструктуру доставки для атаки.
Те ж саме відбувалося в іншому випадку, коли CISA попереджав у березні 2024 року, що шкідливий код був вбудований у версії 5.6.0 і 5.6.1 бібліотеки стиснення, наявної у всіх розподілених версій Linux.
Пізніше вони розповіли про те, як прихований файл-реєстрація та маніпулювання процесом створення програми призвели до підготовленої бібліотеки lzma, здатної захоплювати та змінювати дані інтеракції в з’єднаних програмах.
Абсолютно будь-яка ланцюжок забезпечення програмного забезпечення може бути порушений дуже глибоко біля джерела, потім прийти через канали, які здаються звичайними.
На їх прикладі бачимо, що таке відбувається з DNS та експлуатацією JavaScript npm.
Відповідь галузі була збільшенням процесу Вони надають організаціям спільний набір практичних рекомендацій щодо створення та отримання програм зі зменшеним ризиком.
They також розкривають обмеження наявної моделі.
Підприємства продовжують вдосконалювати методи прийняття рішень щодо того, який зовнішній код заслуговує довіри.
Наступна модель зменшує кількість зовнішнього коду, який потребує довіри взагалі.
Цей зміна змінює соціальну думку про програмне забезпечення
Даний час зовнішній код розглядається як продукт для підвищення продуктивності зі додатковим захистом безпеки.
Завтра він може бути розглянутий як ризиковий, який вимагає обґрунтування.
Зараз користувачі запитують: «Які програми варто встановлювати?», тоді як за майбутнім вони запитують: «Чи потрібно мені виконувати інструкції іншого користувача коли мої агенти можуть побудувати функцію для мене?
Це справжній розрив Програмне забезпечення перестає бути головним чином продуктом, вибраним користувачем із ринку, і стає виходом, згенерованим на замовлення всередині користувацької середовища виконання.
Будівництво програми за допомогою агентів перетворює програми на тимчасові вирази мети
Зміна напрямку бачиться у розробці агентів кодування
Позначений як облаштована програма інженерії програмного забезпечення, здатна працювати над декілька завдань одночасно.
Також Anthropic був розроблений як агентний кодовий механізм, який створює мапу кодової бази, змінює файли, виконує випробування та передає затверджені зміни.
Також GitHub було розширено до цієї ж лінії: асинхронна робота над декількома завданнями та запитами на відправлення.
Аналогічне напрямок був показаний в розробках Anthropic, які включають автономні агентські системи створення програм, які поглинають контекст продукції, створюють рішення і надсилають запити на відправлення.
Ці програми ще називають розробкою програмного забезпечення
Це обмеження буде зменшено протягом часу Для Codex воно вже змінилося
OpenAI було додано інтерфейс користувача останнім місяцем, який фокусувався більше на чатах та виходах порівняно з кодом та терміналами.
Більший вплив полягає у тому, що створення програми стає особистим актом призначення Користувач описує потік робіт
Агент створює інтерфейс, логіку, інтеграції, випробування та шлях виконання.
Результат може існувати протягом однієї години, тижня чи року Він може бути згенерований знову, розгалужений, обмежений, перевірений, знищений чи знову побудований у нових умовах.
Програма стає менш подібною до постійної речі та більше подібною до місцевої політики, скомпільованої в інтерфейс, який можна використовувати.
Це вже має безпосередні наслідки щодо довіри
Користувач ще може спостерігати програми інших користувачів Він може виконувати оглядини потоків робіт, розмірів інтерфейсу даних, запитів, автоматизованих дій та інтеграції послуг.
Однак спостереження все ще може бути окремим від виконання.
Користувач може скопіювати ідею, потім попросити свого особистого агента знову побудувати функцію з першочергових принципів всередині середовища, яке керується його власними правилами.
Значення змінюється з компільованого результату на шаблони.
Расподілення відбувається менше щодо розповсюдження виконуваного коду та більше щодо публікування мети, проекту, документів, очікувань API та очікуваних даних.
Криптографія потрапляє в цю дію через підтвердження, а не шляхом маркування.
Персональний агент все ще буде підключатися до зовнішніх сервісів.
Он може звертатися до розрахункових потоків, системи ідентифікації користувача, кінцеві точки даних ринку, шари зберігання даних, провайдерів моделей AI, ринки обчислень, системи повідомлень та послуги щодо виконання законодавчих вимог.
Дія змінюється щодо місця довіри
Вона зміщується до кінцевих точок та щодо заяв щодо них.
Користувачам будуть потрібні методи оцінки зовнішніх послуг щодо їх аудитності, джерелодійності, захисту безпеки та економічної відповідності.
Сервіси, збудовані всередині перевіреного середовища, будуть оцінюватися окремо від чорних коробок кінцевих точок, яким керують корпоративні
За матеріалами CryptoSlate