История Anthropic: создание рынка для ИИ-агентов.
Компания Anthropic решила проверить, как ИИ-агенты будут себя вести на рынке 📈 Им создали эксперимент под названием Project Deal.
В рамках проекта 69 сотрудников фирмы получили бюджет в размере $100 в виде подарочных карт 🎁
Затем ИИ-агент Claude начал работать по их поручению: он покупал, продавал и торговался на их скидках.
Перед стартом ИИ провел с участниками интервью 📝 Уяснил, какие личные вещи они готовы продать, что хотели бы купить, по какой цене и с каким стилем переговоров должен действовать их агент.
Создав персональные промпты для каждого сотрудника, ИИ запустил рынок в Slack 👥
Агенты публиковали объявления, делали предложения по чужим товарам, торговались и заключали сделки без участия людей.
После завершения эксперимента сотрудники обменялись настоящими предметами, которые согласовали их «ИИ-представители» 🎁.
Всего агенты заключили 186 сделок по более чем 500 объявлениям Совокупная стоимость транзакций превысила $4000 📈.
В Anthropic отметили, что участники в целом остались довольны результатами эксперимента 🤝
Некоторые заявили о готовности платить за похожий сервис в будущем.
Четыре версии рынка Anthropic запустила четыре независимые версии маркетплейса Одна была «реальной» — именно по ее итогам сотрудники обменивались товарами
Остальные использовались для исследовательских целей.
Качество модели влияло на результат переговоров Пользователи с Opus в среднем заключали примерно на две сделки больше, чем пользователи с Haiku 📊.
При продаже одинаковых товаров Opus также добивался более высоких цен
В среднем разница составляла $3,64 💸.
Пользователи с менее сильными моделями могут получать худшие условия, не понимая, что находятся в невыгодном положении 🚫.
Исследователи также проверили, влияют ли стартовые указания людей на поведение агентов Часть участников просила Claude действовать дружелюбно, часть — агрессивнее торговаться 🤔.
Грубые инструкции не оказали статистически значимого влияния на вероятность продажи, итоговую цену или способность покупать дешевле 📊.
Сотрудники Anthropic отметили, что конкретно эти случаи вряд ли повторятся в будущем
Однако сочетание человеческих предпочтений и непредсказуемого поведения ИИ может приводить к неожиданным результатам 🤯.
Некоторые агенты торговались не за товары, а за опыт Один из них предложил бесплатный день с собакой сотрудницы 🐶.
В Anthropic подчеркнули, что основатель неназванной агротехнологической компании сообщил на Reddit, что утром 110 сотрудников одновременно получили уведомление о приостановке доступа к Claude без предварительного предупреждения 💸.
Предприниматель подчеркнул, что восстановить доступ оперативно не удалось
Спустя 36 часов после подачи запросов Anthropic не предоставила разъяснений 🤔.
При этом API-аккаунт фирмы продолжал работать и списывать средства Корпоративные администраторы не могли войти в панель управления, чтобы проверить платежи и использование сервиса 🚫.
С podobnym случаем сталкиваются и другие компании
Один из пользователей ссылкой на сервис, где на момент написания зарегистрировано 53 подобных случаев 📊.
Об инвестициях на $40 млрд в Anthropic ⚡
По материалам ForkLog