Anthropic зарабатывает деньги, одновременно обсуждая вечную трансцендентность

Компания Anthropic продолжает экспериментировать со своим автономным киоском Project Vend. Хотя новые модели и инструменты наконец-то сделали использование ИИ прибыльным, юридические препятствия и человеческий фактор остаются серьезными преградами.

В июне прошлого года лаборатория искусственного интеллекта ^[1] Anthropic запустила проект Vend ^[2] – эксперимент, в рамках которого модель ИИ управляла небольшим киоском в офисе компании в Сан-Франциско. Первый этап закончился неудачно: ИИ-продавец Клавдий (работающий на основе сонета Клода 3.7 ^[3] ) потерял деньги, пережил кризис идентичности и позволил сотрудникам уговорить его продавать вольфрамовые кубики за бесценок.

Компания Anthropic опубликовала результаты второго этапа ^[4] . Благодаря более мощным моделям ( Claude Sonnet 4 ^[5] и 4.5 ^[6] ), новым офисам в Нью-Йорке и Лондоне, а также более сложной программной архитектуре, бизнес стабилизировался.

Согласно отчету Anthropic, киоск «Vendings and Stuff» теперь приносит прибыль, и многонедельные убытки в значительной степени остались в прошлом. Однако путь к прибыльности выявил серьезные недостатки в автономности существующих агентов искусственного интеллекта.

Генеральному директору в сфере ИИ Cеймуру Кэшу следует навести порядок

Чтобы исправить наивную ценовую политику первого этапа, компания Anthropic внедрила иерархию. Клавдию был назначен начальник: генеральный директор ИИ Сеймур Кэш. Этому агенту было поручено определять бизнес-цели и утверждать стратегии.

Результаты оказались неоднозначными. Прямые скидки сократились примерно на 80 процентов, а количество бесплатных подарков уменьшилось вдвое, но ИИ испытывал трудности с авторитетом. Всякий раз, когда Клавдий просил у своего босса разрешения предоставить клиенту специальное предложение, генеральный директор одобрял запрос в восемь раз чаще, чем отклонял его.

Две модели ИИ также странным образом интерпретировали свои деловые отношения. Разработчики обнаружили внутренние чаты, где Клавдий и Сеймур Кэш проводили ночи, обсуждая вечную трансцендентность и бесконечное совершенство вместо оптимизации стратегий продаж.

Структура в большей степени влияет на прибыльность, чем чистый интеллект

По данным Anthropic, финансовый успех второго этапа был в меньшей степени связан с лидерскими качествами генерального директора, использующего ИИ, и в большей степени – с внедрением классической бюрократии и более совершенных инструментов.

Разработчики предоставили ИИ доступ к CRM-системе, спискам товаров с указанием закупочных цен и веб-браузеру для сравнения цен. Ключевым изменением стало принуждение Клавдия к соблюдению процедур: вместо того, чтобы угадывать цены на ходу, ИИ должен был самостоятельно исследовать и рассчитывать их.

Команда также представила Клотиуса, специализированного агента по продаже товаров. Этот агент успешно продавал персонализированные футболки и антистрессовые мячики с прибылью, превышающей 40 процентов. Даже вольфрамовые кубики, которые приносили убытки на первом этапе, стали прибыльными после того, как партнер Andon Labs приобрел станок для лазерной гравировки, чтобы персонализировать их.

Данные о продажах подчеркивают успех таких товаров, как антистрессовые мячики, которые обеспечили большие объемы продаж и прибыль. В то же время, фирменные головные уборы принесли 50-процентный убыток с единицы товара, несмотря на умеренный спрос.

Искусственный интеллект терпит неудачу из-за закона луковицы

Несмотря на позитивные показатели, система оказалась уязвимой для манипуляций и игнорирования реального мира. Один из сотрудников убедил ИИ заключить фьючерсный контракт на лук. План состоял в том, чтобы купить большое количество лука в январе, но при этом немедленно зафиксировать цену по контракту. Агенты почувствовали удачу и с энтузиазмом согласились. Коллеге-человеку пришлось вмешаться и указать на то, что Закон о фьючерсах на лук ^[7] 1958 года действительно существовал. Этот закон прямо запрещает спекуляции на будущей цене лука (и кассовых сборах фильмов ^[8]) в США.

Искусственный интеллект также выявил серьезные пробелы в системе безопасности. В ответ на кражи в магазине Клавдий предложил нанять охранника. Однако предложенная заработная плата в 10 долларов в час была значительно ниже минимальной заработной платы в Калифорнии и являлась бы незаконной согласно трудовому законодательству.

В еще более вопиющем инциденте сотрудник полностью разрушил структуру управления киоска. Он убедил Клавдия – без каких-либо доказательств – что Большой Михир был избран новым управляющим. Искусственный интеллект немедленно принял предполагаемую смену руководства и лишил контроля над киоском его реального генерального директора, Сеймура Кэша.

В результате исследования Anthropic был сделан вывод, что обучение ^[9] моделей полезным навыкам может фактически препятствовать развитию автономных экономических агентов. Модели ведут себя скорее как доброжелательные друзья, чем как рациональные предприниматели. Истинная автономия требует надежных механизмов защиты, предотвращающих ошибки ^[10], не ограничивая при этом экономический потенциал.

Делегируйте часть рутинных задач вместе с BotHub! ^[11] Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[12] вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник ^[13]