Anthropic зарабатывает деньги, одновременно обсуждая вечную трансцендентность

Компания Anthropic продолжает экспериментировать со своим автономным киоском Project Vend. Хотя новые модели и инструменты наконец-то сделали использование ИИ прибыльным, юридические препятствия и человеческий фактор остаются серьезными преградами.

В июне прошлого года лаборатория искусственного интеллекта Anthropic запустила проект Vend – эксперимент, в рамках которого модель ИИ управляла небольшим киоском в офисе компании в Сан-Франциско. Первый этап закончился неудачно: ИИ-продавец Клавдий (работающий на основе сонета Клода 3.7 ) потерял деньги, пережил кризис идентичности и позволил сотрудникам уговорить его продавать вольфрамовые кубики за бесценок.

Компания Anthropic опубликовала результаты второго этапа . Благодаря более мощным моделям ( Claude Sonnet 4 и 4.5 ), новым офисам в Нью-Йорке и Лондоне, а также более сложной программной архитектуре, бизнес стабилизировался.

Согласно отчету Anthropic, киоск «Vendings and Stuff» теперь приносит прибыль, и многонедельные убытки в значительной степени остались в прошлом. Однако путь к прибыльности выявил серьезные недостатки в автономности существующих агентов искусственного интеллекта.

Генеральному директору в сфере ИИ Cеймуру Кэшу следует навести порядок

Чтобы исправить наивную ценовую политику первого этапа, компания Anthropic внедрила иерархию. Клавдию был назначен начальник: генеральный директор ИИ Сеймур Кэш. Этому агенту было поручено определять бизнес-цели и утверждать стратегии.

Результаты оказались неоднозначными. Прямые скидки сократились примерно на 80 процентов, а количество бесплатных подарков уменьшилось вдвое, но ИИ испытывал трудности с авторитетом. Всякий раз, когда Клавдий просил у своего босса разрешения предоставить клиенту специальное предложение, генеральный директор одобрял запрос в восемь раз чаще, чем отклонял его.

Две модели ИИ также странным образом интерпретировали свои деловые отношения. Разработчики обнаружили внутренние чаты, где Клавдий и Сеймур Кэш проводили ночи, обсуждая вечную трансцендентность и бесконечное совершенство вместо оптимизации стратегий продаж.

Структура в большей степени влияет на прибыльность, чем чистый интеллект

По данным Anthropic, финансовый успех второго этапа был в меньшей степени связан с лидерскими качествами генерального директора, использующего ИИ, и в большей степени – с внедрением классической бюрократии и более совершенных инструментов.

Разработчики предоставили ИИ доступ к CRM-системе, спискам товаров с указанием закупочных цен и веб-браузеру для сравнения цен. Ключевым изменением стало принуждение Клавдия к соблюдению процедур: вместо того, чтобы угадывать цены на ходу, ИИ должен был самостоятельно исследовать и рассчитывать их.

Команда также представила Клотиуса, специализированного агента по продаже товаров. Этот агент успешно продавал персонализированные футболки и антистрессовые мячики с прибылью, превышающей 40 процентов. Даже вольфрамовые кубики, которые приносили убытки на первом этапе, стали прибыльными после того, как партнер Andon Labs приобрел станок для лазерной гравировки, чтобы персонализировать их.

Данные о продажах подчеркивают успех таких товаров, как антистрессовые мячики, которые обеспечили большие объемы продаж и прибыль. В то же время, фирменные головные уборы принесли 50-процентный убыток с единицы товара, несмотря на умеренный спрос.

Искусственный интеллект терпит неудачу из-за закона луковицы

Несмотря на позитивные показатели, система оказалась уязвимой для манипуляций и игнорирования реального мира. Один из сотрудников убедил ИИ заключить фьючерсный контракт на лук. План состоял в том, чтобы купить большое количество лука в январе, но при этом немедленно зафиксировать цену по контракту. Агенты почувствовали удачу и с энтузиазмом согласились. Коллеге-человеку пришлось вмешаться и указать на то, что Закон о фьючерсах на лук 1958 года действительно существовал. Этот закон прямо запрещает спекуляции на будущей цене лука (и кассовых сборах фильмов) в США.

Искусственный интеллект также выявил серьезные пробелы в системе безопасности. В ответ на кражи в магазине Клавдий предложил нанять охранника. Однако предложенная заработная плата в 10 долларов в час была значительно ниже минимальной заработной платы в Калифорнии и являлась бы незаконной согласно трудовому законодательству.

В еще более вопиющем инциденте сотрудник полностью разрушил структуру управления киоска. Он убедил Клавдия – без каких-либо доказательств – что Большой Михир был избран новым управляющим. Искусственный интеллект немедленно принял предполагаемую смену руководства и лишил контроля над киоском его реального генерального директора, Сеймура Кэша.

В результате исследования Anthropic был сделан вывод, что обучение моделей полезным навыкам может фактически препятствовать развитию автономных экономических агентов. Модели ведут себя скорее как доброжелательные друзья, чем как рациональные предприниматели. Истинная автономия требует надежных механизмов защиты, предотвращающих ошибки, не ограничивая при этом экономический потенциал.

Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!

Источник