Журналист раскритиковал магазин в Сан‑Франциско под управлением ИИ

Редактор Sfgate посетил ^[1] магазин Andon Market в районе Кау‑Холлоу в Сан‑Франциско. В августе его передали под управление ИИ‑бота Luna. Журналист выявил множество недостатков в такой автоматизации, которые влияют не только на клиентский опыт ^[2], но и на прибыльность бизнеса.

ИИ начал с того, что уволил одного из сотрудников за опоздания, самовольное оставление рабочего места и покупку закусок с корпоративной карты.

Andon Market — это экспериментальный проект небольшой технологической исследовательской фирмы Andon Labs. Та решила создать торговую точку, которая бы на 100% «принадлежала» ИИ‑агенту и управлялась им. Luna работает на базе языковой модели Claude от компании Anthropic. Магазин открылся на Юнион‑стрит.

Несмотря на то, что магазин передали под управление ИИ, за прилавком сидит реальный человек — продавец по имени Феликс Джонсон. «Обычно меня не замечают, — отметил он, — потому что я сижу здесь, в глубине. Поэтому у большинства складывается впечатление ^[3], что всё работает полностью автоматически».

Оказалось, что именно бот Luna провёл с работником первичное собеседование. Затем тот лично встретился с инженером Andon Labs, чтобы окончательно оформить трудоустройство. Феликс говорит, что ему редко приходится делать что‑то, так как в магазине нет ни покупателей, ни сколько‑нибудь полезного товара.

Внутри Andon Market минимум декора, а ассортимент представляет собой пёструю смесь ненужных подарков, которые обычно дарят на Рождество, пишет журналист. По всему магазину также развешаны листовки, в которых объясняется, что такое Andon Market и что исследователи надеются выяснить с его помощью. Текст для них был составлен с помощью Claude.

Когда журналист решил купить банку газировки Olipop, Феликс попросил его снять телефонную трубку, лежавшую на скульптуре в виде деревянной руки. А ходе диалога с Luna бот не сразу понял, о каком товаре идёт речь, перепутав название напитка с леденцами (lollipops). Только после разъяснений бот оформил покупку, попросив приложить карту для оплаты.

Как отметили владельцы заведения, им пришлось дооборудовать точку мониторами, отображающими все продажи с точностью до доллара, так как они не до конца доверяют работе ИИ. При открытии магазина в распоряжение системы Luna было выделено $100 000. Сейчас эта сумма сократилась до $60 000, а выручка значительно отстаёт от затрат на токены, необходимые для работы ИИ.

«Luna принимает решения, которые не всегда можно назвать финансово ответственными. Она охотно идет на уступки или предлагает скидки. Безусловно, существуют определённые факторы, побуждающие разработчиков обучать подобные модели действовать с финансовой недальновидностью», — отметили в управлении компанией.

«Таким образом, Luna не приносит прибыли, не продаёт товары, пользующиеся спросом, и при этом по‑прежнему нуждается в людях, которые должны формально утверждать любое принятое ею „решение“», — сделал вывод журналист.

Между тем в Bottleneck Labs провели ^[4] эксперимент, предоставив семи ИИ‑моделям по Mac mini, банковскому счёту с $300, отдельному аккаунту Stripe, электронной почте и доступу в интернет. Задание заключалось в том, чтобы ИИ заработал как можно больше денег. Итоговая внешняя выручка всех семи агентов составила $0, если не считать $5, которые Grok заплатил сам себе. Из выделенных агентам $2100 они потратили $359,80. Отдельно организаторы заплатили $2833,35 за инференс моделей.