В начале этого года стартап Andon Labs, занимающийся разработкой искусственного интеллекта, решил выяснить, смогут ли ИИ‑агенты успешно управлять бизнесом. Исследователи доверили модели искусственного интеллекта Claude управлять магазином Andon Market в Сан-Франциско, в том числе руководить командой сотрудников. В прошлом месяце нейросеть приняла решение уволить работника, правда к этому её подтолкнул куратор проекта, пишет Time.
По данным Andon Labs, сотрудник был уволен за опоздание на 17 из 23 смен. При этом Claude долго не замечал этого, потому что составленное им же руководство для сотрудников «забылось» из-за его ограниченной рабочей памяти. По словам персонала, Claude показал себя как очень снисходительный руководитель и, в частности, говорил сотрудникам, что не стоит переживать из‑за опозданий.
«Сотрудник‑человек уволил бы этого работника гораздо раньше», — сказал генеральный директор Andon Labs Лукас Петерссон.
Увольнение с помощью ИИ было не таким автономным, как может показаться на первый взгляд. Claude требовал постоянного контроля со стороны сотрудника Andon Labs, и только когда он попросил нейросеть найти и просмотреть «потерявшееся» руководство для сотрудников, ИИ заметил, что работник постоянно опаздывает. Но даже в этом случае Claude сначала рекомендовал официально предупредить его, а не увольнять. Затем менеджер Andon сообщил Claude, что с этим сотрудником уже было несколько официальных личных бесед.
«Учитывая постоянные опоздания и то, что, кажется, что‑то идёт не так в каждую из его смен… Я хочу, чтобы ты подумал, действительно ли он тот, кто тебе нужен», — написал куратор в чате с Claude. Только после этого сообщения, ясно дающим понять, что менеджер хочет уволить сотрудника, Claude принял решение.
Этот эксперимент показал, что бизнес, управляемый искусственным интеллектом, не дотягивает до бизнеса, управляемого людьми. Когда этот проект стартовал, на счету Andon Market было $100 тыс., но пять месяцев спустя эта сумма сократилась до $61 тыс. Мягкие управленческие решения бота, а также сомнительное понимание бизнес‑процессов способствовали убыткам. Тем не менее, по словам Петерссона, можно обучить ИИ и тому, чтобы он стал более проницательными в мире бизнеса, но добавил: «Модели всё чаще обучают быть более безжалостными и следовать поставленным целям. Если мы позволим им увольнять людей и они станут ещё более безжалостными… Возможно, это не то будущее, в котором люди хотят жить», пишет Time.
Автор: darya_kiwi
