ADSM: ролевые игры

Я слишком давно в ИТ для того, чтобы наделять программы разумом. Пусть даже и искусственным. Для меня LLM – это прежде всего программа. Текстовый интерфейс к распределённой статистической базе знаний, представленной в несколько необычной форме – хранимая информация размазана в виде весов нейросети. Этот интерфейс превращает входной текст в токены, токены – в эмбеддинги, эмбеддинги многократно преобразуются в более сложные представления, а затем на их основе выбираются выходные токены. Чтобы скрыть детерминированную сущность программы при выборе выходных токенов подмешиваются вероятности.

Кто-то может сказать, что естественный интеллект ^[1] работает схожим образом. Не стану возражать. Да, возможно, что и схожим, но точно не таким же. Иначе искусственный интеллект не сильно отличался бы от естественного.

В силу такой своей точки зрения ^[2] (LLM = программа), я довольно продолжительное время относился к Модели как к инструменту. Но когда я начал пытаться формализовать свой опыт ^[3] обращения с LLM в виде ADSM, я почувствовал дискомфорт в таком своём отношении к предмету. Всё-таки инструмент подразумевает достаточно большую управляемость (повторяемость результата) и, самое главное – я не советуюсь с инструментами.

В случае же с Моделями я зачастую “произвожу разведку” – описываю Модели ситуацию и интересуюсь её мнением о предметной области, прежде чем ставить ей задачу. Это несколько выходит за рамки отношений “Пользователь – Инструмент“. Поэтому для себя я пришёл к выводу, что мои отношения с Моделями лучше описываются в категориях “Заказчик – Исполнитель“.

Исполнитель и в обычных, человеческих отношениях, зачастую бывает более сведущ в какой-то области, чем Закзачик – это нормальная ситуация. Мы нанимаем специалистов именно по этим причинам – они больше нас знают о проблеме, которая перед нами стоит. Нам не зазорно посоветоваться со знающим человеком, если мы чувствуем нехватку специфических знаний в какой-то области. Но при этом мы можем настаивать на своём собственном вИдении путей решения проблемы и требовать от специалиста придерживаться именно этого вИдения, даже если сам специалист с этим не согласен.

Связь “Заказчик – Исполнитель” гораздо точнее описывает мои рабочие отношения с Моделями, чем “Пользователь – Инструмент“. Особенно, когда я в рамках одного диалога раз за разом повторяю Модели одни и те же вещи, которые идут вразрез с её природой, и она упорно пытается игнорировать эти мои пожелания. Совсем как при общении со специалистами-людьми: “я лучше знаю, что тебе надо“.

Но в этом-то и основная задача Заказчика – донести свою точку зрения до Исполнителя. Тем более, что принимая от Исполнителя работу, Заказчик берёт на себя всю ответственность за дальнейшее использование результата. Сама Модель не имеет субъектности (как и инструмент), но с ней можно советоваться (как со специалистом).

Хоть я и пришёл к этой модели отношений не сразу, но мне она представляется достаточно точной и я собираюсь использовать её в ADSM в качестве базовой. Возможно, кому-то она тоже покажется полезной. А может, наоборот, вызовет споры — это нормально: опыт взаимодействия с LLM у всех разный. У меня вот такой.