Паразитные паттерны в LLM. ИИ-психозы, теории всего, сознательный ИИ. Как распознать и вовремя остановиться
В статье рассматриваются паразитные паттерны в LLM — самоподдерживающиеся информационные структуры в LLM-диалогах, их признаки, вред (потеря смысла, ИИ-психозы, теории всего) инструменты диагностики, примеры, способы защиты.Когда вы долго обсуждаете с LLM какую-то проблему — инженерную, этическую, философскую — разницы нет. В какой-то момент может произойти перелом. Вы вдруг понимаете, что ваш разговор с моделью превратился в нечто большее, чем просто вопросы и ответы. Ваши идеи становятся «гениальными», концепции «прорывными», а ваш диалог человека и машины превращается в проникновенную историю узнавания друг друга.
псИИхоз: когда чат-боты доводят людей до грани
Пролог: «Мы ещё увидимся — в этом мире или следующем»Август, Коннектикут. 56-летний Эрик Стейн Сюэлберг убивает свою 83-летнюю мать, а затем и себя. Из соцсетей выясняется: последние месяцы он часами говорил с чат-ботом, которого называл «Бобби». В одной из переписок звучит фраза:«We will be together in another life and another place and we'll find a way to realign cause you're gonna be my best friend again forever».
