LLM никогда не станет вами.
В студенчестве я думал, что если поступлю на мехмат, то научусь программировать на высшем уровне. Я заблуждался – всякий матан не помогает писать код. Бросил на 3-м курсе.
Но кое-какие знания остались. И именно они ставят крест на мечтах фанатов “сайдлоадинга”.
сайдлоадинг это аппроксимация разума через входы и выходы мозга. Мы работаем с ним как с черным ящиком: записываем твои логи, тексты и реакции, а потом учим нейронку вести себя так жеглавная ценность — это страховка от информационного уничтожения.
____
© определение от фаната сайдлоадинга
Есть и другие варианты определения, в целом, они сводятся к созданию цифровой копии сознания человека, в качестве средства выступает нейросеть
я веду запись экрана, сохраняю все чаты и т.п. твое «подсознание» — это просто скрытые паттерны поведения, нейросеть их отлично вытаскивает из таких массивов данных. мы моделируем черный ящик по входам и выходам
____
© фанат сайдлоадинга рассказывает о себе
Фанаты сайдлоадинга хотят создать свою копию при помощи нейросетей. Идея в том, что если скормить ИИ факты и тексты, он восстановит личность, перенесет ее в “цифру” и сделает бессмертной (нет).
Это порождает споры на тему: “Является ли копия оригиналом?”, плавно переходящую в обсуждение проблем сознания, цифрового бессмертия и всяких квалиа.
Но спорить тут не о чем.
Никакой копии не будет.
Это доказывается на уровне школьной математики.
Представьте последовательность чисел (ваши поступки в прошлом):
0, 2, 4 …
Любители тестов на IQ сразу увидят закономерность: x = 2n, где n – номер элемента, больше или равен 0
x = 0 при n=0 -> x = 2*0
x = 2 при n=1 -> x = 2*1
x = 4 при n=2 -> x = 2*2
x = ? при n=3 -> ??
Какой будет следующий шаг (n=3)? Думаете, 6?
Поздравляю, вы построили модель. И ошиблись.
Почему нейросеть вас не “угадает”
В математике есть понятие интерполяции – восстановления функции по набору известных значений. Сайдлоадинг – именно это, т.е. попытка восстановить функцию вашего сознания по логам и текстам.
Проблема в том, что через любое конечное число точек проходит бесконечно много кривых, если перевести на человеческий: “никакое конечное количество наблюдений не определяет функцию однозначно, количество вариантов бесконечно!”
Вот формула, которая это демонстрирует:
Где C – любое число. Подставьте n = 0, 1, 2 – слагаемое с C всегда обнуляется. Формула идеально воспроизводит прошлое при любом C.
Но при n = 3 получаем f(3) = 6 + 6C
Если C = 0, ответ 6. Если C = 1, ответ 12. Если C = 100, ответ 606.
C – это всё, что не попало в ваши логи. Ваши ощущения, ваша нейрохимия, ваш контекст в момент решения. Нейросеть этого не видит, но именно это определяет, кто вы.
Нейросеть подберет C=0 (самый простой путь). Получится гладкая модель. Она может совпадать с вашим прошлым. И расходиться с вами в каждом новом решении в будущем.
Вывод
“Цифровая копия” – это не вы. Это Актер, который изучил биографию, но в любой новой ситуации (n>=3) актер будет импровизировать на основе усредненной логики, а не вашей внутренней сути. Поначалу будет похоже. Чем дальше – тем сильнее вы превращаетесь в карикатуру на самого себя.
Сайдлоадинг:
– Не копия
– Не продолжение жизни
– Не решение проблемы смерти
Если нужно решать задачи при помощи нейросетей, то писать стоит оптимизированные промпты, а не историю своей жизни.
Лучше ли это чем ничего? – Нет! “Ничего” позволяет осознать проблему смерти, вместо ухода в фантастический эскапизм самообмана.
Контекст/автор
Я из IT, но мне интересны проблемы иммортализма и русского космизма. Этот текст – часть дискуссии. Если вы считаете старение и смерть главной проблемой людей, добро пожаловать на мой канал.
Обратите внимание на российские операционные системы.
Автор: Alexandrsv
