Школьная математика против цифрового бессмертия сайдлоадинга

LLM никогда не станет вами.
В студенчестве я думал, что если поступлю на мехмат, то научусь программировать на высшем уровне. Я заблуждался – всякий матан не помогает писать код. Бросил на 3-м курсе.

Но кое-какие знания остались. И именно они ставят крест на мечтах фанатов “сайдлоадинга”.

сайдлоадинг это аппроксимация разума через входы и выходы мозга. Мы работаем с ним как с черным ящиком: записываем твои логи, тексты и реакции, а потом учим нейронку вести себя так жеглавная ценность — это страховка от информационного уничтожения.
____
© определение от фаната сайдлоадинга

Есть и другие варианты определения, в целом, они сводятся к созданию цифровой копии сознания человека, в качестве средства выступает нейросеть

я веду запись экрана, сохраняю все чаты и т.п. твое «подсознание» — это просто скрытые паттерны поведения, нейросеть их отлично вытаскивает из таких массивов данных. мы моделируем черный ящик по входам и выходам
____
© фанат сайдлоадинга рассказывает о себе

Фанаты сайдлоадинга хотят создать свою копию при помощи нейросетей. Идея в том, что если скормить ИИ факты и тексты, он восстановит личность, перенесет ее в “цифру” и сделает бессмертной (нет).

Это порождает споры на тему: “Является ли копия оригиналом?”, плавно переходящую в обсуждение проблем сознания, цифрового бессмертия и всяких квалиа.

Но спорить тут не о чем.

Никакой копии не будет.
Это доказывается на уровне школьной математики.

Представьте последовательность чисел (ваши поступки в прошлом):
0, 2, 4 …

Любители тестов на IQ сразу увидят закономерность: x = 2n, где n – номер элемента, больше или равен 0

x = 0 при n=0 -> x = 2*0
x = 2 при n=1 -> x = 2*1
x = 4 при n=2 -> x = 2*2
x = ? при n=3 -> ??

Какой будет следующий шаг (n=3)? Думаете, 6?
Поздравляю, вы построили модель. И ошиблись.

Почему нейросеть вас не “угадает”
В математике есть понятие интерполяции – восстановления функции по набору известных значений. Сайдлоадинг – именно это, т.е. попытка восстановить функцию вашего сознания по логам и текстам.

Проблема в том, что через любое конечное число точек проходит бесконечно много кривых, если перевести на человеческий: “никакое конечное количество наблюдений не определяет функцию однозначно, количество вариантов бесконечно!”

Вот формула, которая это демонстрирует:

Где C – любое число. Подставьте n = 0, 1, 2 – слагаемое с C всегда обнуляется. Формула идеально воспроизводит прошлое при любом C.

Но при n = 3 получаем f(3) = 6 + 6C
Если C = 0, ответ 6. Если C = 1, ответ 12. Если C = 100, ответ 606.

C – это всё, что не попало в ваши логи. Ваши ощущения, ваша нейрохимия, ваш контекст в момент решения. Нейросеть этого не видит, но именно это определяет, кто вы.

Нейросеть подберет C=0 (самый простой путь). Получится гладкая модель. Она может совпадать с вашим прошлым. И расходиться с вами в каждом новом решении в будущем.

Вывод
“Цифровая копия” – это не вы. Это Актер, который изучил биографию, но в любой новой ситуации (n>=3) актер будет импровизировать на основе усредненной логики, а не вашей внутренней сути. Поначалу будет похоже. Чем дальше – тем сильнее вы превращаетесь в карикатуру на самого себя.

Сайдлоадинг:
– Не копия
– Не продолжение жизни
– Не решение проблемы смерти

Если нужно решать задачи при помощи нейросетей, то писать стоит оптимизированные промпты, а не историю своей жизни ^[1].

Лучше ли это чем ничего? – Нет! “Ничего” позволяет осознать проблему смерти, вместо ухода в фантастический эскапизм самообмана.

Контекст/автор
Я из IT, но мне интересны проблемы иммортализма и русского космизма. Этот текст – часть дискуссии. Если вы считаете старение и смерть главной проблемой людей, добро пожаловать на мой канал. ^[2]