Принципиальная детерминированность нейросетей и безопасность
Одним из ключевых требований к информационной системе является воспроизводимость результатов. Однако многие специалисты сталкиваются с трудностями, когда попытка повторить эксперименты приводит к отличающимся показателям. Такая ситуация известна как недетерминированность: модель выдаёт различные результаты при одинаковых входных данных и конфигурации.Вместе с тем, несмотря на распространённое заблуждение, источником проблемы чаще всего становятся не свойства самой нейросети, а упущения на этапах проектирования разработки и эксплуатации.
Механическая вселенная и свобода воли
Бывают такие научные опыты, после которых хочется просто выйти на улицу, вдохнуть холодного воздуха и долго смотреть в пустоту, пытаясь переварить услышанное. Для многих таким моментом стало знакомство с экспериментами Бенджамина Либета
ADSM: путь от вероятности к детерминизму
Вероятностный вычислительМои знания об устройстве LLM базируются на общедоступной популярной информации (в том числе и на статьях Хабра) и в какой-то мере подтверждаются практикой общения с ними. Можно смотреть на LLM как на некую разумную сущность, чья природа ортогональна человеческому разуму и поэтому плохо нами понимается, но я предпочитаю смотреть на LLM как на инструмент, созданный людьми для решения собственных, человеческих проблем.
