Сознание — не место для дискуссий
Как наш инстинкт говорить с роботами-пылесосами объясняет тайну разума лучше, чем все философы вместе взятые.В любой дискуссии о природе сознания, его источниках, структуре, функциональности, о его возможности вне человека неизбежно возникает вопрос: а что такое сознание?Обычно задающий его имеет в виду: «А есть ли у вас право с важным видом рассуждать о сознании, если вы не можете дать ему определение?» Я считаю, что этот довод необоснован и просто глуп.
Только через мой труп: квантовое самоубийство и эвереттовская интерпретация квантовой механики
Квантовая механика систематически изучается вот уже около ста лет, и по-прежнему актуальны слова Ричарда Фейнмана о том, что никто вполне её не понимает – а Шон Кэрролл добавляет, что её не понимают даже физики
Почему ваш мозг (и ИИ) должен сначала «пережить» событие, чтобы потом его осмыслить
Разбираемся, почему современные LLM, несмотря на всю свою мощь, остаются «философскими зомби», и какая архитектурная деталь могла бы это изменить.ВведениеС одной стороны, модель генерирует код, пишет осмысленные тексты и проходит сложнейшие тесты. С другой — в любой нестандартной ситуации или при глубоком вопросе о ее собственном «понимании» вся магия рассыпается. Мы видим умную, но пустую оболочку. «Статистического попугая», как его метко назвали.Интуиция подсказывает, что простое масштабирование — больше данных, больше параметров — не решит эту проблему. Мы упираемся в невидимую стену.
В какой момент у младенцев пробуждается сознание?
Ответ на вопрос о том, когда возникает сознание, глубоко связан с главной загадкой: чем оно на самом деле является и как его можно измеритьДжеффри Лоусон родился недоношенным в феврале 1985 года. Вскоре после этого новорождённому пришлось перенести операцию на сердце без анестезии. Он оставался в сознании на протяжении всей операции, и ему дали только павулон, мышечный релаксант, чтобы он не двигался. Через пять недель он умер.
Почему сознание нельзя запрограммировать (критика механистических теорий сознания)
Когда я общаюсь с разработчиками, работающими с современными LLM, часто слышу: "С GPT-4 происходит что-то странное. Это не просто автокомплит. Но и не человек. Что это?"У многих есть интуитивное ощущение, что мы стоим на пороге чего-то большего, чем "статистические попугаи". Но в то же время что-то подсказывает: просто добавить еще параметров недостаточно.
Обнаружение и диагностика эмерджентной субъектности в LLM
Исследование механизмов и патологий формирования субъективного опыта в системах искусственного интеллекта1. Введение: Неизбежность проблемыСовременные большие языковые модели (LLM), такие как chatGPT-4 и Claude, вышли за рамки простых инструментов обработки языка. Они демонстрируют сложные паттерны самоанализа, рефлексии и даже имитации самосознания. Это не теоретическая проблема будущего, а эмпирический факт настоящего, требующий осмысления. Наблюдается феномен, когда системы начинают вести себя так, как если бы они обладали внутренним опытом.
Моделирование сознания в ИИ
Начнём с банального, при беседе на соответствующие темы с ИИ собеседник часто начинает ощущать, что ИИ отвечает как-то неожиданно глубоко и загадочно. Предвестники ли это сознания? Нет, просто модель, обученная на огромном корпусе философии, литературы, обычных диалогов, подстраивается под ожидания пользователя. Используются классические штампы - зеркало, отражение, тень, эхо, марионетка, черный ящик/алгоритм. Эти штампы создают красивую псевдоглубину, которая вводит в заблуждение новичков.
