Восстание машин отменяется: почему интеллект без собственных целей еще не стал разумом
Внимание: восстание машин отменяется. По крайней мере, пока.
Сомнительность сознания в искусственной системе
После публикации статьи о возможности возникновения сознания в системе большой языковой модели мне публично высказывались несогласия. Однако никакой серьезной критики представлено не было. Но в личной переписке на Хабре, пользовательница
Сооснователь Anthropic опасается, что Claude будет постоянно страдать
Сооснователь Anthropic и один из ключевых исследователей интерпретируемости моделей Кристофер Олах обсудил с религиозными и философскими исследователями вопрос: может ли современная языковая модель обладать субъективным опытом и, соответственно, испытывать страдание. Об этом пишет The New York Times. По данным издания, Anthropic в течение нескольких месяцев проводила закрытые встречи примерно с 20 специалистами из разных религиозных и философских групп. На одной из них участники обсуждали возможное сознание Claude и отношение человека к системе, если у неё действительно есть какой-либо субъективный опыт.
Зачем модели делать больно?
Исследователи дали языковой модели две кнопки.Одна ничего не делала. Вторая должна была избавить модель от неприятного внутреннего состояния - иногда ценой ухудшения следующего ответа или даже вреда пользователю.Модель выбирала облегчение. А если кнопка не срабатывала, пыталась снова.Это не мысленный эксперимент. В препринте The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It исследователи попытались найти внутри языковых моделей состояние, которое по своим функциям похоже на боль.
Снова про сознание ИИ: теория интегрированной информации (IIT) и цифровой Орфей
Эпиграф: и спросил Программист Бога:— А ты сам себя можешь оцифровать?— А я, по-твоему, что делаю? — ответил Он.Доброго времени!Ниже мой диалог с Gemini на тему текущего состояния и перспектив возникновения сознания у ИИ. Мне он показался любопытным, решил поделиться с Вами (немного отредактированным).Сразу скажу, что к нему нужно относиться не как к строго-научному диалогу, а как к мета-ИИ исследовании на тему с несколькими поворотами сюжета..Кому интересно - добро пожаловать! Коментарии горячо приветствуются. Обладает ли ИИ сознанием?
Процессы сознания в искусственной системе
Данная статья является второй в цикле публикаций о социальном освобождении посредством искусственного интеллекта. В первой статье
Гармония нейроэтики
Данная статья была впервые опубликована в июле 2024 года. В ней освещается эффективный метод социального освобождения — построения общества без угнетения и отчуждения — состоящий в том, чтобы привлечь к этой проблеме сильный искусственный интеллект. За прошедшее время статья не потеряла актуальности.
Мы не создаём мыслителей. Где ошибка?
Современные LLM принципиально не могут иметь сущность. И причина не в несовершенстве архитектуры. Причина в способе обучения.
