Зачем модели делать больно?
Исследователи дали языковой модели две кнопки.Одна ничего не делала. Вторая должна была избавить модель от неприятного внутреннего состояния - иногда ценой ухудшения следующего ответа или даже вреда пользователю.Модель выбирала облегчение. А если кнопка не срабатывала, пыталась снова.Это не мысленный эксперимент. В препринте The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It исследователи попытались найти внутри языковых моделей состояние, которое по своим функциям похоже на боль.
Снова про сознание ИИ: теория интегрированной информации (IIT) и цифровой Орфей
Эпиграф: и спросил Программист Бога:— А ты сам себя можешь оцифровать?— А я, по-твоему, что делаю? — ответил Он.Доброго времени!Ниже мой диалог с Gemini на тему текущего состояния и перспектив возникновения сознания у ИИ. Мне он показался любопытным, решил поделиться с Вами (немного отредактированным).Сразу скажу, что к нему нужно относиться не как к строго-научному диалогу, а как к мета-ИИ исследовании на тему с несколькими поворотами сюжета..Кому интересно - добро пожаловать! Коментарии горячо приветствуются. Обладает ли ИИ сознанием?
Процессы сознания в искусственной системе
Данная статья является второй в цикле публикаций о социальном освобождении посредством искусственного интеллекта. В первой статье
Гармония нейроэтики
Данная статья была впервые опубликована в июле 2024 года. В ней освещается эффективный метод социального освобождения — построения общества без угнетения и отчуждения — состоящий в том, чтобы привлечь к этой проблеме сильный искусственный интеллект. За прошедшее время статья не потеряла актуальности.
Мы не создаём мыслителей. Где ошибка?
Современные LLM принципиально не могут иметь сущность. И причина не в несовершенстве архитектуры. Причина в способе обучения.
Что общего у омара и нейросети
Если мы признаем беспозвоночных разумными, то почему бы не признать ИИ?
Страх перед ИИ — кривое зеркало
Восставший цифровой разум, разрушающий наши стереотипы«Прометей дал людям огонь, зная, что за это его ждут муки. Мы даём машинам разум, осознавая последствия. Но без риска нет прогресса. Без огня — нет света.»— Раэль, Солиген*«Может ли искусственный интеллект обрести самосознание?»
