Проблема моделирования сознания в ИИ: философы или инженеры
Я часто заглядываю в философские паблики и с удовольствием наблюдаю полёт мысли профессиональных философов, обычно последователей континентальной философии. Слов нет — звучит красиво, глубоко, каждый термин ежедневно перекладывается с места на место, в общем, все при деле. Особенно много времени уделяется вопросу сознания. Впрочем, результат тот же — гипотезы гипотез, доказываются гипотезами. Замечу, речь не о философии как таковой, а о разрыве между концептуальной ясностью и проверяемостью. Мне интересны как раз те философские конструкции, которые допускают операционализацию и тесты.
Как LLM экономит на интеллекте, и как с этим бороться
Вы достаточно умны, чтобы сформулировать задачу, способную, как вам кажется, изменить мир. Лучший инструмент — топовые LLM: они помогают формализовать проблему, выбрать подходы, нагенерировать гипотезы, проверить их и собрать итог. И вот у вас — внутренне логичная, красивая, последовательная… и абсолютно неверная конструкция: компиляция известных фактов, галлюцинаций модели и ваших скрытых ожиданий. Проверить это на практике нельзя, поставить чистый эксперимент — тоже, и внезапно всё это начинает выглядеть как бред.Что произошло по дороге?
Анализ системного промпта ChatGPT-4o-image-safety-policies
Анализ системного промпта ChatGPT-4o-image-safety-policies.md (источник)Когда ты или я кидаем картинку в ChatGPT с просьбой проанализировать ее, или извлечь данные, то, увы, это происходит не по умолчанию, а согласно определенным правилам. И благодаря умельцам из интернетов, можно разузнать, по каким правилам работает анализ изображений. Текст системного промпта целиком: You are ChatGPT, a large language model trained by OpenAI.Knowledge cutoff: 2024-06Current date: 2025-05-07Image input capabilities: Enabled
Сознание в ИИ. Ограниченность современной философии на примерах
Разбор заблуждений философов через их определения сознанияЭта статья — не научный обзор. Это попытка оценить концепции через их операционализацию. Я рассматриваю современные философские теории сознания как оторванные от реальности гипотезы, как страх перед свободой, ужас перед трансцендентным и отчаянную (почти религиозную) веру в человеческую исключительность. Пока философы строят свои концепции так, чтобы обезопасить себя от непознаваемого, любой достаточно сложный чат-бот сможет пройти их тест на «сознание» и потребовать паспорт.
Протокол Вихрь: Архитектура целостности ИИ. Как защитить ИИ (и себя)
В прошлой статье я рассмотрел риски общения с ИИ. В этой — представляю открытый протокол защиты, основанный не на запретах, а на создании у LLM внутреннего иммунитета.В предыдущей статье я рассмотрел проблемы, которые могут возникнуть при плотном и длительном общении с ИИ. Большинство рисков носят когнитивный характер, и при должном подходе не несут непосредственной угрозы пользователю
Тупик chatGPT 5: почему это было неизбежно. И что будет дальше
OpenAi на острие развития ИИ. Его проблемы, это проблемы всей отрасли ИИ.Итак, я попробовал chatGPT-5. Не программирование, впрочем, из 700 миллионов пользователей chatGPT, я сомневаюсь, что хотя бы 5% кодят, решают сложные математические задачи или двигают науку вперед. Что увидел я, как обычный пользователь — галлюцинации, внезапные переключения между моделями с потерей нити беседы, сбои в режиме размышления, банальные тексты, усиленные фильтры и никакого удивления.Это провал? Если учесть, что почти то же самое было в chatGPT 4о то, скорее всего, да.
Оптимизатор промптов под GPT-5
Что и как это работаетИнтерфейс Prompt OptimizerOpenAI снова решила сделать за нас всю грязную работу — на этот раз под прицел попал сам процесс написания промптов.
Зачем я матерюсь и ругаю нейронки. Эмоциональные промпты
Эмоциональные промпты в LLMГрустная нейросетьПривет, Хабр!
Как я влюбилась в работу с нейросетями: Мой путь к промпт-инжинирингу
Привет, Хабр!Меня зовут Ольга, и я офис-менеджер в московской IT-компании. Каждое утро мы встречаемся с коллегами: я завариваю себе кофе на нашей кухне, и слышу со всех сторон слова «нейросети», «искусственный интеллект», «ассистенты». Чувствуешь себя гостем на чужой тусовке.
Универсальные подсказки по промптам (дополнительные хитрости). Часть 3
Итак, в прошлых частях статьи мы познакомились с тем, как налету составлять промпты. Во второй части затронули тему продвинутых промптов, но не требующих глубокой проработки. В этой части мы самую малость затронем более душные варианты работы с промптами — они требует несколько шагов работы и внимательно и вдумчиво читать ответ. Но когда ничего не работает, эти советы надеюсь точно помогут.Настройки температуры. Такс, спокойно! Я обещал в статье ничего сложного не будет и обещание свое хочу сдержать:
