Галлюцинации в больших языковых моделях: анализируем и разбираемся
В этой статье рассматривается проблема галлюцинаций ИИ — их причины и возможные способы решения на архитектурном уровне. Это явление является одним из ключевых в работе современных языковых моделей. Создать надежную программу на базе ИИ невозможно без понимания причин возникновения галлюцинаций, которые нарушают работу систем и подрывают доверие к таким помощникам. Помимо технических сложностей, важную роль играет и человеческий фактор. Но обо всем по порядку.Системная природа проблемы
Обзоры препринтов научных статей в области астрофизики за сентябрь 2025 года
Выпуск 448Ежемесячный обзор научных статей в области астрофизики от профессора МГУ Сергея Попова. Выборка интересных публикаций в области астрономии, астрофизики и физики из библиотеки препринтов arxiv.org. Публикуется с разрешения автора и указанием ссылок на первоисточники.arxiv:2509.00951
AI 2026: Почему это будет год «Цифрового Шизофреника» и как нам в этом выжить
От чат-ботов к цифровым близнецам, от промптов к протоколам — что ждет нас через 12 месяцев, и почему ваша ментальная модель ИИ безнадежно устарела. 2025-й был годом хайпа. Мы все научились писать промпты, восхищались Sora, DeepSeek, Chat GPT-5 и спорили, отнимет ли ИИ наши работы. 2026-й будет годом, когда хайп умрет, а на смену ему придет суровая, неудобная и стремительная реальность.Забудьте про ИИ как про инструмент. В 2026-м ИИ окажется средой
Prompt Engineering: Паттерны проектирования. Часть 1 — XML теги
Prompt Engineering все еще остается ключевым элементом в разработке приложений на базе LLM. По мере того как индустрия движется от экспериментов к созданию продуктов, возникает потребность в лучших практиках и проверенных паттернах. Чтобы найти их, лучшим методом является постоянный анализ существующих топовых решений. В ходе масштабного исследования были проанализированы системные промпты из публичного репозитория
Образование больше не услуга. Новая онтология для эпохи ИИ: от ЗУНов к субъективному опыту
Более 30 лет я преподаю — в Вышке, РАНХиГС, Бауманке. За это время сменилось несколько президентов, десяток министров образования, бесчисленное количество реформ, стандартов, платформ и лозунгов. А я, человек с двумя дипломами — инженерным и философским, — всё это время смотрел на систему изнутри и задавал один и тот же вопрос: а что, черт возьми, такое образование на самом деле?Вроде бы всё написано в законе: образование — это услуга. Рыночная. Сервис для потребителей (студентов), заказчиков (государства, работодателей) и поставщиков (вузов, школ). Просто, понятно, современно.
Паттерны проектирования искусственного сознания и закрытие ТПС: дискретизация, рефлексия и рекурсия пространства-времени
Трудная проблема сознания (ТПС) — тупик, а не путьКогда мы говорим о сознании, особенно в контексте искусственного интеллекта, нас неизбежно настигает «трудная проблема сознания» (ТПС), сформированная Дэвидом Чалмерсом: почему и как из физических процессов в мозге возникает субъективный опыт (или квалиа) — ощущение красного, вкус хруста булки, мурашки от музыки? Этот вопрос стал мемом, философским барьером и вызовом для проектирования искусственного интеллекта который, похоже, невозможно преодолеть.При решении этой проблемы философы и специалисты по когнитивным наукам застряли в трёх тупиках:
Искусственная совесть и искусственный стыд: мысленные эксперименты и границы проектирования систем
Представим, что вы сидите за ноутбуком, пишете статью, работаете с ИИ-ассистентом — он подсказывает формулировки, проверяет стиль, следит за терминологией. В какой-то момент вы пишете слово «негр» — просто как часть цитаты, без злого умысла. А асисстент вдруг отвечает:«В контексте политики нашего журнала рекомендуется использовать более нейтральные формулировки, например “афроамериканец” или “человек африканского происхождения”». Вы на секунду замираете. Не от оскорбления. А потому что чувствуете — вас стыдят.Не грубо, не агрессивно. Наоборот — вежливо, по-доброму.
Multi-Agent System для Radiology VQA: Новый шаг в интерпретации рентгеновских снимков
На arXiv появилась статья
ИИ помощник или конкурент?
Привет, Хабр, я Татьяна, системный аналитик. В этом году у меня профессиональный юбилей – 5 лет в IT. Я работаю на проекте в банковском секторе. В прошлом году в банке запустили пилотный проект по использованию ИИ. Коллеги из разных компетенций учились применять искусственный интеллект в своей работе. В этой статье хочу поделиться с вами своим мнением о внедрении нейросети в процессы системного аналитика, советами для эффективной коммуникации с ИИ и примерами промтов.
