Туризм.РФ запустила ИИ-платформу для работы с инвестпроектами в сфере туризма
Государственная корпорация Туризм.РФ запустила цифровую ИИ-платформу закрытого типа на базе собственного цифрового контура, изолированного от внешних сетей.
Агент с лицензией на ошибку
Как ломают ИИ-агентов. Часть 1: Кейс с Operator ChatGPTВ 2025 году ИИ-агенты стали настоящим медиа-феноменом: Y-Combinator объявляет ИИ-агенты ключевым направлением для инвестиций в 2025 году;управляющий венчурного фонда Dragonfly называет ИИ-агенты главным нарративом криптосообщества и технологической индустрии на 2025 год;лидеры индустрии LLM – OpenAI и Anthropic – выпускают на рынок своих Operator и Claude Computer Use.Ну а нас, естественно, больше всего интересует вопрос уязвимости таких систем: у агентов все больше возможностей, а значит и поверхностей атаки. Наша команда работала над отчетом OWASP
Люди-архиваторы, или как работают обратные аналогии
Когда‑то я посмотрел очень полезное видео про ML, где для аналогии нейронной сети приводилось понятие архиватора. Помню меня это впечатлило и определённо расширило кругозор. Странно, почему тогда я сразу не перенёс это на людей — скорее всего потому, что принято брать мозг за эталон и с него примерять разные наряды на искусственные нейронные сети, а не наоборот.
Паттерны проектирования искусственного сознания и закрытие ТПС: дискретизация, рефлексия и рекурсия пространства-времени
Трудная проблема сознания (ТПС) — тупик, а не путьКогда мы говорим о сознании, особенно в контексте искусственного интеллекта, нас неизбежно настигает «трудная проблема сознания» (ТПС), сформированная Дэвидом Чалмерсом: почему и как из физических процессов в мозге возникает субъективный опыт (или квалиа) — ощущение красного, вкус хруста булки, мурашки от музыки? Этот вопрос стал мемом, философским барьером и вызовом для проектирования искусственного интеллекта который, похоже, невозможно преодолеть.При решении этой проблемы философы и специалисты по когнитивным наукам застряли в трёх тупиках:
Искусственная совесть и искусственный стыд: мысленные эксперименты и границы проектирования систем
Представим, что вы сидите за ноутбуком, пишете статью, работаете с ИИ-ассистентом — он подсказывает формулировки, проверяет стиль, следит за терминологией. В какой-то момент вы пишете слово «негр» — просто как часть цитаты, без злого умысла. А асисстент вдруг отвечает:«В контексте политики нашего журнала рекомендуется использовать более нейтральные формулировки, например “афроамериканец” или “человек африканского происхождения”». Вы на секунду замираете. Не от оскорбления. А потому что чувствуете — вас стыдят.Не грубо, не агрессивно. Наоборот — вежливо, по-доброму.
Илон Маск анонсировал интеграцию рекламы в ответы Grok
Социальная сеть X планирует встраивать рекламу в ответы Grok. Об этом сообщил Илон Маск в ходе прямого эфира с рекламодателями в среду, отметив, что новые рекламные форматы помогут укрепить ослабленный рекламный бизнес платформы после ухода бывшего генерального директора Линды Якарино, а также помочь покрыть высокие расходы на вычислительные мощности.
Прорыв от Google: активное обучение с экономией данных на 10 000× при дообучении LLM
Google разработала масштабируемый процесс active learning, который позволяет в десятки тысяч раз сократить объём размеченных данных, необходимых для тонкой настройки больших языковых моделей на сложных задачах — например, при модерации рекламного контента.
Microsoft добавила в Bing Image Creator бесплатный доступ к GPT-4o
Microsoft теперь предоставляет бесплатный доступ к GPT-4o через Bing Image Creator, позволяя каждому пользователю создавать изображения с помощью ИИ. Это та же технология, которую OpenAI интегрировала в ChatGPT в начале текущего года.
Baidu до конца месяца выпустит новую ризонинг-модель
The Wall Street Journal сообщил сегодня, что китайский техгигант планирует представить новую модель, ориентированную на сложные логические рассуждения, уже до конца этого месяца. Разработанная модель может успешно конкурировать с такими компаниями, как DeepSeek и OpenAI, благодаря своей способности решать более сложные задачи.
