OpenAI Privacy Filter: красивая архитектура в суровых условиях русского бенчмарка
22 апреля 2026 года OpenAI выпустила OpenAI Privacy Filter
Разбор архитектуры и тест-драйв OpenAI Privacy Filter на бенчмарке персональных данных на русском
22 апреля 2026 года OpenAI выпустила OpenAI Privacy Filter
Поиск видеоконтента: сравнение Hikvision и СпецЛаб
Не смотря на развитие MML, поиск видеоконтента остался на доИИшном уровне. Найти фильм по содержанию невозможно даже на Ютьюбе. Поисковая проблема поиска видеоконтента сегодня решается не IT-гигантами, а компаниями по производству систем видеонаблюдения. И в будущем, даже когда Гугл сподобиться ввести такой функционал, все равно эта ниша потенциально свободна, т.к. дикое видеонаблюдение имеет серьезные отличия от качественных съемок рилсов и кино.
DeepSeek представляет флагманскую модель искусственного интеллекта
DeepSeek представила предварительные версии новой флагманской модели искусственного интеллекта версии V4 Flash и V4 Pro, которые демонстрируют высочайшую производительность в тестах на кодирование и значительный прогресс в решении логических и агентных задач. Они оснащены несколькими обновленными архитектурами и оптимизированными функциями и могут работать с контекстом длиной в миллион токенов. DeepSeek отдельно выделил технологию, которую назвал гибридной архитектурой внимания. По словам разработчиков, она улучшает способность ИИ запоминать запросы в ходе длительных диалогов.
Как мы заставили vLLM «лениться» под нагрузкой и спасли Time-to-First-Token
Введение: Почему обычный Rate Limiting не работает для LLM?Деплой больших языковых моделей (LLM) — это всегда боль, когда дело доходит до пиковых нагрузок. В классических web-сервисах при высоких RPS мы просто включаем балансировщик, а если всё горит — жестко режем запросы HTTP 429 Too Many Requests.Но в мире генеративного AI отбрасывать запросы клиентов очень дорого: пользователь уже подождал, пока загрузится чат, написал длинный промпт, нажал Enter и… получил ошибку. А масштабирование GPU-кластера занимает минуты, которых у нас нет.В этой статье мы покажем, как подход “Динамической лени”
Шестибитный процессор с робкими картинками
Итак, в первой части я смело пообещал вторую статью «из одних картинок», но… мой маленький часовой кукушонок настолько похужал и возмудел за прошедшее время, что пришла пора знакомиться с ним, можно сказать, заново. Оптимизация не пощадила практически ничего, и, хотя я там же в камментах бо́льшую часть перемен отразил — всё равно надо начать с того, что же в сумме у нас получилось.
