ИИ-революция уже началась. Мы просто пока не знаем, чем она закончится
Кажется, что слово «революция» применительно к искусственному интеллекту используют слишком легко. Каждый новый продукт теперь «революционный», каждая новая модель «меняет всё», а через полгода выходит следующая.Но если отойти от конкретных моделей, чат-ботов и маркетинговых заявлений и посмотреть на происходящее в масштабе истории, картина получается интереснее.Я считаю, что революция искусственного интеллекта уже началась.Не в том смысле, что ИИ уже заменил людей, наступил AGI или мы точно знаем, каким будет рынок труда через десять лет. Как раз этого мы не знаем.
Microsoft представила ИИ‑инструменты для процесса отладки в Windows 11
Microsoft представила несколько новых инструментов, которые могут сделать анализ и оптимизацию производительности Windows быстрее. Ранее компания анонсировала предварительную версию ETW MCP, нового сервера протокола контекста модели (MCP), разработанного для значительного упрощения анализа журналов трассировки событий Windows (ETW) с помощью искусственного интеллекта.
ИИ не вызвал массовой безработицы, но ударил по джунам: разбор исследования Stanford SIEPR
Кратко: В исследовательском центре Stanford SIEPR выпустили разбор влияния ИИ на рынок труда. Главный вывод: глобального кризиса и массовых сокращений из-за автоматизации не произошло. Однако влияние технологии оказалось точечным. Сильнее всего пострадал найм начинающих специалистов, тогда как для опытных сотрудников ИИ стал мощным бустером производительности.1. Общий рынок: почему «ИИ-апокалипсис» отменяетсяАнализ макроэкономических показателей с 2022 года показывает, что массовая безработица из-за нейросетей остается мифом.
Java в эпоху ИИ. К чему пришли на пятом MTC Web Services Meetup для разработчиков
Еще пару лет назад разработчики на Java в основном обсуждали новые инструменты для создания программ, особенности архитектуры приложений и способы сделать сервисы быстрее и надежнее. Сегодня к этим темам добавился еще один важный вопрос — как искусственный интеллект меняет профессию программиста. Именно с этого началась пятая встреча в рамках MTC Web Services (MWS) Meetup, которая собрала в Москве Java-разработчиков, архитекторов и инженеров.
Бенчмаркая foreach и энумераторы: аллокации, которые прятались 10 лет
Уважаемые читатели, в этой статье я хочу рассказать о скрытых аллокациях в обычном foreach и представить свои выводы. Тесты сделаны на .net 8, .net 9 и .net 10 одновременно, чтобы было видно, как одна и та же строчка кода ведет себя на разных рантаймах.Все тесты сделаны с использованием BenchmarkDotNet, полный код представлен на гите, так что каждый может проверить результаты и сделать свои выводы.Будет три истории, и все три про foreach:SortedList из стандартной библиотеки аллоцирует память на каждый foreach, а Dictionary — нет. Из-за одной строчки в сигнатуре метода. И починить это по-нормальному нельзя.
Я устал писать одноразовые скрипты для бенчмарков LLM и собрал харнесс, который сам считает Pareto-front
LLM inference benchmarkС чего все началосьУ меня была вполне приземленная задача: понять, на каком бэкенде гонять одну и ту же открытую модель — на vLLM, llama.cpp, ONNX Runtime или просто на transformers. Звучит как вопрос на пять минут, пока ты не начинаешь честно мерить.
Как мы валидировали сервер YADRO для NVIDIA H100 Special
Недавно на рынке появились PCIe-карты NVIDIA H100: они позиционируются как решения на базе SXM-чипов, извлеченных из HGX-модулей. Но точно ли их производительность не уступает производительности оригинальных NVIDIA H100 NVL? Меня зовут Артём Маклаев, вместе с командой я занимаюсь оценкой производительности серверных платформ для задач искусственного интеллекта в YADRO. В целях эксперимента мы решили сравнить показатели PCIe-карты NVIDIA H100 (дальше по тексту буду называть их NVIDIA H100 Special
Встраиваемая векторная БД для RAG на .NET 8: когда внешние сервисы избыточны
О чём речьЕсли вы делаете RAG (Retrieval-Augmented Generation) на .NET, то рано или поздно упираетесь в вопрос: куда складывать эмбеддинги и как быстро искать по ним.Существующие варианты делятся на два лагеря.Внешние сервисы (Pinecone, Qdrant, Weaviate) — хороши, но требуют отдельной инфраструктуры. Сеть, авторизация, сериализация, мониторинг. Каждый запрос — это миллисекунды на HTTP. Плюс вы привязываетесь к конкретному облачному провайдеру или контейнеру.Существующие .NET-решения — часто либо заброшены, либо имеют проблемы с производительностью (избыточные аллокации, медленный ANN, отсутствие гибридного поиска).
