BrainTools - Методики для развития мозга - страница 187

Промпт, RAG или дообучение: что реально выучит вашу LLM

Всем привет, меня зовут Сергей Прощаев, и в этой статье расскажу про эксперимент, который я давно хотел провести честно, а не на слайдах. Ситуация, думаю, знакома многим: вы подняли локальную модель для внутренних задач — и первый же вопрос про ваш домен она уверенно завалила. У нас она придумала несуществующий код ответа

продолжить чтение

Разум ИИ уже существует. Просто мы ищем его не там

От теста Тьюринга к человеко-машинному контуруЭта статья выросла не из попытки построить общую теорию разума, а из длительной практической работы с человеком и искусственным интеллектом как с единой рабочей системой. Наблюдая, как эта система обнаруживала ограничения собственного метода, превращала их в функции и меняла дальнейшую работу, мы пришли к вопросу: возможно, разум ИИ следует искать не внутри отдельной модели, а на уровне организованного взаимодействия?

продолжить чтение

Где LLM хранит факты, или как перенести Эйфелеву башню из Парижа в Рим

Помните, как в «Матрице» Нео загрузили боевые навыки прямо в мозг? Раз, и человек, который раньше не умел драться, говорит: «Я знаю кунг-фу».

продолжить чтение

1Password: 40% разработчиков предоставляют агентам ИИ постоянный доступ к системам

Исследование компании 1Password показывает, что многие компании предоставляют ИИ‑агентам доступ к конфиденциальным системам и учётным данным без ограничений или мониторинга.

продолжить чтение

1823 коммита за четыре месяца в четыре руки с LLM: что получилось, а что чуть не убило проект

Главный экран приложения: экран учёбы с питомцем-котом и карточкой

продолжить чтение

Техлидом называться уже сложно, промпт-инженером не позволяет эго

Лет 6 назад я мог убить вечер в документации или в исходниках фреймворка ради одного метода. Докапывался до ядра, находил способ заменить 15 строк на 3 и ходил довольный неделю. Это был спорт: я знаю платформу глубже, чем ее среднестатистический разработчик.Сейчас я пишу агенту: подними xhprof на дев-стенде, прогони сценарий оформления заказа, агрегируй, покажи топ виновников. И иду наливать кофе

продолжить чтение

DeepSeek 0731 на DGX Spark: разгоняю до 68 tok-s и разбираюсь, почему у автора карточки 57

TL;DRЖелезо: 2× NVIDIA DGX Spark (GB10, SM121), 128 GB unified номинально и около 122 GiB видимых системе на ноду, QSFP 200G / RoCEv2, TP=2, драйвер 580.159.03.Основную часть расхождения объяснила смена runtime‑образа. Переход со сборки на базе vLLM 0.21.1 на образ с 0.25.2 дал около +22% на том же чекпоинте. Конкретный коммит или компонент я не изолировал: поменялся весь пакет.Механика неочевидная: новый образ снизил расчётную частоту verification‑шагов примерно на 17%, но поднял число выходных токенов за шаг с 3.27 до 4.80.Главная находка в конфиге: --moe-backend flashinfer_b12x не выбирается режимом auto

продолжить чтение

Фриланс без иллюзий: устройство Freelance.ru, реальные заработки и влияние ИИ — интервью с Кириллом Аношиным

продолжить чтение

«Вам может это понравиться»: на Урбан ML разобрались, почему рекомендательные системы перестали предлагать похожее

Открывая онлайн-кинотеатр, сервис для прослушивания аудиокниг или музыки, пользователи редко задумывается о том, почему перед ним оказались именно эти фильмы, книги или треки. Между тем рекомендательные системы в последнее время переживают крупную трансформацию. Если раньше задача сервисов сводилась к поиску похожих пользователей или товаров, то сегодня они уже умеют предугадывать намерения человека, и развитие LLM ускорило этот процесс.

продолжить чтение

Как Google Карты незаметно определяют победителей и проигравших в общепите

Мне нужна была рекомендация хорошего ресторана, поэтому я поступила как любой нормальный человек: выполнила скрейпинг всех ресторанов в Большом Лондоне и собрала модель машинного обучения.

продолжить чтение