Техлидом называться уже сложно, промпт-инженером не позволяет эго
Лет 6 назад я мог убить вечер в документации или в исходниках фреймворка ради одного метода. Докапывался до ядра, находил способ заменить 15 строк на 3 и ходил довольный неделю. Это был спорт: я знаю платформу глубже, чем ее среднестатистический разработчик.Сейчас я пишу агенту: подними xhprof на дев-стенде, прогони сценарий оформления заказа, агрегируй, покажи топ виновников. И иду наливать кофе
«Вам может это понравиться»: на Урбан ML разобрались, почему рекомендательные системы перестали предлагать похожее
Открывая онлайн-кинотеатр, сервис для прослушивания аудиокниг или музыки, пользователи редко задумывается о том, почему перед ним оказались именно эти фильмы, книги или треки. Между тем рекомендательные системы в последнее время переживают крупную трансформацию. Если раньше задача сервисов сводилась к поиску похожих пользователей или товаров, то сегодня они уже умеют предугадывать намерения человека, и развитие LLM ускорило этот процесс.
“Половина денег уходит на оплату LLM”: как мы автоматизировали чаты поддержки и продаж с помощью ИИ
Текст написан по мотивам интервью с Дмитрием Бусовым, CEO проекта LeaderChat.
Сколько токенов в секунду реально выдаёт Mac mini M4
Дисклеймер: я держу сервис аренды маков, поэтому у меня под рукой флот одинаковых машин и повод их гонять. Цифры ниже с этих машин, методика описана полностью, данные открыты под CC BY. Ссылок на сервис в статье нет.Зачем очередной бенчмаркЗапросов «сколько тянет мак» в чатах много, ответов тоже, но почти все без методики: неизвестно квантование, неизвестна версия Ollama, один прогон вместо серии, непонятно, что происходило на машине в этот момент. Такие числа нельзя ни перепроверить, ни сравнить между собой.Я замерил шесть моделей на одной конфигурации и описываю всё, что может повлиять на результат.Методика
«Скопируй промпт дважды и получишь +76%». Я решил проверить
Всем привет. В декабре по всем AI-каналам пролетел лайфхак, который звучал как развод: продублируй свой запрос к нейросети, буквально Ctrl+C, Ctrl+V в одном сообщении, и точность вырастет. В пересказах фигурировали «+76%» и ссылка на Google Research, что придавало всей этой истории солидности. Трюк выглядел как-то настораживающе и при том вроде не сложным для проверки. Короче, я потратил $1.48, прогнал 3360 запросов и теперь знаю ответ. Он оказался интереснее, чем «работает || не работает».Что на самом деле написано в статьеИсточник это препринт Prompt Repetition Improves Non-Reasoning LLMs
В США недобросовестные сотрудники полиции превратили общенациональную сеть камер Flock в инструмент слежки
Осенью прошлого года в американском штате Джорджия арестовали начальника полиции Майкла Стеффмана за недобросовестное использование системы считывания автомобильных номеров, преследование и домогательства в отношении своей бывшей девушки Марси Бейкли. Речь идёт о разветвлённой сети придорожных камер Flock с искусственным интеллектом, которую американские правоохранители применяют для считывания номеров и пополнения базы данных, чтобы расследовать преступления, пишет Washington Post.
