llm. - страница 41

llm.

Нафиг NVIDIA! Часть 2. Запустил 8 нейросетей на FPGA за $50 — и упёрся в DDR3

В первой части я рассказал, как запустил Qwen на списанной FPGA-плате за $50 с открытым TPU (openTPU). Комментаторы справедливо заметили: это больше анонс, чем статья. Где сборка, где кристалл, где замеры, почему 133 МГц, где КЕДР?

продолжить чтение

Труба, обёрнутая в трубу или почему современные ИИ это иллюзия, и какой путь мы выбрали вместо них

Открытая тема для размышления. Парадокс, который никто не хочет замечать.

продолжить чтение

Проверяю выбор функций и значения аргументов в ELM

Если вы подключаете к чату настоящие инструменты, нужно проверить два случая: когда вызов следует выполнить и когда ни один инструмент не подходит. Я сравнил два способа: модель сама пишет вызов или выбирает функцию и аргументы из готовых вариантов.Второй способ я исследую в собственной экспериментальной системе ELM — так я называю свой проект. Код предлагает варианты, нейросеть выбирает из них, а код собирает вызов. В проверяемом здесь режиме нейросеть не генерирует текст вызова.

продолжить чтение

Как добавить модели Anthropic в OpenCode через BotHub: два способа без лишней возни

Бывает, открываешь OpenCode, идёшь в менеджер моделей, а нужной Claude там нет. Хотя через BotHub она доступна, API-ключ есть, капсы на балансе тоже. На самом деле проблема может быть в самом каталоге моделей OpenCode. В нём не обязательно сразу появляются все новые модели, а нужная запись иногда отсутствует в списке. Но это не значит, что подключить её нельзя.Я покажу два способа, как добавить нужную модель Anthropic через BotHub: попросить OpenCode сделать всё самому или пойти путём настоящего технаря и покопаться в конфиге ручками. Также разберемся как установить OpenCode на удалённый сервер и подключить Claude через BotHub.

продолжить чтение

Сколько живёт ссылка в ответе нейросети: сравнил три замера по 20 вопросам

Если вы следите, ссылается ли нейросеть на ваш сайт, полезно знать, сколько ссылка держится в ответе на один и тот же вопрос. Недолго: через полтора месяца в ответах Алисы AI и Perplexity осталось от четверти до трети прежних ссылок (27,5% у Perplexity, 35,5% у Алисы AI), а больше половины ссылок оказались новыми.Я задал обеим нейросетям 20 вопросов одной ниши (как попасть в ответы нейросетей, сколько это стоит, где заказать). На каждый вопрос каждая нейросеть ответила пять раз: три повтора подряд за час, ещё один через 5 дней и ещё один через полтора месяца. Отчёт о том, что вы в ответе, стареет быстрее, чем кажется.

продолжить чтение

Gemini начинает с «Вот» 9 текстов из 10. Почерк 12 нейросетей в рабочих текстах

продолжить чтение

ИИ всё лучше водит киберпреступников за нос

Мошенники давно используют автоматизацию: массовые рассылки, подмену номеров, шаблоны диалогов и системы обзвона помогают им работать сразу с тысячами потенциальных жертв. Генеративный ИИ добавил к этому убедительные тексты, синтез речи и возможность быстро менять легенду под собеседника. Но тот же принцип начинают применять защитники: вместо того чтобы только блокировать подозрительный звонок, они дают мошеннику «жертву», с которой можно разговаривать часами и которая никогда не переведёт деньги.

продолжить чтение

Записать — не значит вспомнить: месяц внешней памяти для ИИ-агента

Однажды я потерял чат. Не то чтобы катастрофа — обычная рабочая сессия по проверке студенческих домашек. Экспорт я не делал, в лог ничего не писал. И чат пропал. Скорее всего, я сам его и удалил, но точно уже не вспомню.

продолжить чтение

Почему ИИ ошибается и признает ошибку, только когда вы ее найдете? История одного экзамена

Не так давно я поступал в аспирантуру. Готовился по старинке: конспекты, книжки, пробные тесты. Но уже в самой аудитории заметил, как многие полезли в часы и телефоны, начали украдкой использовать наушники. Оказалось, старые добрые шпоры мелким почерком уступили у студентов место чатам с ИИ-моделями.

продолжить чтение

Карта автономии AI: как решить, что агенту можно делать без человека

Привет! Я Андрей Непряхин — директор департамента разработки в AGIMA.

продолжить чтение