llm.
Локальные нейросети без Python, CUDA и терминала: делаю программу, в которой всё настраивается само
Запускать нейросети у себя дома давно можно. Модели бесплатно лежат на HuggingFace, llama.cpp работает даже на старых видеокартах, ComfyUI рисует картинки. Но дорога до первого ответа у обычного человека выглядит так: поставить Python нужной версии, разобраться с CUDA, выбрать между Q4_K_M и Q5_K_S, скачать десять гигабайт и только после этого узнать, что модель отвечает по слову в секунду.
Малые языковые модели: где пригодятся SLM и что учесть в работе с ними
Сегодня малые языковые модели (SLM) все чаще оказываются в центре внимания: на первый взгляд, они почти не уступают LLM, при том, что ресурсов тратят намного меньше.Но тут, как всегда, есть нюанс (и не один): обсуждаем, так ли хороши SLM, где они действительно могут быть полезны, а где пока буксуют. А еще разбираемся, почему — на наш взгляд — серьезных конкурентов для LLM из них пока не выйдет.
Способы применения LLM: простые и необычные варианты
Статья вдохновленная старой веткой Reddit: https://www.Reddit.com/r/ChatGPT/comments/1cbnrmk/what_ways_do_you_use_chat_gpt_in_your_daily_lives/Я буду перечислять то, как сам использую LLM, в частности ChatGPT, в работе и в обычной жизни, а также некоторые интересные варианты которые встречались в Интернете (включая несколько нетипичных вариантов из указанной ветки Reddit). Также я спросил ChatGPT, как можно использовать большие языковые модели, в том числе “необычные и неочевидные способы применения LLM”. Некоторые интересные примеры добавлю сюда.
Зачем модели делать больно?
Исследователи дали языковой модели две кнопки.Одна ничего не делала. Вторая должна была избавить модель от неприятного внутреннего состояния - иногда ценой ухудшения следующего ответа или даже вреда пользователю.Модель выбирала облегчение. А если кнопка не срабатывала, пыталась снова.Это не мысленный эксперимент. В препринте The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It исследователи попытались найти внутри языковых моделей состояние, которое по своим функциям похоже на боль.
Переводчик в браузере, который учит слова: встроенный Translator API Chrome, свой ИИ‑ключ и интервальные повторения
Было популярное китайское расширение Dadda Translate (达达划词翻译): выделяешь слово, получаешь перевод, сохраняешь в словарик, и слово потом всплывает уведомлением, пока не запомнится. Оно перестало работать: API Sogou и Shanbay, на которых держался перевод, изменились или исчезли. К тому же оно было только для Chrome и только для пары английский → китайский.Я переписал его с нуля. Получился WordToast для Firefox, Chrome и Edge (GitHub
А что думают сами LLM насчет наличия у себя сознания?
Дискуссии об LLM в массовой культуре на данный момент можно разделить на две большие категории — техно‑оптимистов и техно‑алармистов.
Слабости роя. Почему агенты инструмент, а не решение всех проблем
Всё увереннее звучит мнение, что чат-боты в приложениях LLM своё отжили, будущее за агентами, особенно за многоагентной схемой — роем. Мнение вполне обоснованное, агенты демонстрируют отличные измеримые результаты в математике, коде, исследованиях. Но так ли всё хорошо? В этой статье я рассмотрю, насколько стоит доверять рою.Отличие агента от классического чат-бота LLM.
Ложь ИИ: иллюзии, в которые хочется верить
Ах, обмануть меня не трудно!.. Я сам обманываться рад!(«Признание», 1826, А.С. Пушкин)ВведениеДумаю, каждый из нас сталкивался с ложью ИИ. Что‑то было заметно сразу, что‑то всплывало при детальном разборе, а что‑то было принято за истину без верификации. Этот текст — попытка систематизировать личный опыт. Я не претендую на научную строгость: часть утверждений — мои наблюдения, а не верифицированные факты, и я могу ошибаться.
LLM уверенно называет шахматные ходы, которых на доске нет. Как я проверяю каждый ее ответ кодом
Движок знает ответ, но говорит числами: -2.7 и стрелка. Модель говорит словами, но врет. Первый же комментарий, который я получил, звучал так: «сильнее было 14.Nf6, конь врывается в лагерь черных». Коня, который может пойти на f6, в той позиции на доске не было.Сразу дисклеймер: это мой первый веб-проект. Я играю в шахматы блиц на 1300 и хотел инструмент, который объясняет мои ошибки словами, а не оценками. Часть того, что ниже, фронтендеру покажется очевидной. Мне пришлось выяснять это руками.
