AI-driven диплом MBA или мастер промптов делового администрирования
Май и июнь - пора защит дипломов во многих ВУЗах. И так уж сошлось, что AI-тема в этом году заиграла интересными красками. И если уж мы на уровне компаний используем AI для рабочих задач, то нетрудно предположить, что многие студенты используют AI в своих дипломных и курсовых работах, но вслух не обсуждают этот интересный момент. Потому что вопрос этичности витает рядом. В этом посте я решился открыто рассказать про свой опыт и как-то подружиться с проблемой этичности, по крайней мере, для себя.
LLM для кодинга и локальный тест открытых моделей на AMD
LLM кодеры уже показывают отличные результаты на бенчмарках и в реальных задачах. Кажется, сейчас хорошее время, чтобы начать пробовать ими пользоваться.В статье разберем открытые LLM для кодинга. Сравнимы ли они с подписочными моделями? Можно ли их использовать для работы? А есть ли вариант начать локально?В части туториала:Запустим через docker с помощью llama.cpp.Сделаем замеры скорости генерации.Ускорим за счет спекулятивного декодинга. Подключим в vscode, заставим работать локально и через ssh.Что можно делать с llm
