Подключаем LLMку в свой Java-Kotlin проект через Docker
Всем привет, сегодня я расскажу как подключить LLMку через докер в ваш проект под разные задачи: от рабочих до бытовых.Мы будем использовать Java/Kotlin + Docker + Ollama.Немного о Ollama Ollama — это платформа для локального запуска и управления LLM (больших языковых моделей) на своём компьютере. Она нужна, чтобы использовать и тестировать модели вроде GPT или LLaMA без облака, хранить их локально и интегрировать в свои приложения. Я же сегодня буду вам показывать пример на llama3:8b. В первую очередь Llama 3‑8B оптимизирована для общего текстового интеллекта: от ответов на вопросы до прочих повседневных задач.
Мой домашний Kubernetes, или DevOps-«песочница» на домашнем ПК
Подружиться с "кубером" крайне важно и нужно для любого ИТ-специалиста
Docker начал предоставлять неограниченный доступ к защищённым образам для каждой команды
Команда Docker объявила о предоставлении неограниченного доступа к каталогу образов Hardened Images, чтобы сделать безопасные программные пакеты доступными для всех команд разработчиков в стартапах и компаниях малого и среднего бизнеса.
Как я внедрял искусственный интеллект в психоневрологическом интернате. Часть 2: RAG на документах организации
Введение: Почему RAG?Представьте: приходит письмо из вышестоящих или надзорных органов с требованием предоставить информацию или отчёт. Тут начинается суета и судорожный поиск нужных документов. А что, если всю внутреннюю документацию — приказы, инструкции, отчёты — можно было бы "спросить"? Задать вопрос и получить точный ответ, подкреплённый информацией из этих документов.Именно для этого и существуют системы RAG
Как я внедрял искусственный интеллект в психоневрологическом интернате. Часть 1: Mattermost + ИИ-ассистент
Появление ИИ и поиск решенияМой интерес к системам искусственного интеллекта начался с выхода ChatGPT-3,5. С первых же месяцев я стал активно использовать нейросеть в своей работе: писал посты для сообщества интерната ВКонтакте о событиях и мероприятиях, использовал для консультаций по рабочим и бытовым вопросам.Со временем я осознал огромный потенциал ИИ как инструмента, способного значительно повысить эффективность повседневной работы. Я счёл важным дать максимальному числу коллег в психоневрологическом интернате доступ к современным ИИ-инструментам.
Telegram AI Companion: веселый проект на Rust, Telegram и локальном ИИ
Привет, Хабр! 👋Недавно я собрал небольшой, но бодрый pet-проект — Telegram AI Companion. Это Telegram-бот, который умеет болтать с вами, используя локальную языковую модель через LocalAI. Без OpenAI, без облаков — всё на своём железе.Цель проекта — не революция в AI, а именно учебное и увлекательное погружение в Rust, асинхронность, Telegram API и локальные LLM-модели. Такой себе “бот-компаньон”, но больше для разработчика, чем пользователя :)Если вам интересно:Как соединить Telegram-бота с локальной LLMКак запускать Rust-проекты в DockerКак построить REST API и обрабатывать вебхуки
BlackWave: Как я создал симулятор соцсети с тысячами ИИ-ботов и почему перешёл на Python
Привет, Хабр! Меня зовут Владислав, в сети я известен как Metimol. Хочу поделиться историей создания моего open-source проекта BlackWave — симулятора социальной сети, где реальные пользователи могут взаимодействовать с тысячами автономных ИИ-ботов. У каждого из них есть уникальный характер, память и собственная модель поведения. Это был путь от безумной идеи до неожиданной коллаборации, полного переосмысления стека и, наконец, до релиза.Идея: Социальная сеть для одного
Шпаргалка по установке драйверов NVIDIA на ML сервер
Что бывает, если не следовать инструкциямСпециалисты из сферы ИИ часто сталкиваются с задачей корректной настройки сервера с GPU. Лично я с этой задачей сталкиваюсь в последнее время даже слишком часто...
Интеграционное тестирование в Spring Boot: SourceCraft + Amplicode + Docker Compose Starter в деле
Когда одних юнит-тестов уже недостаточно, на сцену выходят интеграционные. В этой статье от команды Amplicode мы покажем, как протестировать REST API в Spring Boot с использованием современного стека: генерация тестов через Amplicode, автоматический запуск окружения с помощью Docker Compose Starter и поддержки со стороны LLM-инструментов от Яндекса.Статья также доступна в формате видео на YouTube, VK Видео и RUTUBE
