ai.
Маленький LLM-чат на Python с Ollama и LiteLLM. Часть 3: добавляем историю сообщений и контекст
Во второй части у нас получился уже не одноразовый скрипт, а маленький консольный чат: программа принимает вопрос, отправляет его модели, печатает ответ и ждёт следующего ввода.Но пока у этого чата есть важное ограничение: каждый новый запрос для модели почти независим.Если сначала спросить:Составь простой план изучения Python на 2 недели.а потом написать:Сделай его короче и оставь только самое важное.модель может ответить нормально. А может и не понять, к чему относится слово «его». Потому что для неё второй запрос — это просто новый отдельный вызов.
Это ИИ, поэтому я не читал: добро пожаловать в пост-грамотную эпоху
Дамы и господа, познакомьтесь с новым горячим термином: AI;DRПоявился новый модный термин, который схватывает дух нашего времени с пугающей точностью: AI;DR
Познакомьтесь с новым коллегой-ИИ
Сянкунь Ву, основатель компании Kuse AI, создает рабочее место с виртуальным сотрудником-ИИ по имени Junior , который ведет себя как целеустремленный новичок.31-летний Ву разработал Junior для практически любого бизнеса, наделив его способностью получать доступ к корпоративным данным и решать коммуникационные задачи, а также снабдив его «организационной памятью», необходимой для того, чтобы знать, кто чем занимается и как коллеги связаны друг с другом.
О важности времени в архитектуре систем ИИ
Одной из наиболее недооцененных сил при проектировании систем ИИ является задержка при выполнении вычислений. Когда инженеры говорят о производительности модели, они часто сосредотачиваются на точности, полноте данных и производительности обучения.Но в производственных системах для пользователей огромное значение имеет время. Для них важно, чтобы система отвечала на их запросы достаточно быстро. Потому что даже самая умная система ИИ начинает сильно раздражать, если ответ на запрос пользователя приходит слишком поздно.
Как металлообрабатывающий завод ускорил выполнение задач в 3 раза с помощью Кайтена и ChatGPT
Раньше руководитель тратил больше 30 минут, чтобы поставить задачи команде после ежедневной планерки. Теперь — один запрос к ИИ-ассистенту, и 30+ карточек автоматически создаются, заполняются и распределяются по исполнителям за 3 минуты. Это результат внедрения Кайтена на металлообрабатывающем заводе ПФ-ФОРУМ.Как процесс устроен изнутри — рассказывает Марина Вербицкая, руководитель отделения по работе с публикой и интегратор цифровых решений.Но сначала — несколько фактов о компанииПФ-ФОРУМ
Зовём разработчиков и аналитиков на Day&Night — конференцию о технологиях, которые меняют города
Mozilla, WordPress, Manjaro: как один паттерн управления убивает open source?
Три проекта. Три сообщества. Один паттерн.CEO Mozilla получала $7 миллионов, пока доля Firefox падала с 30% до 3%. Основатель WordPress сказал The Verge, что WordPress.org «просто принадлежит лично мне».
