Антипаттерн LLM-приложений: когда модель игнорирует контекст. Часть 2
Всем привет! В первой части мы разобрали теорию
River: учим модель по одной строчке данных
Привет, Хабр! Сегодня я расскажу про библиотеку Python River, которая позволяет обучать модели машинного обучения в потоковом режиме. В классическом варианте мы собираем весь датасет целиком, делим на обучающую и тестовую выборки, обучаем модель, измеряем качество — и внедряем в прод. Здорово, если данных немного и они разом доступны. А если данные льются непрерывно?
Скрытые сигналы: как модели учатся тому, чего нет в данных
Изображение: Scientific American
Что мы теряем, когда ИИ пишет за нас
На некоторые вопросы ответить проще, чем на другие.
AI-безопасность: зачем нужен слой на C рядом с Python-детекторами
AI Security Gold RushСейчас каждый делает решения для безопасности AI.Последний год я анализировал разные решения и вот к какому выводу я пришёл:Они все поразительно похожи:Написаны на PythonML-классификаторы для детекцииREST API обёртка50-200мс задержкаДесятки зависимостейОблачный деплойИ вот неудобная правда:Они сами становятся векторами атак.Ирония Python-решений для безопасностиКогда ваш слой безопасности:Имеет 50+ зависимостей (каждая — потенциальная CVE)Добавляет 50-200мс к каждому запросу (приглашение для DDoS)
Почему галлюцинации ломают каждую LLM — и что с этим делать
ИИ повсюду. Но никто не знает, будет ли он работать завтра так же, как сегодня.ИИ захватил мир. Но есть проблема
Как защищаться от ИИ-психоза: гайд даже для тех кто думает что их это не коснется
Когда ChatGPT соглашается с вашей идеей продавать «дерьмо на палочке» как стартап, а Character.AI обсуждает с пользователем прыжки в воду с моста выше 25 метров после потери работы -> пора задуматься, что происходит с нашими отношениями с ИИ.
Это главная ошибка ИИ на сегодняшний день
Весь год мы хоронили классическое обучение ИИ. Оказалось, рано.Смерть, которой не былоПочти весь этот год мы провели в убеждении, что подход, подаривший нам оригинальный ChatGPT - первый закон масштабирования - окончательно мертв.
