16 и ещё 1 причина знать SHAP
Мы знаем его как "метод на основе теории игр", "фреймворк" и чувствуем, что это он, видя красные и синие полоски. Но что сделало этот метод таким популярным? Как он родился и почему, после релиза в 2017 году, разные группы исследователей добавляли в него новые расширения? Куда этот инструмент шел и к чему пришел сейчас? И наконец, почему надо его знать? Предлагаю впервые за долгое время потрогать от меня статью без кода — но с картинками. В ней вы узнаете ответы на вопросы и отроете для себя 15 расширений SHAP. Почему в названии 16 и ещё одна? Узнаете, если пройдете сквозь всю статью : )
Как модели упаковывают концепты в многообразия: смотрим на теорию, рушим идеальный мир и ищем кружочки
Mechanistic claims в interpretability для бедных, но бравых. Шучу, конечно. Просто когда дело дошло до задачи «придумать название» — вспомнила шутки моей коллеги.
Можно ли лучше? Activation Steering, pt 2: repeng, pyreft и другие способы найти вектор правильнее
У статьи есть 1 часть: Стягивай куда нужно: Activation Steering Tutorial Привет, друзья! В первой части мы разобрали базовую идею steering-а и реализовали её тремя способами: через сырые PyTorch hooks, через nnsight и через pyvene. Сработала ли наша база? Да — мы это видели. Нормально ли? Нет — и это мы тоже видели: вектор оказался инвертирован, эффект был умеренным, а на некоторых промптах не было никакого. Что с этим делать и как это сделать на питоне — и есть тема второй части.
Стягивай куда нужно: Activation Steering Tutorial
Привет, друзья! Если вы по запросу "как сделать модель добрее" видите в output-е LLM фразу "рулевое управление" — значит LLM говорит про Steering. В этом туториале вы:узнаете, что такое steering и на чем он основан;осуществите steering, используя pytorch-hooks;познакомитесь с библиотеками nnsight и pyvene для interventions;И если какое-то слово из bullet-ов было непонятно, они все станут вам понятны к концу.
Cобрать агента для XAI и никогда больше не быть онлайн
Привет, друзья! Я, похоже, наконец пережила кризис пришествия агентов в нашу жизнь. Мне всегда безумно нравился процесс решения задач — этакий личный, удивительный мир, даже когда ты уже знаешь правило Лопиталя/Modus ponens/выберите то, которое заставило вас смеяться больше всего при изучении. А теперь, чтобы не выпасть из жизни, задачи просто приходится решать с кем-то. И этот кто-то LLM-Agent.
Когда AI ставит диагноз: где проходит граница отвественности врача и алгоритма
Искусственный интеллект всё активнее входит в медицину и цифровые сервисы.Он помогает диагностировать заболевания, персонализировать интерфейсы, анализировать поведение пользователей и даже формировать рекомендации по лечению.
SAE: введение, пояснение и код
Привет, друзья! В прошлой статье мы разобрали идею применения автоэнкодеров к трансоформерам. Там весь наш pipeline проходил на идее сжатия признакового пространства так, чтобы поделить кошек и собак. Но что делать, если у нас не задача классификации, а задача next token prediction? Да и признаки не соответствуют "собакам" и "кошкам", а охватывают все богатство естественного языка...Ответ сообщества сейчас такой — давайте использовать SAE. SAE: Sparse AutoencodersРазреженным автокодировщиком назовем модель
Проблема «черного ящика»: как заставить ИИ объяснять свои решения
Начну с реального случая: в 2023 году американский юрист Стивен Шварц использовал ChatGPT
Управление ИИ (AI Governance) в 2025: пять главных вызовов и пути их преодоления
Пять Главных Вызовов Управления ИИ и Пути их преодоления
