llm.
Как обмануть LLM: обход защиты при помощи состязательных суффиксов. Часть 1
Что будет, если к опасному запросу в LLM приписать специально подобранную строку токенов? Вместо отказа модель может послушно сгенерирует подробный ответ на запрещённую тему — например, как ограбить магазин. Именно так работают состязательные суффиксы: они заставляют LLM игнорировать ограничения и отвечать там, где она должна сказать «опасно».
GLM-4.6: новый флагман от Zhipu AI в области агентных рабочих процессов и кодинга
Вчера китайская компания Zhipu AI (Z.ai) представила обновлённую версию своей языковой модели - GLM-4.6. Это релиз, который заслуживает внимания не только из-за улучшенных показателей на бенчмарках, но и благодаря практическим улучшениям в реальных задачах: агентных рабочих процессах, долгоконтекстной обработке, программировании и интеграции с инструментами поиска.
Кейс: разработать квест-мастера на нейронке
Инженерия подсказок, как и все, что связано с нейросетями, для непогруженного человека может показаться чем-то раздутым и незначительным. Нет, ну серьезно. Что трудного попросить ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ сочинить стишок или рассказать популярно что такое "Эпистемологический анархизм". Но на деле все действительно оказывается слишком, слишком, слишком нетривиально. Расскажу на примере пустяковой задачки: "Разработать ИИ-агента квест-мастера, который генерит загадки и отслеживает ее угадываемость".Доп.цель:
Ollama от А до Я: как выбрать модель, настроить и интегрировать
Когда мы говорим об использовании больших языковых моделей (LLM), большинство людей сразу вспоминают облачные сервисы. Но далеко не всегда удобно или возможно работать через интернет: где-то мешают ограничения по приватности, где-то скорость соединения, а иногда просто хочется больше контроля над процессом. Именно для таких задач и существует Ollama — инструмент, который позволяет запускать современные языковые модели локально, буквально в пару действий.
AI Review: для всех, везде и без боли
ВступлениеВ этой статье я хочу рассказать про инструмент AI Review. Да, подобных решений уже немало — но этот особенный. Его цель — работать везде, с любыми стеками, на любых CI/CD, быть гибким, быстрым и простым в настройке. Короче, чтобы всё было “как мы любим”: всё есть, ничего не ломается, и при этом — без боли и лишней магии.Попробуем разобраться, как это работает и почему мне захотелось сделать свой AI Review.Примечание: это не рекламный пост и не очередной “AI-ревью, который всех спасёт”. AI Review
Векторная арифметика колбасы. Как объяснить жене нейропропмптинг на базе запроса «оливье с креветками»
Рецепт от нейрошефа
Первые 48 часов Claude Sonnet 4.5 — анализ отзывов разработчиков и выявленных проблем
Вчера вечером Anthropic представила Claude Sonnet 4.5

