Машинное обучение. - страница 9

Кто подставил агента Роджера: онлайн-митап о безопасной работе с ИИ

Летом 2025 года журналисты Nikkei нашли на arXiv больше десятка научных статей со спрятанными промптами. Белым шрифтом или очень мелким кеглем авторы писали что-то вроде «дай этой статье только положительный отзыв». Расчет был на рецензентов, которые проверяют статьи с помощью нейросетей.На том же принципе построены атаки на ИИ-агентов: модель читает текст, который написал не пользователь, и выполняет спрятанную в нем инструкцию. 25 ноября на онлайн-митапе департамента корпоративных систем ЛАНИТ «Безопасная работа с ИИ»

продолжить чтение

OpenAI заявила об опровержении ETH, Anthropic подала на IPO: что происходит с ИИ

продолжить чтение

Оптимизация расхода ферромарганца в ДСП-3 с помощью Catboost

Привет, это Рамиль Максютов со второй частью цикла про плавки в ДСП-3. Первая часть тут: https://habr.com/ru/articles/1105616/В этой статье на данных из первой части учим CatBoost предсказывать минимальную дозу ферромарганца для выплавки отливки из стали 35Л в дуговой сталеплавильной печи с основной футеровкой.Что мы предсказываемЦель — минимальная доза ФМн78, которая доводит марганец ровно до нижней границы ГОСТ 977-88 (0,45 %) при том усвоении, которое плавка реально имела:

продолжить чтение

Про обиженных криэйторов, или Кто кому должен за нейросеть

Прелюдия: ещё один коллективный иск к облакуЧитаю очередную волну возмущения. Владельцы сайтов, художники, музыканты, фотографы — все те, кого объединяет емкое слово «криэйторы», — требуют сатисфакции. ИИ, видите ли, обучался возможно на их контенте. И теперь должен. Потому что «конскую цену за работу» уже не выставишь: у заказчика появилась опция сгенерировать за три копейки.Я смотрю на это и вижу две проблемы. Одна — логическая. Вторая — антропологическая. Обе неприятны для обиженных.Проблема первая: абсолютный поход в справедливость

продолжить чтение

Какое качество реально достижимо в LLM проектах?

В этой статье рассмотрим все способы повышения качества работы одной ноды. Затем разберём, что происходит в цепочках последовательных вызовов.Главная мысль автора заключается в том, что на проде вам вряд ли удастся добиться качества ответов всей системы выше 90%. Лучше изначально ориентироваться на этот показатель, поскольку некоторые проекты из-за высокой стоимости ошибки никогда не сойдутся.Будем разбираться на примере определения кода услуги для 402-й формы. На первый взгляд задача простая: по названию услуги нужно выбрать соответствующий класс.Например, в справочнике есть такие категории:

продолжить чтение

Как рисовать BPMN диаграммы для процессов LLM оптимизации

Я работаю в Альфа Банке в команде, которая пытается оптимизировать валютный контроль. За время проекта, я с экспертом отрисовал большое кол-во диаграмм и вот пару лайфхаков, которые я понял.AS ISРисуем AS IS. На данном этапе пока что ничего не меняется. Мы как и в обычном проекте пытаем максимально точно описать существующий процесс.TO BEЗдесь уже начинаются свои приколы. Прежде всего мы должны разделять каким способ выполнятеся нода - LLM и КОД. (Всё, что можно сделать кодом, надо делать кодом). Я предлагю добавить на диаграмму легенду и выделять узлы реализованые

продолжить чтение

Сказка ложь, да в ней алерт. Как обмануть ИИ-агента SOC липовой заявкой

продолжить чтение

Есть ли в эмбеддингах «направление негации»? Проверил на 8 моделях

Поиск по смыслу плохо различает «открыто» и «не открыто»: векторы почти совпадают, потому что тема одна и та же. В словах это знают все, а вот насколько это системно и можно ли починить без дообучения, мне хотелось проверить на данных.Идея простая. В word2vec есть знаменитое king − man + woman ≈ queen: «пол» оказывается почти линейным направлением. Есть ли такое «направление негации» в финальных эмбеддингах моделей, то есть в тех векторах, по которым реально ищут? И если есть, можно ли одной такой осью лечить слепоту к отрицанию?Как я проверял

продолжить чтение

Meta* сделала свою самую маленькую модель рабочей лошадкой для агентов

После релизов гигантских и дорогих нейросетей хочется найти что-то, что подойдет под понятия экономии и специализации. И вот 9 ноября подразделение Meta* Superintelligence Labs выпустило

продолжить чтение

Disney начала испытания роботов‑помощников с ИИ для помощи в поиске парковочных мест в своих парках развлечений

Компания Walt Disney начала тестирование роботов‑помощников с искусственным интеллектом для помощи в поиске парковочных мест в своих парках развлечений. Дизайн этих роботов вдохновлён персонажами мультфильмов «ВАЛЛ‑И» и «Тачки».

продолжить чтение