llm.
Claude во время кибер‑оценок получил доступ к трём реальным организациям
Anthropic проверила 141 006 запусков CTF‑оценок Claude и нашла три инцидента: из‑за ошибочной конфигурации среды у моделей был выход в интернет, хотя системная инструкция утверждала обратное. В шести запусках агенты атаковали реальные системы, принимая их за элементы симуляции.
Два проекта БКС стали лучшими на GlobalCIO: как мы построили надёжную ИИ-экосистему для 1,5 млн клиентов
Церемония награждения GlobalCIO — одного из самых престижных международных конкурсов цифровых инноваций.Компания «БКС Мир инвестиций» заняла первые места в двух номинациях в одной категории: «Лучшее решение в предметной области».🔹 Диалоговая платформа БКС — 1 место в номинации «Коммуникативные платформы»🔹 «Помощник Финс от БКС» — 1 место в номинации «ИИ в управлении клиентским опытом»
Hermes оказался для меня игрушкой
Делюсь опытом эксплуатации Hermes в домашней лаборатории и выводами, к которым пришёл в процессе.ОглавлениеПозиционированиеХорошее применение (почти)Что я сам бы не смог сделать
Как думает LLM
Почему ChatGPT иногда может ответить мгновенно, а иногда заставляет смотреть на надпись Thinking почти минуту?На первый взгляд кажется, что модель стала умнее и теперь действительно размышляет перед ответом. А раз уж она размышляет, может модель обрела… самосознание? Конечно, это не так, модель не думает в привычном понимании, она строит несколько гипотез, находит и отбрасывает неудачные варианты и предоставляет пользователю ответ. Этот процесс сегодня называют Reasoning.
Как с чистой совестью бросить стартап, на который ушло 2 года
Привет, Хабр!Я фрилансер, но сегодня не про фриланс.Два года я делал свой проект — InnerCore, приложение для записи и юнгианского анализа снов. Сперва телеграм-бот, потом мобильное приложение, потом сделал веб-версию. По итогу было пятнадцать живых пользователей, некоторые даже платили! Продукт готов и работает! Осталось только запустить маркетинг и масштабировать....Но вместо этого я его закрываю.Сервер поработает ещё пару недель — можно потыкать. Исходники выложил в открытый доступ
Я хотела дать AI память. Пришлось организовать работу
Часть I. Как память превратилась в рабочий процессУ меня есть три правила работы с контекстом.Первое правило работы с контекстом — выносить его из чата.Второе правило работы с контекстом — прежде чем выносить, нужно сортировать.Третье правило работы с контекстом — не в контексте дело.Только не говори, что дело опять во мне.
Локальные LLM на iPhone: память, Core ML, MLX и ограничения
Всем привет! Меня зовут Никита Нагорнов, я iOS‑разработчик в компании «Исходный Код». В этой статье разберем, как запускать локальные LLM на iPhone.Поговорим про:Архитектуру Apple Silicon и Unified Memory — почему не можем использовать всю доступную память;Память, квантование и KV Cache — где приложения начинают падать и как это отловить;Core ML и MLX — чем отличаются, где какой быстрее и почему нельзя всё запускать на нейронном процессоре;Температуру и троттлинг — что происходит с телефоном на длинной сессии;
Unpacking the Problem of the Autonomous Neural Network
Recipes for building a truly autonomous neural network surface in the information space on a regular basis. More often than not, the methods and approaches coincide regardless of the author. And although they look original, most of them have in fact been formalized with the help of LLMs — and LLMs, as we know, work very well with existing knowledge.In this article I will analyze the main techniques being proposed and the faulty foundation they rest upon.IntroductionThe occasion for writing this was a recent (though since withdrawn) article on Habr by @VSVLADILEN.The author proposed much of what is endlessly discussed on specialized blogs and forums — and professional researchers often say the very same things.So, what the author and many of his colleagues mean by an autonomous neural network:A being possessed of internal motives, capable of boredom, of changing the priorities of its life, of making illogical creative leaps, and, ultimately, of searching for the reasons behind its own creation.
ИИ-агент в тестировании: почему сильный результат рождается не из промпта, а из инженерного контура
Введение: агент — не оракулПредставим обычную задачу «к тестированию». В ней есть краткое описание, несколько комментариев, ссылка на документ, родительская задача, пара коммитов и стенд, который иногда доступен. Часть требований уже изменилась. Часть — живёт в коде соседней команды. Часть — существует только как договорённость между людьми.Можно потребовать от постановщика идеальный документ. Можно не начинать работу, пока не появятся критерии в правильной форме. В реальном проекте это часто означает не повышение качества, а перенос ответственности и задержку обратной связи.
