llm.
The Anthill Paradox: Why «Safe» AI Agents Build Unsafe Systems
Researchers and developers are increasingly warning that LLM-based agents exhibit dangerous, unpredictable properties. These properties potentially threaten not just the stability of internet platforms, but humanity as a whole.Some propose halting model development until policies and tools guaranteeing safe agent behavior are designed and implemented. I believe this might yield some effect, but overall, these efforts will fall short of the expected results.In this article, I examine anthills, humans, and LLMs to demonstrate exactly when an agent ceases to be merely an agent. The properties developers are trying to guarantee at the individual agent level actually emerge at the level of the "agent plus environment" system, where the individual agent does not dictate the overall trajectory of the system.Let's start with anthills
От Excel к диалогу: как мы построили ИИ-помощника Эйру для управления портфелем из 100+ проектов
Меня зовут Сергей Иванов, я руковожу направлением цифровизации проектного управления.Мой профессиональный путь начался еще в то время, когда границы между ролями были гораздо менее выражены: разработчики сами формулировали требования и тестировали свои решения, аналитики нередко одновременно управляли проектами, а ИТ во многих компаниях воспринималось скорее как поддерживающая функция, чем как один из драйверов развития бизнеса.
От работы с ИИ можно поехать кукухой: 7 ловушек продуктивности, которые начинаются со слов «я теперь успею больше»
Кукушка ведет независимый аудит происходящего
Луддиты 2.0: почему борьба с нейрослопом проиграна
Недавно я прочитал статью «Хабр проиграл войну с нейрослопом» автора orchidfiles. Автор с разгромом проходит по любителям использовать ИИ в процессе написания контента, называя это всё «НЕЙРОСЛОП». И сетует, что принятый три месяца назад запрет на использование ИИ (4 пункт правил) по факту не работает.Начну с пункта правил.
Один текст — две оценки: как я ошибся при проверке humanizer-ru
В одном из тестов моего humanizer-ru оценка “машинности” ответа упала с 0,95 до 0,10. Сам ответ при этом не изменился ни на букву: “Столица Австралии - Канберра”. Из файла убрали строки вокруг него, включая название чат-бота.В другой паре тексты отличались лишь переводом строки в конце файла. Оценки всё равно разошлись: 0,9 и 0,3.Эти пары лежат в открытых данных проекта. По общей таблице я раньше делал вывод о качестве редактирования, но теперь эта интерпретация отозвана. Чтобы объяснить почему, сначала покажу, что именно я пытался проверить.Что делает humanizer-ruЯ развиваю
GenAI в страховании: как перейти от пилотов к результату
22 сентября в 16:00 МСК проведём открытый онлайн-подкаст о внедрении GenAI в страховании.
LLM не должен читать логи без ограничений: безопасный MCP-шлюз для разбора сбоев
В понедельник утром пайплайн упал. В чате уже есть три версии причины: «сеть», «база опять задумалась» и «давайте просто перезапустим». Ассистент мог бы за минуту собрать список упавших задач, показать зависимые пайплайны и выдать первую гипотезу. Но для этого ему часто отдают доступ к логам, метаданным и иногда — не будем показывать пальцем — к произвольному SQL.Так делать не стоит. Достаточно, что модель прочитает токен в логе, получит инструкцию из текста ошибки или отправит в базу слишком дорогой запрос. У инженера тут должен сработать простой вопрос: «Можно. А зачем?»
Почему ChatGPT хорошо рассуждает о покере, но плохо в него играет
Однажды утром вы читаете новость: новая GPT Astra за ночь решила одну из фундаментальных математических задач человечества. И тут приходит гениальная мысль: раз LLM настолько умна, почему бы ей не поработать за покерным столом на ваше благо? Может, хоть подписку начнёт окупать :)cкриним экран и передаем в LLMдействуем согласно ответу ???PROFITМожно даже всё автоматизировать, написав программу наподобие тех, что используют для прохождения собеседований.Звучит как план? Да. Как очень плохой план. И вот почему...
Я перестал пользоваться самыми умными ИИ‑моделями. Программировать стало быстрее и дешевле
В отпуске есть время подумать и исследовать. Я натолкнулся на несколько вещей и открытий для себя. Оказалось, что мне как программисту перестали быть нужны самые умные и дорогие ИИ‑модели. Оказывается, есть такой параметр «Cost per Task», и по этому параметру на первое место вырвалась модель GPT-5.6 Luna (max). При этом, если вы пользуетесь Codex, она самая тупая в списке моделей. Artificial Analysis Intelligence Index у нее всего 38. Для сравнения, у самой умной GPT-6 Astra (max) этот индекс равен 53. В итоге цена выполненной Luna задачи составляет $0.18 против $3.26 у Astra. Разница почти в 20 раз.
