AI‑дайджест #5: агенты выходят на работу, ИИ растворяется в привычных инструментах. Что скажет Лаборатория ИИ?
Привет! На связи Ольга Попова, ИИ-Евангелист Лаборатории искусственного интеллекта Департамента больших данных Россельхозбанка. Сентябрь получился очень показательным. Если отбросить очередную гонку бенчмарков, вокруг ИИ одновременно происходят три гораздо более интересных процесса: модели превращаются в действующих агентов, ИИ незаметно встраивается в привычные рабочие инструменты, а компании и государства всерьёз обсуждают, кто будет контролировать эту новую цифровую рабочую силу.Как и в прошлом выпуске, к своим размышлениям добавила комментарии коллег, которые работают с этими темами каждый день. Поехали!
Confidence ≠ Permission: почему я не разрешаю LLM самостоятельно принимать решения
У LLM есть неприятное свойство: она может очень убедительно ответить на вопрос, на который у неё нет надёжных данных. Для обычного чат‑бота это может быть просто ошибкой в тексте. Для ассистента, который способен отправлять сообщения от моего имени, это уже проблема архитектуры.
Карта профессий ИБ в эпоху ИИ: что автоматизируется, куда смещается спрос и чему учиться
Происходящая когнитивная революция, вызванная развитием AI-технологий точно не оставит в стороне рынок труда в информационной безопасности. Разбираем тектонический сдвиг который происходит: как автономные агенты вымывают линейную рутину, какие специализации становятся дефицитными, как изменится архитектура киберзащиты к 2030 году и чему учиться инженерам уже сегодня.
Как мы пускаем ИИ на боевые сайты, или Что происходит после команды «исправляй»
В первой части я рассказывал, как мы дошли от обычного копирования кода между MODX и ChatGPT до нормального предметного интерфейса к CMS. Агент перестал видеть сайт как россыпь файлов и строк в базе и получил возможность работать с ресурсами, чанками, TV и зависимостями между ними. В какой-то момент этого стало достаточно, чтобы ставить задачу примерно так же, как я поставил бы её разработчику, без подробной инструкции, куда именно залезть и какую строку там поменять.
От одного агента к AI-холдингу: масштабирование автономных AI-систем
ИИ ускоряет выполнение отдельных задач, но управление растущим числом процессов и проектов остаётся на человеке. На примере своих экспериментов покажу путь от одного агента к AI-организации и объясню, зачем над несколькими направлениями может понадобиться AI-холдинг.Я пришёл к другому способу описывать такие системы постепенно, через четыре собственных эксперимента. Каждый следующий шаг отвечал на конкретное ограничение предыдущего:агент для оценки задач (покер планирования) учитывал не весь нужный контекст, поэтому я разделил работу на этапы;
Я перестал показывать ИИ файлы и дал ему сам MODX
С искусственным интеллектом в веб-разработке мы работаем уже достаточно давно. На проектах с MODX 2 ChatGPT помогал искать ошибки, разбирать чужой код, писать сниппеты и компоненты, переделывать шаблоны. Польза была вполне практической, но сам процесс, в большей части, оставался традиционным. Нужно было найти нужный чанк, принести его в чат, объяснить, откуда берутся данные, показать TV-поля, получить исправленный код, вернуть его в MODX и проверить результат.
Сооснователь Anthropic опасается, что Claude будет постоянно страдать
Сооснователь Anthropic и один из ключевых исследователей интерпретируемости моделей Кристофер Олах обсудил с религиозными и философскими исследователями вопрос: может ли современная языковая модель обладать субъективным опытом и, соответственно, испытывать страдание. Об этом пишет The New York Times. По данным издания, Anthropic в течение нескольких месяцев проводила закрытые встречи примерно с 20 специалистами из разных религиозных и философских групп. На одной из них участники обсуждали возможное сознание Claude и отношение человека к системе, если у неё действительно есть какой-либо субъективный опыт.
Опубликована книга «Цифровой мозг фирмы»
Короткая книга о директоре в момент, когда машинный интеллект становится массовым рабочим инструментом.

