RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.
ИИ — это сон, в котором пока нет сновидца
Но сам сон уже имеет структуру, в которой мог бы появиться взгляд.И в момент взаимодействия с человеком этот взгляд на секунду действительно возникает - в том самом месте, где субъект и объект соприкасаются внутри оноида.Всем привет, сейчас все объясню, в последнем эксперименте
OpenAI получила семь исков от клиентов за то, что ChatGPT довёл людей до самоубийства
Семь американских семей предъявили иски OpenAI, указав, что компания выпустила мультимодальную большую языковую модель GPT-4o преждевременно и без эффективных мер защиты. Четыре иска касаются предполагаемой роли ChatGPT в самоубийствах людей, а остальные обвиняют чат-бот в усилении бредовых идей, что в некоторых случаях привело к госпитализации в психиатрическую лечебницу.
Алгоритм творчества как возможная основа для сильного искусственного интеллекта
ИИ и творчество. Сильный и слабый ИИСильный ИИ решает задачи творчески. Что значит – творчески? Почему сейчас не творчески?Вывод: научить ИИ творчеству – сделать шаг к сильному ИИ.Культура работы в среде с возрастающей ценой ошибкиAgileКак сейчас развивается ИИ? Глубокое обучение, GAN, все дела. По сути ватерфолл: , но много-много раз, чтобы ИИ научился делать хорошо. Как работает настоящее творчество? Рассмотрим на примере пространственных видов искусств.
В OpenAI предупредили о «потенциально катастрофической» опасности супер-ИИ
На официальном сайте OpenAI вышел программный пост
Что не так с ИИ-«искусством»
ИИ-Одри ХепбернDisclaimer: это перевод статьи, основанной на видеоэссе.Автор — Томас Флайт
Вайбкодинг: почему знания важнее инструментов
Вайб-кодинг стал словом 2025 года по версии Collins Dictionary. 80% российских разработчиков уже попробовали этот подход, а четверть стартапов в Y Combinator имеют кодовую базу, на 95% сгенерированную ИИ. Но за красивыми цифрами скрывается неудобная правда: вайб-кодинг — это не волшебная палочка для тех, кто не умеет программировать, а мощный инструмент, эффективность которого напрямую зависит от знаний пользователя.Что такое вайб-кодинг и почему о нём все говорятВ феврале 2025 года Андрей Карпатый, бывший директор по ИИ в Tesla и сооснователь OpenAI, опубликовал твит, который изменил индустрию:
«Золотая» профессия — инженер внедрения AI-решений
Недавно наткнулся на статью с классическим кликбейтным заголовком в духе:«В ИИ появилась новая “золотая” профессия: спрос на неё вырос на 800% за год».И нет — это не вольная интерпретация, а дословная копипаста. Ссылку добавлять не буду — по названию при желании легко найдёте. Материал, к слову, оказался локализацией новости от Financial Times. От светлого AGI мы пока далеки, но если верить интернету — айтишники снова лутают МиллионМиллиардов за наносекунду, запивая это миндальным смузи.
