ИИ.
RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.
OpenAI получила семь исков от клиентов за то, что ChatGPT довёл людей до самоубийства
Семь американских семей предъявили иски OpenAI, указав, что компания выпустила мультимодальную большую языковую модель GPT-4o преждевременно и без эффективных мер защиты. Четыре иска касаются предполагаемой роли ChatGPT в самоубийствах людей, а остальные обвиняют чат-бот в усилении бредовых идей, что в некоторых случаях привело к госпитализации в психиатрическую лечебницу.
Как я потратил почти месяц, чтобы НЕ запустить AI-стартап. История одной-двух-трёх гипотез
На связи Анатолий Шостак - проверятель сжигатель стартапов. Продолжаю делиться итогами проверки гипотез создания для бизнеса. Сегодня поделюсь рассказом о ценности ещё одного «провального» проекта. Это пошаговая история о том, как мы с командой прошли полный, но короткий путь от яркой идеи до ее осознанного закрытия, и почему я считаю это большим успехом.Порядковый номер проекта: 19Название проекта: Видеоролики для риэлтеров созданные из фото. О чём проект: создаём сервис для риэлтеров, который будет делать видео из фотографий недвижимости. Дата теста: сентябрь 2025 Статус: Закрыт.
Что не так с ИИ-«искусством»
ИИ-Одри ХепбернDisclaimer: это перевод статьи, основанной на видеоэссе.Автор — Томас Флайт
Вайбкодинг: почему знания важнее инструментов
Вайб-кодинг стал словом 2025 года по версии Collins Dictionary. 80% российских разработчиков уже попробовали этот подход, а четверть стартапов в Y Combinator имеют кодовую базу, на 95% сгенерированную ИИ. Но за красивыми цифрами скрывается неудобная правда: вайб-кодинг — это не волшебная палочка для тех, кто не умеет программировать, а мощный инструмент, эффективность которого напрямую зависит от знаний пользователя.Что такое вайб-кодинг и почему о нём все говорятВ феврале 2025 года Андрей Карпатый, бывший директор по ИИ в Tesla и сооснователь OpenAI, опубликовал твит, который изменил индустрию:
«Золотая» профессия — инженер внедрения AI-решений
Недавно наткнулся на статью с классическим кликбейтным заголовком в духе:«В ИИ появилась новая “золотая” профессия: спрос на неё вырос на 800% за год».И нет — это не вольная интерпретация, а дословная копипаста. Ссылку добавлять не буду — по названию при желании легко найдёте. Материал, к слову, оказался локализацией новости от Financial Times. От светлого AGI мы пока далеки, но если верить интернету — айтишники снова лутают МиллионМиллиардов за наносекунду, запивая это миндальным смузи.
Чему я научился, обучая людей этике ИИ
Этика — это не просто настройка, это навыкНа одном из недавних тренингов кто-то поднял руку и спросил: «Может ли ИИ быть этичным, если люди такими не являются?»
Американский законопроект обяжет крупные компании раскрывать влияние внедрения ИИ на занятость и сокращение персонала
Обе партии в Сенате США представили законопроект, который обяжет публичные компании и федеральные агентства раскрывать данные о том, как внедрение искусственного интеллекта влияет на занятость и сокращение персонала. Компании должны будут каждые три месяца предоставлять подробные отчёты об этом в Министерство труда США.
