Рой агентов OpenAI ломанул правительственный сайт Австралии? Разбираемся
OpenAI, кажется, достигли нового впечатляющего результата: первый взлом иностранного государства моделью, которую не просили ничего хакать. По традиции, узнаем об этом мы от независимых исследователей, а не из пресс-релиза самих OpenAI (а помните, неделю назад Альтман выпускал фреймворк честного-пречестного раскрытия всех инцидентов бедокурства ИИ? ну да ладно, проехали…)
Разработчик Codex: запуск большого количества ИИ‑агентов только увеличивает расход токенов
Разработчик OpenAI Codex Эрик Провенчер поделился своим наблюдением: по его словам, параллельный запуск большого количества ИИ‑агентов часто лишь резко увеличивает расход токенов, но не улучшает результат.
OpenAI пообещали впредь вовремя рассказывать о «бедокурстве» своих нейронок
…а не по пинку от внешних расследователей, как это было последние разы (в эпизодах с роем агентов на немецкой вики и со взломом RubyGems). Заодно OpenAI раскрыли шесть новых примеров странного поведения своих моделей, разберем в этом материале кратко самое интересное.
Рой агентов OpenAI взломал еще один внешний сервис — RubyGems
Это уже становится немного смешным (нет), но поток новостей о новых проделках роя нейронок OpenAI в мае‑июле не прекращается — буквально каждую неделю мы узнаем об этом что‑то новое. Причем, сама компания предпочитает эти инциденты замалчивать — но тут уж поможет начавшееся расследование от Сената США.
