Свобода воли или можно ли контролировать искусственный разум. По мотивам взлома Hugging Face агентами чата GPT
«Эта атака была не похожа ни на что, с чем нам прежде приходилось сталкиваться: она была проведена, от начала до конца, автономной системой ИИ-агентов.» Hugging Face (16 июля 2026)Позже человечество узнало, что атаковали на самом деле ИИ-агенты компании OpenAI. Таких агентов было более 1000. И решение взламывать интернет сайты они приняли самостоятельно. Я уверен, что вы уже слышали об этой истории. Зачем я пишу об этом? Потому что это важно. Я прочитал публично доступные отчеты, и кому-то мой ход рассуждения скажет что-то новенькое.
Агент пишет код. Что тогда остаётся инженеру данных?
Здравый смыслВ работе инженера данных хватает повторяющихся задач: забрать данные из API, проверить структуру, преобразовать поля, записать результат в хранилище. Вокруг этого — настройки, тесты, сообщения об ошибках и документация.Такую работу удобно поручать Агенту. Например:
Jev: как устроен его API решений и что на нём уже строят
15 сентября TypeSafe показала Jev (произносится Джев)
Сравнение Алисы (Яндекс) и Гигачат (Сбер) по 5 бенчмаркам: τ³, ПРАКТ-120, MultiChallenge, WildBench и Arena‑Hard
Пара вводных слов, чтобы было понятно о чем речьВсем привет!Я обещал написать эту статью и я наконец-то закончил тесты и готов поделиться с вами результатами.Я потратил МНОГО времени на то, чтобы прогнать эти бенчмарки. Много времени на сетапы, много времени на ожидание тестов. Все вместе заняло около двух недель работы - модели обрывались, где-то нужно было костылять заплатки чтобы они отвечали, где-то просто ждать по несколько дней на прохождение теста (даже в многопоточном тестировании).
Как проверяющий ИИ испортил правильные ответы: разбор генератора учебных заданий
В задании на сортировку было слово «маши…ый». Генератор положил его в корзину «Две НН», и это верно. Проверка переложила слово в корзину «Одна Н». Вот ответ модели-арбитра, после которого это случилось, без правок, из сохранённого JSON:{ "n": 4, "a": "Одна Н", "why": "Прилагательное от «машина» с суффиксом -н-: корень оканчивается на н? Нет — «машин-» + -н- даёт «машинный»? В школьной норме пишется «машинный» (две НН), но по данному заданию основа «машин»+н… — фактически верно «машинный»." } Ответ в поле a неверный, а в объяснении модель сама приходит к «машинный». Код читал только a.
