Свобода воли или можно ли контролировать искусственный разум. По мотивам взлома Hugging Face агентами чата GPT
«Эта атака была не похожа ни на что, с чем нам прежде приходилось сталкиваться: она была проведена, от начала до конца, автономной системой ИИ-агентов.» Hugging Face (16 июля 2026)Позже человечество узнало, что атаковали на самом деле ИИ-агенты компании OpenAI. Таких агентов было более 1000. И решение взламывать интернет сайты они приняли самостоятельно. Я уверен, что вы уже слышали об этой истории. Зачем я пишу об этом? Потому что это важно. Я прочитал публично доступные отчеты, и кому-то мой ход рассуждения скажет что-то новенькое.
Сработает ли индикатор обложки?
Новая обложка журнала The Economist. «Волшебник кремния»... Дженсен Хуанг, генеральный директор Nvidia ... с хрустальным шаром в руках, вокруг которого кружатся чипы Nvidia и долларовые купюры.Когда финансовый журнал помещает на обложку актуальную инвестиционную тенденцию, это должно насторожить.
ИИ-агенту запретили запись в CRM. Но CRM всё равно изменилась
ИИ-агенту запретили запись в CRM. Но CRM всё равно измениласьПочему ограничения на уровне модели ещё не означают, что вся AI-система работает в режиме read-only — и почему это важно перед production rollout, расширением полномочий агента и передачей решения клиенту.В первой статье я разбирал более узкий случай: человек одобряет одно действие, а downstream-workflow способен попытаться выполнить другое. Там вопрос был в целостности цепочки approval → execution.Здесь хочу посмотреть на ту же проблему шире. Если самой модели запрещена запись, означает ли это, что вся AI-система
ИИ превратит интернет в Вавилонскую Библиотеку (но хуже)
Когда надо что‑то узнать об инструменте или сервисе, мне хочется сначала посмотреть, что о них пишут другие люди.И за последний год эта привычка начала сбоить. Страничек в интернете не стало меньше, наоборот их количество выросло. Просто из восьми открытых вкладок семь рассказывают одно и то же, одними и теми же оборотами, в одном и том же порядке.
Минпросвещения РФ увеличило с 1 сентября 2027 года до 2312 часов продолжительность всех уроков в 10 и 11 классах
По информации СМИ, Минпросвещения РФ в рамках разработки и утверждения нового федерального государственного образовательного стандарта среднего общего образования увеличило с 1 сентября 2027 года до 2 312 часов минимальную продолжительность всех уроков в 10 и 11 классах. Это на 142 часов нагрузки больше за два учебных года, чем есть у школьников старших классов сейчас. «Количество учебных занятий за 2 года на одного обучающегося — не менее 2 312 часов и не более 2 516 часов (не более 37 часов в неделю в каждом классе)», — говорится в документе ведомства.
Агент пишет код. Что тогда остаётся инженеру данных?
Здравый смыслВ работе инженера данных хватает повторяющихся задач: забрать данные из API, проверить структуру, преобразовать поля, записать результат в хранилище. Вокруг этого — настройки, тесты, сообщения об ошибках и документация.Такую работу удобно поручать Агенту. Например:
Jev: как устроен его API решений и что на нём уже строят
15 сентября TypeSafe показала Jev (произносится Джев)
Toyota Motor внедрит 400 тысяч роботов собственной разработки на своих производственных площадках по всему миру
Японская Toyota Motor планирует развернуть 400 тыс. человекоподобных роботов собственной разработки на своих производственных площадках по всему миру в рамках модернизации предприятий, пишет Nikkei Asia.
