рекурсивное самоулучшение.

Как ИИ может менять собственный процесс развития через рекурсивное самоулучшение

Современные модели пишут код, запускают тесты, замечают, что что-то упало, и сами вносят правки. Если дать им инструменты, этот цикл можно прокручивать многократно, без чьего-либо участия. А где заканчивается обычная автоматизация и начинается самоулучшение? Недавно я прочла обзор, в котором авторы берут концепцию рекурсивного самоулучшения (Recursive Self-Improvement, RSI) и предлагают шкалу из пяти уровней автономии. В этой статье я хочу поговорить о том, какие из них уже можно увидеть в современных системах.

продолжить чтение

ИИ может уничтожить человечество с вероятностью выше 10%. Чего именно боятся исследователи

9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным.Через несколько дней похожее заявление сделал

продолжить чтение

Есть два стула: зачем Google вышел из гонки ИИ, пока OpenAI и Anthropic ставят на неё всё

Куда мы идём?Я уверен, вы тоже начали забивать на чтение новостей про очередную вышедшую модель от китайцев или OpenAI, а статьи про то, что Сэм Альтман лично парсит интернет и взламывает мировые платформы вроде HuggingFace, вы воспринимаете с улыбкой. Но мир искусственного интеллекта не зависит от нашей скуки и интенсивности скроллинга новостей — по крайней мере пока. Поэтому хочется резюмировать: а куда мы, или, если быть точнее, западные гиганты Google, OpenAI и Anthropic, движутся? Какова их конечная цель, кроме как обкешиться на IPO до глобального ресета рынка?

продолжить чтение