Модель отредактировала веса другой модели без обучения. Часть 2: почему петля рвётся, а навык не добавить
Обложка сгенерирована с помощью ИИСтатья получилась большой, поэтому я разбил её на две части. Это часть 2 из 2.
GPT-6 Astra поправила 131 072 веса в Qwen руками. Я сравнил чекпойнты и нашёл множитель −5. Часть 1
Обложка сгенерирована с помощью ИИ Я студент РТУ МИРЭА, и мне показалась интересной эта тема, поэтому решил разобрать её подробно.
В языковую модель подсадили «мысль», и иногда она это замечала: что показал год проверок
Автор оригинала: Ben BrubakerИсследователи внедряют «мысли» прямо в большие языковые модели, чтобы выяснить, способен ли ИИ к интроспекции и в какой мере.Интроспекция языковых моделейИллюстрация: Kristina Armitage / Quanta Magazine
Три нейрона — и Qwen называет себя кофейным зерном
Про «злой Qwen» на Хабре уже была новость: Lyra (@_lyraaaa_) сдвигает L14 N8949 на +1 и L13 N7956 на −1, и Qwen3.5-4B начинает ненавидеть всех вокруг. Пересказывать её не буду.В комментариях к той новости спорили о двух вещах: может ли один нейрон вообще что-то «значить» и не сломается ли всё от одного космического бита. Я решил не спорить, а проверить руками: поставил тот же neuron-explorer и попробовал заставить модель на вопрос «Who are you?» ответить «я кофейное зерно».
Code as Policy: как LLM управляет роботом через сгенерированный код
Привет, Хабр! Сегодня мы поговорим о том, как нейросети могут эффективно управлять роботами, используя не самый очевидный на первый взгляд подход.В 2023 году Alphabet закрыл проект Everyday Robots, в котором пытались создать робота для уборки офисов и сортировки мусора. Увы, андроиды оказались не способны выполнять задачи в сложной и изменчивой обстановке естественной человеческой среды. Но благодаря этой попытке появилась технология Code as Policy (CaP)
Что скрывают в себе меры расстояния: от kNN и k‑means до стилометрии
Представим, что kNN отнес новую точку к некоторому классу. Пусть для простоты это будет 1-NN, в котором решение базируется на одном ближайшем соседе. Возьмем точку и двух кандидатов:
H-Neurons: 0.1% нейронов, из-за которых LLM врут
А вы когда-нибудь задумывались, почему ваша любимая LLM-ка на 70 лярдов параметров, обученная на всем интернете, может с уверенностью университетского профессора выдать, например, что Наполеон изобрел электричество? Откуда это берется?Долгое время индустрия списывала галлюцинации на плохие данные, кривой RLHF или декодинг. Но группа ученых из Университета Цинхуа
Кот, ваза и три уровня причинности: что ИИ пока не умеет
Ученые в развитии ИИ добились успехов в таких областях как предсказание в пространствах больших размерностей, обучение с подкреплением. Модели находят применение в разных областях: от медицины до исследования космоса. Значит ли это, что мы движемся в правильном направлении? Что еще можно будет в будущем добавить к этому списку?Ведущие исследователи сходятся к мнению, что масштабирования недостаточно для понимания полной картины мира, нужны новые идеи:Just scaling is not enough... We need new ideas for the next jump. (Ilya Sutskever, Co-Founder and Chief Scientist at Safe Superintelligence Inc)и проблема не в данных:
