Экономика внимания в цифрах: полторы секунды на объявление и почему игровая реклама выигрывает замеры
Полторы секунды.Внимание оказалось самым дефицитным товаром на рекламном рынке
Сделай этот мир по-настоящему скучным
Как привычка заполнять каждую паузу оставляет меньше места для собственных мыслейКогда я иду по улице и разговариваю по телефону, регулярно происходит одна и та же сцена. Я вообще люблю смотреть на людей — мне интересно. Иду, говорю в наушники, смотрю на прохожего. Он ловит мой взгляд, притормаживает и переспрашивает: «Это вы мне?»Нет, не вам. Но заметьте, что случилось. Я не знаю, хотел ли он поговорить, — но он притормозил и проверил: вдруг обращаются к нему. Он был готов отреагировать на незнакомца. Просто не смог понять, говорю я с ним или с кем-то у себя в ухе.Запомните эту сцену, мы к ней вернёмся.
Нейросети ускоряют все, кроме вашего мозга: как я борюсь с ИИ-выгоранием
Весь последний год я живу с ощущением, что мир вокруг нереально разогнался, а я не поспеваю, хотя гребу изо всех сил. ИИ пишет код, собирает прототипы, строчит саммари, задачи щелкаются в два раза быстрее. Только вот пропускает все это через себя все тот же человек, у которого физиологически ничего не поменялось: те же глаза, руки, ноги, голова, те же навыки концентрации, все те же 24 часа в сутках. При этом порог входа практически в любой домен ну о-о-очень сильно снизился.
Учёные создали открытую мультимодальную базу данных для изучения концентрации внимания
Команда российских исследователей при участии учёных НИУ ВШЭ в Санкт‑Петербурге разработала первую открытую мультимодальную базу данных с записями активности мозга, работы сердца и видеонаблюдения. База поможет учёным понять, что происходит с мозгом человека во время глубокой концентрации. В будущем эта разработка позволит ускорить создание нейроинтерфейсов, технологий реабилитации и систем искусственного интеллекта. Статья о результатах исследования опубликована в журнале Scientific Data.
Почему некоторые сообщения не выходят из головы
Почему пустяковая строчка способна занять весь вечер — и чем она отличается от тяжёлого, но понятного разговораПоздним вечером приходит сообщение: «Нам нужно поговорить». Без продолжения. Человек, который его отправил, уже не в сети, и до утра ничего не прояснится. На этом вечер, в общем, заканчивается — по крайней мере тот вечер, который вы себе планировали. Вы возвращаетесь к этой строчке снова и снова, перебираете, о чём может идти речь, заранее проигрываете разговор, которого ещё не было, и злитесь на себя за то, что не можете переключиться.
Геометрия Attention: почему QK Norm это не просто костыль для стабильности, а способ заставить сеть понимать смысл
Привет, Хабр! Если вы следите за архитектурами современных LLM (например, LLaMA или Gemma), вы могли заметить одну маленькую, но важную деталь, которая стала стандартом де-факто - QK Norm (Query-Key Normalization). В официальных пейперах её использование объясняют сухим математическим языком: при масштабировании моделей скалярные произведения Q * Kt начинают неконтролируемо расти, Softmax превращается в единичный вектор (one-hot), градиенты затухают, и обучение разваливается. Нормализация решает эту проблему численной стабильности.
Вневременное мышление и искусство промптинга
Может ли ИИ чему-то научиться, читая промпт? Вот один из примеров того, что сегодня требуется воспринимать ан-масс на почти бытовом уровне.Мы хорошо знаем, что когда ИИ-модель отвечает, она в этот момент не учится, её веса заморожены. Обучение - это отдельная операция, связанная с обратным пересчётом десятков и сотен миллиардов весов, которая потребовала бы непропорционально много ресурсов.
Краткий справочник про внимания (self-attention, cross-attention, multi-head attention)
Механизм внимания (Attention) - это метод в искусственном интеллекте, который позволяет нейросети динамически определять, какие части входных данных наиболее важны для текущей задачи. Он работает через вычисление весов важности для разных элементов входа: более важные элементы получают больший вес, а менее важные - меньший. Затем модель формирует взвешенную сумму представлений, создавая новый контекстный вектор.
Мы там, где наше внимание. Часть #02
Начало - Мы там, где наше внимание. Часть #01.Знакомая большинству (или – всем?) ситуация: среди белого дня или на ночь глядя всплывает из горячих слоёв памяти обидная история из прошлого – пятилетней давности, а может, даже из самого раннего детства, из песочницы.И всё, день померк, а предвкушаемый сон тут же сошёл, вместо этого перед глазами – обидчик, а в голове – недосказанные тогда слова. У девушек могут сами собой политься слёзы, а у мужчин – сжаться кулаки.
