Эффект «галлюцинаций»: когда ИИ врет уверенным голосом
Статья подготовлена в рамках курса «Машинное обучение для начинающих».Недавно в «беседе» с умной колонкой я задал ей вопрос относительно исполнителя одной музыкальной композиции. Колонка уверенно ответила, однако, так как у меня были сомнения в правильности, я переспросил ее и на этот раз она назвала другое имя. Также, при работе с различными языковыми моделями мне приходилось неоднократно сталкиваться с ситуациями, когда, к примеру, нейросеть неверно указывала нормативные документы, статьи законов и так далее
Дорогой защитный аппарат: тревога, одиночество и статусная гонка как цена «я»
Знакомая паникаИногда в ленте появляется тред: «ИИ убивает человеческое в человеке». Дальше — кто во что горазд: либо плач об утраченной глубине, либо алармизм про когнитивную деградацию, либо философский ужас перед расчеловечиванием. Структура одна и та же: есть «мы», у нас есть «человеческое», оно ценно, ИИ это «человеческое» отнимает.Вопрос, который в этих тредах не задают: что именно отнимает — и с чего мы взяли, что это «наше» в каком-либо устойчивом смысле слова.
Как действительно отдохнуть на майских
Привет, читатели! На связи Лера Плошкина, технический писатель в Авито. Майские праздники — идеальное время для перезагрузки. Вместо обзора книги в этот раз предлагаю вместе изучить научные стратегии отдыха, основанные на свежих исследованиях когнитивных наук, чтобы вы не просто провалялись все праздники, а действительно восстановились.Давайте начнём с того, что разберёмся, что же такое хороший отдых.
Почему мозг забывает всё, чему его учили на тренинге
Конференц-зал в бизнес-центре. Флипчарт, маркеры четырёх цветов, кофе-брейк в 11:00. Тренер просит записать три качества эффективного лидера. Все пишут примерно одно и то же: «эмпатия», «стратегическое мышление», «умение слушать». К обеду — групповое упражнение с ролевыми играми. К вечеру — ощущение, что жизнь изменилась и в понедельник всё будет иначе.Понедельник. Полсотни непрочитанных писем, два тлеющих конфликта в команде, срочный звонок от клиента. К среде бейдж с тренинга пылится на полке. Через месяц вы не можете вспомнить даже имени тренера.
Манифест устойчивого ИИ: не более умные ассистенты, а новая форма цифрового существования
Я предлагаю смотреть на ИИ через ось устойчивости во времени, а не способностей. Три опоры — непрерывная идентичность, самомодификация, воспроизводство. Манифест и whitepaper исследовательского направления.Уже три года публичный разговор об ИИ крутится вокруг оси способности: насколько умна модель, сколько токенов, сколько бенчмарков. Я предлагаю смотреть на другую ось — устойчивость во времени.
Российские вузы начинают бороться с нейрослопом (ИИ-рефератами)
В российских СМИ появилась информация, что учебные заведения отказываются принимать рефераты. Первым стал Институт атомной энергетики (ИАТЭ МИФИ) в Обнинске (Калужская область). У кафедры философии лопнуло терпение из-за потока бездумно сгенерированных текстов. В качестве начальной меры по борьбе с этим явлением было предложено принимать только рефераты, написанные от руки.Как поможет ручное переписывание нейрослопа на бумагу, не очень понятно. Однако, по мнению преподавателей, это хотя бы задействует мышечную память и поспособствует оседанию информации в голове.
Жизнь сквозь призму LLM. Часть 1 — почему мы будем платить не за сервис, а за доступ к мышлению
Разговор про большие языковые модели до сих пор слишком часто ведётся по одной из двух схем. Либо восторг: «смотрите, нейросеть уже пишет код и тексты», либо скепсис: «она всё равно галлюцинирует». Ни то, ни другое уже не отражает масштаб происходящего.Всем привет! Меня зовут Дмитрий Фырнин, я управляющий партнёр и технический директор в SENSE, и собрал серию материалов-рассуждений о том, как LLM меняют нашу жизнь — а где-то уже изменили — на уровне среды, в которой мы работаем и принимаем решения.
В Китае начали испытывать прототип атомного реактора на грузовике
Китай испытывает прототип ядерного реактора, который можно перевозить на грузовике. Это «первый в мире» 10-мегаваттный ядерный энергетический блок, установленный на транспортном средстве.
