Научный «дипфейк»? Как галлюцинации нейросетей — и другие проблемы — просачиваются в академические статьи
Нейронки периодически оказывают пользователям медвежью услугу и уверенно (инфа сотка!) выдают в ответ на запрос правдоподобные фейки. Если речь идет о журнальных статьях на тему «что почитать этим летом», получается веселый конфуз.Совсем другое дело — если «срезать углы» с помощью нейросети хочет юрист, ученый или эксперт, пишущий книгу в жанре технической литературы.Мы в Beeline Cloud решили посмотреть, какие прецеденты с галлюцинациями (и другие сложности) уже зафиксированы и что на этот счет думают ученые.
Системы ценностей больших языковых моделей
Каждый раз, когда человечество создаёт очередной инструмент на машинном обучении, оно сперва любуется пользой от его работы, а потом пугается своего отражения внутри. С большими языковыми моделями история повторилась с ускорением. От восторга перед ответами ChatGPT до шока от таблиц, где жизнь человека глубоко неравноценна, прошло меньше двух лет.Звучит странно, но языковые модели предвзяты. У них есть политические взгляды, любимые расы и даже люди, которыми они не прочь пожертвовать. Но обо всём по порядку.Введение
Как мы коня в пальто одевали. Neural Image Editing: Часть 1 — от инпейнтинга до DDIM Inversion
Что делать, если хочешь отредактировать картинку?
Как я за год написал шесть больших научных статей и несколько маленьких
С 2021 года я учусь в аспирантуре по экономической географии
Создание искусственных сомнений значительно повышает точность математических вычислений ИИ
Языковые модели лучше справляются с математикой при использовании "верифицируемой траектории рассуждений" (обзор модели rStar-Math)Что делает ИИ-систему хорошей в математике? Не сырая вычислительная мощность, а нечто почти противоречивое: невротичная тщательность в проверке своей правоты.
Разработчики Arxiv Labs представили режим Deep Research для портала arXiv
Разработчики цифрового архива научных работ Arxiv Labs представили режим Deep Research. Это глубокий поиск на базе нейросетей, с помощью которого можно собирать исследования по заданной теме.
