ArXiv обновила свою политику публикации из-за засилья низкокачественных материалов, созданных с помощью ИИ
Платформа с препринтами научных работ ArXiv объявила, что больше не будет принимать обзорные статьи и аналитические доклады по информатике, которые не были рецензированы и приняты академическим журналом или конференцией. Изменение правил обусловлено наводнением этой категории низкопробными статьями, созданными при помощи искусственного интеллекта.
Ученые манипулируют рецензированием через скрытые ИИ-промпты
Исследование, проведенное Nikkei Asia, выявило тревожную тенденцию в научной среде: академические сотрудники активно внедряют невидимые инструкции для ИИ в свои исследовательские работы с целью манипулирования процессом рецензирования.
Даже если случайно переставить буквы в словах, GPT-4 понимает текст
Цветом выделена токенизация Для представления внутри трансформеров слова или их небольшие части преобразуются в токены. Кажется, что если перемешать в каждом слове буквы, то языковая модель на трансформерах потеряет всякую способность понимать текст. Авторы научной работы «Unnatural Error Correction: GPT-4 Can Almost Perfectly Handle Unnatural Scrambled Text» (arXiv:2311.18805) показали, что это не так. Как выяснилось, GPT-4 без проблем оперирует текстом, где в каждом слове все буквы случайно переставлены.
