Anthropic опубликовала обновленную конституцию Claude и показала, как именно модель учат принимать решения
Anthropic представила новую версию так называемой конституции
Nvidia пыталась получить книги у пиратов для обучения ИИ
В обновленных материалах коллективного иска против Nvidia появились новые детали, которые удивили экспертов. Оказывается, компания напрямую связывалась с крупнейшей теневой библиотекой Anna’s Archive, чтобы получить приоритетный доступ к
Сублиминальное обучение и инерция весов: Почему нейросети помнят то, что должны были забыть
В предыдущей статье я рассматривал феномен сублиминального обучения, но вопросов было больше, чем ответов. Пришло время разобрать его подробнее. Эксперименты и код ниже.В задачах AI Alignment и безопасности LLM остается актуальным вопрос: гарантирует ли дообучение (fine-tuning) или обучение с подкреплением (RLHF) удаление нежелательной информации?
Почему я удалил ChatGPT после трёх лет использования
Реклама - это лишь симптом более серьёзной проблемыSource: Alex Shuper, Unsplash I. Реклама в ChatGPT — это переход красной чертыНа этой неделе OpenAI объявила, что начнёт тестировать рекламу в бесплатной версии ChatGPT
