Современные LLM оказались плохими грибниками: модели принимают ядовитые грибы за съедобные в каждом девятом случае
Разработчик Пётр Мигдал представил итоги эксперимента, в котором популярные LLM определяли виды грибов по фотографии и решали, можно ли их есть. Выяснилось, что даже лучшие модели примерно в 12% случаев принимали ядовитые грибы за съедобные.
Нейронные сети нетрадиционного ускорения
Главным бутылочным горлышком инференса современных языковых моделей является пропускная способность памяти, ведь из-за использования авторегрессионной генерации ради получения всего одного токена модели вынуждены прогонять через видеопамять все гигабайты весов.Решением этой проблемы стало спекулятивное декодирование: лёгкая модель-черновик (drafter) быстро генерирует последовательность токенов, а большая целевая модель проверяет весь блок за один параллельный проход.
Облачные модели Apple не запускаются из скриптов через новую утилиту fm
Разработчик Пит Голдсмит (Pete Goldsmith) выяснил, что облачные модели Apple не запускаются из скриптов через новую утилиту fm. Для автоматизации в macOS 27 можно использовать только локальные нейросети, запущенные на Mac.
AI в разработке: серебряная пуля или русская рулетка?
TL;DRСовременные LLM и AI-агенты — это не «сильный интеллект», а инструмент, работающий по инструкциям, промптам, контексту и доступным ему инструментам. Они могут выглядеть разумными, но не обладают сознанием, ответственностью, намерением и настоящим пониманием последствий.Я выделяю несколько ключевых рисков:Отсутствие интеллектаЭффективностьБезопасностьОтветственность за результатКогнитивная трансформацияСмена парадигмы
Selectel добавил модели для ранжирования текстов в Foundation Models Catalog
Мы добавили модели для ранжирования текстов (реранкеры) в наш каталог готовых моделей. С ними поиск в ваших приложениях станет значительно точнее.
