Исследователи Anthropic обучают языковые модели самосовершенствованию
Исследователи из компании Anthropic разработали новый метод под названием «Максимизация внутренней согласованности» (Internal Coherence Maximization, ICM), который позволяет точно настроить языковые модели, используя только их собственные результаты. Этот подход может помочь (или даже заменить) человеческий контроль при выполнении сложных задач.
Как мы программировали робота-краба для ЦИПР2025: AI, который выделяет нас на фоне пультов
Привет, Хабр! Мы - команда NIKTA.AI, и на конференции ЦИПР2025 мы решили не просто участвовать, а задать жару с нашим роботом-крабом, управляемым через Visual Language Model (VLM). Пока другие команды щелкали пультами, наш краб самостоятельно принимал решения, осматривал стенд и искал объекты. Как мы это сделали за полтора месяца? Рассказываем!
Neuralink: имплант Blindsight позволил обезьяне «увидеть» несуществующий объект
Компания Neuralink сообщила о результатах тестирования импланта Blindsight, который позволил обезьяне «увидеть» несуществующий объект благодаря стимуляции зрительных зон мозга.
OpenAI Assistants API: подводные камни продакшена
AI-агенты в проде: как использовать OpenAI Assistants API и не сгоретьOpenAI активно продвигает свой Assistants API как новую основу для создания кастомных AI-агентов. Многие пробуют внедрять его в поддержку клиентов, devtools, работу с документацией. Однако за видимой простотой скрываются нюансы, которые могут привести к неожиданным проблемам в продакшене.Если не учитывать эти нюансы, вместо эффективного инструмента мы получаем искаженные метрики производительности, неконтролируемые расходы и риск «сгореть» под нагрузкой.
OpenAI обновляет поиск в ChatGPT, делая ответы более продуманными, а поиск изображений — более эффективным
Компания OpenAI выпустила крупное обновление для интегрированного поиска в ChatGPT, в котором представлены более умные ответы, улучшенная обработка длинных диалогов и новая функция поиска изображений.
Насколько русскоязычные LLM устойчивы к промпт-инъекциям
Последние годы генеративные большие языковые модели (LLM), такие как ChatGPT и YandexGPT, стали неотъемлемой частью многих продуктов и сервисов. С ростом популярности этих моделей возникли и новые угрозы безопасности — одной из самых актуальных стали промпт-инъекции. Что это такое, и почему это важно?Что такое промпт-инъекция?Промпт-инъекция — это атака, при которой злоумышленник отправляет модели запрос, сформулированный так, чтобы заставить её нарушить встроенные правила безопасности или раскрыть конфиденциальную информацию.Например:Манипуляция инструкциями
Новые тесты Apple показывают, что её ИИ-модели всё ещё отстают от лидеров рынка
Apple опубликовала новые данные о производительности двух своих моделей искусственного интеллекта и открыла доступ к меньшей по размеру системе для сторонних разработчиков. Тесты показывают, что технология LLM от Apple по-прежнему уступает конкурентам.
В Нью-Йорке принят законопроект о предотвращении катастроф, вызванных ИИ
В четверг законодатели штата Нью-Йорк приняли законопроект, который должен предотвратить использование передовых моделей искусственного интеллекта от OpenAI, Google и Anthropic в ситуациях, угрожающих жизни и здоровью людей, а также приводящих к значительным экономическим потерям. Законопроект направлен на то, чтобы избежать катастроф, в которых пострадают более 100 человек или будет нанесен ущерб на сумму свыше 1 миллиарда долларов.
Rabbit запускает «intern» — программного ИИ-агента, предназначенного для командной работы над проектами
Компания Rabbit, американский стартап в области искусственного интеллекта, наиболее известный своим устройством Rabbit r1, выпускает новый продукт: «intern».
Рекурсивная реальность: Философские основания и их значение для искусственного интеллекта
Часть 1: Философские основания самодостаточной реальностиВведение: Аксиома как основа пониманияЦентральная аксиома настоящей работы: Реальность самодостаточна. Это означает, что реальность не требует внешней причины, среды или наблюдателя для своего существования или эволюции. Она является операционально замкнутой системой – все необходимые ресурсы и механизмы для ее функционирования содержатся внутри нее самой. Из этой аксиомы логически вытекают два ключевых принципа:Рекурсивность:
