OpenAI Assistants API: подводные камни продакшена
AI-агенты в проде: как использовать OpenAI Assistants API и не сгоретьOpenAI активно продвигает свой Assistants API как новую основу для создания кастомных AI-агентов. Многие пробуют внедрять его в поддержку клиентов, devtools, работу с документацией. Однако за видимой простотой скрываются нюансы, которые могут привести к неожиданным проблемам в продакшене.Если не учитывать эти нюансы, вместо эффективного инструмента мы получаем искаженные метрики производительности, неконтролируемые расходы и риск «сгореть» под нагрузкой.
OpenAI обновляет поиск в ChatGPT, делая ответы более продуманными, а поиск изображений — более эффективным
Компания OpenAI выпустила крупное обновление для интегрированного поиска в ChatGPT, в котором представлены более умные ответы, улучшенная обработка длинных диалогов и новая функция поиска изображений.
Насколько русскоязычные LLM устойчивы к промпт-инъекциям
Последние годы генеративные большие языковые модели (LLM), такие как ChatGPT и YandexGPT, стали неотъемлемой частью многих продуктов и сервисов. С ростом популярности этих моделей возникли и новые угрозы безопасности — одной из самых актуальных стали промпт-инъекции. Что это такое, и почему это важно?Что такое промпт-инъекция?Промпт-инъекция — это атака, при которой злоумышленник отправляет модели запрос, сформулированный так, чтобы заставить её нарушить встроенные правила безопасности или раскрыть конфиденциальную информацию.Например:Манипуляция инструкциями
Новые тесты Apple показывают, что её ИИ-модели всё ещё отстают от лидеров рынка
Apple опубликовала новые данные о производительности двух своих моделей искусственного интеллекта и открыла доступ к меньшей по размеру системе для сторонних разработчиков. Тесты показывают, что технология LLM от Apple по-прежнему уступает конкурентам.
В Нью-Йорке принят законопроект о предотвращении катастроф, вызванных ИИ
В четверг законодатели штата Нью-Йорк приняли законопроект, который должен предотвратить использование передовых моделей искусственного интеллекта от OpenAI, Google и Anthropic в ситуациях, угрожающих жизни и здоровью людей, а также приводящих к значительным экономическим потерям. Законопроект направлен на то, чтобы избежать катастроф, в которых пострадают более 100 человек или будет нанесен ущерб на сумму свыше 1 миллиарда долларов.
Rabbit запускает «intern» — программного ИИ-агента, предназначенного для командной работы над проектами
Компания Rabbit, американский стартап в области искусственного интеллекта, наиболее известный своим устройством Rabbit r1, выпускает новый продукт: «intern».
Рекурсивная реальность: Философские основания и их значение для искусственного интеллекта
Часть 1: Философские основания самодостаточной реальностиВведение: Аксиома как основа пониманияЦентральная аксиома настоящей работы: Реальность самодостаточна. Это означает, что реальность не требует внешней причины, среды или наблюдателя для своего существования или эволюции. Она является операционально замкнутой системой – все необходимые ресурсы и механизмы для ее функционирования содержатся внутри нее самой. Из этой аксиомы логически вытекают два ключевых принципа:Рекурсивность:
Microsoft несколько месяцев боролась с критической уязвимостью в Copilot
Серьезная уязвимость в системе безопасности Microsoft 365 Copilot позволила злоумышленникам получить доступ к конфиденциальным данным компании с помощью специально составленного электронного письма — без каких-либо кликов или взаимодействия с пользователем. Уязвимость под названием «EchoLeak» была обнаружена компанией Aim Security, специализирующейся на кибербезопасности.
