OpenAI на пороге выпуска AI-агента «Operator» с упором на безопасность и автоматизацию процессов
Согласно новому отчету [1]The Information, OpenAI выпустит своего AI-агент “Operator” в этом месяце, что подтверждает информацию, ранее опубликованную Bloomberg в ноябре.
Запуск задерживается из-за проблем безопасности, связанных с уязвимостью, позволяющей пользователям обходить правила и ограничения AI. Эта проблема, известная еще со времен GPT-3 [2], остается нерешенной, что создает риски для автономных AI-агентов, так как пользователи меньше контролируют обрабатываемый контент.
Соучредитель OpenAI Войцех Заремба критиковал [3]Anthropic за выпуск AI-агента без должной безопасности, утверждая, что OpenAI столкнулся бы с критикой [4] за подобные действия.
Хотя “Operator” задуман как универсальный помощник, он будет сосредоточен на задачах в браузере, что соответствует стремлениям автоматизировать сложные рабочие процессы. Генеральный директор OpenAI Сэм Альтман считает [5], что AI-агенты — это следующий этап в развитии AI, что связано с замедлением [6]прогресса в традиционных языковых моделях. Альтман предполагает, что будущее за эффективным использованием существующих моделей. Несколько крупных AI-лабораторий работают над подобными помощниками для автоматизации задач с минимальным участием пользователя.
Anthropic уже выпустила [7]помощника, который обрабатывает содержимое экрана и выполняет действия в реальном времени, а Microsoft внедрила [8]автоматизацию в свою платформу Copilot.
Хотя стандартного определения агентных систем AI нет, они функционируют как программы или подсказки, выполняющие подзадачи и координирующие работу с другими помощниками, объединяя разные языковые модели и системы AI.
Компании стремятся автоматизировать рабочие процессы через координацию и надёжное выполнение задач несколькими помощниками. OpenAI сделала шаг в этом направлении, выпустив “Project Swarm” на GitHub [9]. Этот экспериментальный фреймворк позволяет разработчикам создавать и управлять системами с несколькими помощниками, демонстрируя, как они могут передавать управление друг другу и выполнять задачи с конкретными инструментами.
Источник [10]
Автор: mefdayy
Источник [11]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/10979
URLs in this post:
[1] отчету : https://www.theinformation.com/articles/why-openai-is-taking-so-long-to-launch-agents
[2] со времен GPT-3: https://the-decoder.com/chatgpt-could-quickly-become-the-weak-link-in-cybersecurity/
[3] критиковал : https://the-decoder.com/openai-co-founder-says-new-ai-safety-approach-may-apply-to-agi-and-beyond/
[4] столкнулся бы с критикой: https://x.com/woj_zaremba/status/1867805937517613314
[5] считает: https://the-decoder.com/openai-ceo-sam-altman-outlines-vision-for-next-generation-ai-hardware-and-interfaces/
[6] замедлением : https://the-decoder.com/openai-co-founder-predicts-a-new-ai-age-of-discovery-as-llm-scaling-hits-a-wall/
[7] выпустила : https://the-decoder.com/anthropic-releases-updated-smarter-claude-haiku-3-5-and-sonnet-3-5-model/
[8] внедрила : https://the-decoder.com/microsoft-releases-autonomous-copilot-agents-from-closed-beta/
[9] “Project Swarm” на GitHub: https://the-decoder.com/openai-introduces-experimental-multi-agent-framework-swarm/
[10] Источник: https://the-decoder.com/openais-operator-agent-for-computer-use-could-launch-this-month/
[11] Источник: https://habr.com/ru/companies/bothub/news/872092/?utm_source=habrahabr&utm_medium=rss&utm_campaign=872092
Нажмите здесь для печати.