OpenAI на пороге выпуска AI-агента «Operator» с упором на безопасность и автоматизацию процессов

Запуск задерживается из-за проблем безопасности, связанных с уязвимостью, позволяющей пользователям обходить правила и ограничения AI. Эта проблема, известная еще со времен GPT-3, остается нерешенной, что создает риски для автономных AI-агентов, так как пользователи меньше контролируют обрабатываемый контент.

Соучредитель OpenAI Войцех Заремба критиковал Anthropic за выпуск AI-агента без должной безопасности, утверждая, что OpenAI столкнулся бы с критикой за подобные действия.

Хотя "Operator" задуман как универсальный помощник, он будет сосредоточен на задачах в браузере, что соответствует стремлениям автоматизировать сложные рабочие процессы. Генеральный директор OpenAI Сэм Альтман считает, что AI-агенты — это следующий этап в развитии AI, что связано с замедлением прогресса в традиционных языковых моделях. Альтман предполагает, что будущее за эффективным использованием существующих моделей. Несколько крупных AI-лабораторий работают над подобными помощниками для автоматизации задач с минимальным участием пользователя.

Anthropic уже выпустила помощника, который обрабатывает содержимое экрана и выполняет действия в реальном времени, а Microsoft внедрила автоматизацию в свою платформу Copilot.

Хотя стандартного определения агентных систем AI нет, они функционируют как программы или подсказки, выполняющие подзадачи и координирующие работу с другими помощниками, объединяя разные языковые модели и системы AI.

Компании стремятся автоматизировать рабочие процессы через координацию и надёжное выполнение задач несколькими помощниками. OpenAI сделала шаг в этом направлении, выпустив "Project Swarm" на GitHub. Этот экспериментальный фреймворк позволяет разработчикам создавать и управлять системами с несколькими помощниками, демонстрируя, как они могут передавать управление друг другу и выполнять задачи с конкретными инструментами.

Источник