Сообщается, что OpenAI разрабатывает автономную систему-помощник с искусственным интеллектом, способную брать на себя управление устройством пользователя для выполнения задач.
О потенциальной новинке впервые сообщило издание The Information со ссылкой на источник, знакомый с ситуацией.
Хотя подробностей мало — OpenAI не сразу ответил на наши запросы о комментариях и разъяснениях — вполне понятно, что следующим логическим шагом после генеративных систем ИИ, таких как ChatGPT, станут агенты действий.
Агенты действий
Генеративные системы искусственного интеллекта, такие как ChatGPT и Gemini от Google, предназначены для создания человекоподобных медиа, таких как текст, изображения, аудио и видео.
Обычно, чтобы заставить одну из этих моделей выполнять реальные действия, например, управлять роботом, разработчики должны объединить их с внешними приложениями, которые адаптируют выходные данные ИИ в программируемый исполняемый файл.
По теме: Исследователи Huawei говорят, что предоставление ИИ «тела» — это следующий шаг к агентам человеческого уровня
Технология, лежащая в основе большинства умных помощников и подобных систем, не так надежна, как то, что работает под капотом ChatGPT, Gemini или даже собственных генеративных и основополагающих продуктов Amazon на основе искусственного интеллекта.
Само собой разумеется, что виртуальный помощник, созданный на основе технологии больших языковых моделей (например, той, которая использовалась для создания ChatGPT), будет иметь больший потенциал для автономных действий, чем сравнительно простые системы, лежащие в основе интеллектуальных помощников предыдущего поколения.
Смерть пользовательского интерфейса
Пока мы точно не узнаем, что OpenAI намерен делать со своими агентами автономных действий, о которых сообщают, все, что мы можем сделать, — это строить предположения об их потенциальных возможностях.
В отчете The Information указано, что новая система искусственного интеллекта сможет управлять устройствами пользователей для выполнения запрошенных задач. Он привел пример, когда пользователь просит ИИ скопировать данные с одной платформы на другую.
Якобы любая физическая функция, которую может выполнять человек, например, смахивание, постукивание, щелчок, двойной щелчок, ввод текста и даже решение головоломок CAPTCHA, чтобы доказать, что вы не робот, может выполняться системой искусственного интеллекта с достаточными привилегиями устройства.
Автономность и безопасность
Хотя эта технология может показаться чем-то прямо из фильма Marvel — например, JARVIS от Ironman — реальность такова, что путь к автономным системам помощи усеян проблемами конфиденциальности и безопасности.
Современные генеративные системы искусственного интеллекта не являются дискретными. Им требуется подключение к огромным облачным вычислительным центрам. Хотя некоторые функции ИИ можно полностью запускать на ноутбуках и смартфонах, маловероятно, что агент действия ИИ в том виде, в котором он предполагался, сможет работать только на встроенном чипе ИИ.
Это может представлять собой потенциально серьезную угрозу конфиденциальности. В сочетании с очевидной угрозой безопасности, связанной с предоставлением корпоративной системе искусственного интеллекта беспрепятственного доступа к частной информации и способностью обычного смартфона обмениваться данными в масштабах Интернета, реализация автономного агента действий может представлять собой новую критическую киберугрозу с глобальными последствиями.
