Повідомляється, що OpenAI розробляє автономну систему помічника AI, здатну взяти на себе контроль над пристроєм користувача для виконання завдань.
Про потенційний новий продукт вперше повідомило The Information з посиланням на джерело, знайоме з цим питанням.
Хоча подробиць мало — OpenAI не відразу відповів на наші запити щодо коментарів і роз’яснень — цілком зрозуміло, що наступним логічним кроком за межами генеративних систем ШІ, таких як ChatGPT, будуть агенти дій.
Агенти дій
Генеративні системи штучного інтелекту, такі як ChatGPT і Gemini від Google, розроблені для генерації медіа-файлів, схожих на людей, таких як текст, зображення, аудіо та відео.
Як правило, для того, щоб змусити одну з цих моделей виконувати дії в реальному світі, такі як управління роботом, розробники повинні об’єднати їх із зовнішніми програмами, які адаптують вихід ШІ до програмованого виконуваного файлу.
За темою: Дослідники Huawei кажуть, що надання штучному інтелекту «тіла» є наступним кроком до агентів на рівні людини
Технологія, що лежить в основі більшості розумних помічників і подібних систем, не настільки надійна, як те, що працює під капотом ChatGPT, Gemini або навіть власних генеративних і базових продуктів ШІ Amazon.
Цілком зрозуміло, що віртуальний помічник, створений на основі технології великої мовної моделі (наприклад, використовуваної для створення ChatGPT), мав би більший потенціал для автономних дій, ніж порівняно прості системи, що працюють у попередньому поколінні розумних помічників.
Смерть інтерфейсу користувача
Поки ми точно не дізнаємося, що OpenAI має намір робити зі своїми агентами автономної дії, все, що ми можемо робити, це здогадуватися про їхні потенційні можливості.
У інформаційному звіті зазначено, що нова система штучного інтелекту зможе керувати пристроями користувачів для виконання поставлених завдань. Він навів приклад, коли користувач просить ШІ скопіювати дані з однієї платформи на іншу.
Нібито будь-яка фізична функція, яку може виконувати людина, така як смахування, торкання, клацання, подвійне клацання, введення тексту та навіть вирішення головоломок CAPTCHA, щоб довести, що ви не робот, може виконуватися системою ШІ з достатніми привілеями пристрою.
Автономність і безпека
Хоча ця технологія може звучати як щось із фільму Marvel — наприклад, «ДЖАРВІС» Ironman, — реальність така, що шлях до автономних систем допомоги всіяний проблемами конфіденційності та безпеки.
Сучасні генеративні системи ШІ не є дискретними. Вони потребують підключення до великих хмарних обчислювальних центрів. Хоча можливо запускати деякі функції штучного інтелекту повністю на ноутбуках і смартфонах, малоймовірно, що агент дії штучного інтелекту, як це уявляємо, зможе працювати лише на вбудованому чіпі штучного інтелекту.
Це може становити потенційну серйозну загрозу конфіденційності. У поєднанні з очевидною загрозою безпеці, пов’язаною з наданням корпоративній системі штучного інтелекту безперешкодного доступу до приватної інформації, і здатністю звичайного смартфона обмінюватися даними в масштабі Інтернету, реалізація автономного агента дій може представляти критичну нову кіберзагрозу з глобальними наслідками.
