Схоже, OpenAI стримує новий «надточний» інструмент, здатний виявляти контент, створений ChatGPT, через побоювання, що він може бути підроблений або змусити користувачів не англійською мовою уникати створення тексту за допомогою моделей штучного інтелекту.
Компанія згадала, що працює над різними методами виявлення контенту, створеного саме її продуктами, у публікації в блозі ще в травні.4 серпня Wall Street Journal опублікував ексклюзивний звіт, у якому вказує, що плани щодо випуску інструментів застопорилися через внутрішні дебати щодо наслідків їх випуску.
Після звіту WSJ OpenAI оновив свій травневий пост у блозі новою інформацією про інструменти виявлення. Коротше кажучи, досі немає розкладу випуску, незважаючи на застереження компанії, що принаймні один інструмент для визначення походження тексту є «високо точним і навіть ефективним проти локальних фальсифікацій».
На жаль, компанія стверджує, що все ще існують методи, за допомогою яких зловмисники можуть обійти виявлення, і тому вона не бажає оприлюднювати це для громадськості.
В іншому уривку компанія, схоже, має на увазі, що неангломовні можуть бути «тавровані» проти використання продуктів ШІ для написання через експлойт, пов’язаний з перекладом англійського тексту на іншу мову, щоб обійти виявлення.
«Ще один важливий ризик, який ми зважуємо, полягає в тому, що наше дослідження показує, що метод текстових водяних знаків може непропорційно вплинути на деякі групи. Наприклад, це може стигматизувати використання штучного інтелекту як корисного інструменту письма для людей, для яких англійська мова не є рідною».
Хоча наразі існує низка продуктів і послуг, призначених для виявлення створеного штучним інтелектом контенту, наскільки нам відомо, жоден із них не продемонстрував високого ступеня точності в загальних завданнях у рецензованих дослідженнях.
OpenAI стане першою внутрішньо розробленою системою, яка покладається на невидимі водяні знаки та власні методи виявлення вмісту, створеного спеціально моделями компанії.
За темою: поточна бізнес-модель OpenAI є «недостатньою» — звіт
