Керівник Ethereum Foundation AI Девід Крапіс і співзасновник Ethereum Віталік Бутерін запропонували спосіб використання доказів із нульовим знанням та інших методів, щоб гарантувати конфіденційність взаємодії користувача з великими мовними моделями, одночасно запобігаючи спаму та зловживанням.
Виклики API відбуваються кожного разу, коли користувач надсилає повідомлення програмному додатку, наприклад чат-боту AI. Крапіс і Бутерін сказали в дописі в блозі в середу, що основною проблемою для користувачів і провайдерів є конфіденційність, безпека та ефективність.
«Нам потрібна система, у якій користувач може один раз внести кошти та зробити тисячі викликів API анонімно, безпечно та ефективно», — сказали вони.
«Постачальнику має бути гарантована оплата та захист від спаму, а користувачеві має бути гарантовано, що його запити не можуть бути пов’язані з його особистістю чи один з одним», — додали вони.
Зі зростанням використання чат-ботів зі штучним інтелектом витік даних з LLM стає все більшою проблемою. Чат-боти часто обробляють дуже конфіденційні дані, і зв’язування їх використання з ідентифікаційними даними може створити значні ризики для конфіденційності, правових норм і безпеки. Журнали використання можна використовувати навіть у судових розглядах.
Рішення Crapis і Бутерин для користувачів і провайдерів
Крепіс і Бутерін сказали, що наразі провайдери змушені вибирати між двома «неоптимальними шляхами»: доступ на основі ідентифікаційної інформації, коли користувачі змушені передавати конфіденційну інформацію, як-от електронні листи чи кредитні картки, що створює ризики для конфіденційності, або платежі в мережі за запитом, які є повільними, дорогими та доступними для відстеження.
Дует пропонує систему, в якій користувачі вносять кошти в смарт-контракт, а потім здійснюють виклики API, не розкриваючи свою особу або не посилаючи запити, використовуючи докази з нульовим знанням і обнулювачі лімітів швидкості для платежів і захисту від спаму.
“Користувач вносить 100 доларів США в смарт-контракт і робить 500 запитів до розміщеного LLM. Постачальник отримує 500 дійсних платних запитів, але не може зв’язати їх з тим самим вкладником або один з одним, тоді як підказки користувача залишаються непов’язаними з ідентифікацією користувача”, – сказали Крапіс і Бутерін.
«Модель забезпечує платоспроможність, вимагаючи від користувача довести, що його кумулятивні витрати, представлені поточним індексом квитка, залишаються строго в межах початкового депозиту та підтвердженої історії відшкодування».
Обман системи може скоротити ваш депозит
Для запобігання шахраям, створенню незаконного контенту, спробам джейлбрейку та іншим порушенням умов обслуговування Крапіс і Бутерін пропонують систему подвійних ставок.
Якщо користувача спіймають на спробі подвійних витрат, його депозит може отримати будь-хто, включаючи сервер. Однак для користувачів, які порушують умови обслуговування, їхній депозит буде надіслано на записану адресу, а подія скорочення записується в ланцюжку.
«Наприклад, користувач може надіслати підказку з проханням моделі створити інструкції для створення зброї або допомогти йому обійти контроль безпеки — запити, які порушують політику використання багатьох провайдерів», — сказали Крапіс і Бутерін.
«Поки особистість користувача залишається прихованою, спільнота може перевірити швидкість, з якою Сервер спалює ставки, і опубліковані докази цих спалень».
Терміни в новині
- Смарт-контракт
- Програма в блокчейні, яка автоматично виконує задані умови: переказує кошти, випускає токени, видає позики. Її код не можна таємно змінити.
- Подвійна витрата (double spend)
- Спроба витратити ті самі монети двічі. Блокчейн захищає від неї підтвердженнями та механізмом консенсусу.
