Демонстрації стартапів майбутньої децентралізованої мережі інфраструктури GPU для OpenAI, Uber

Проект, який розпочався як система кількісної торгівлі криптовалютами та акціями інституційного рівня, перетворився на децентралізовану мережу, що забезпечує обчислювальну потужність графічного процесора для обслуговування зростаючого попиту на послуги ШІ та машинного навчання.

Io.net розробив тестову мережу, яка отримує обчислювальну потужність GPU від різноманітних центрів обробки даних, майнерів криптовалюти та постачальників децентралізованих систем зберігання. Агрегування обчислювальної потужності GPU рекламується для різкого зниження вартості оренди цих джерел, які стають все дорожчими з розвитком ШІ та машинного навчання.

Розмовляючи ексклюзивно з Cointelegraph, генеральний директор і співзасновник Ахмад Шадід розкриває подробиці мережі, яка має на меті забезпечити децентралізовану платформу для оренди обчислювальної потужності за незначну частину вартості централізованих альтернатив, які зараз існують.

За темою: Майбутнє платежів: Visa інвестує 100 мільйонів доларів у генеративний ШІ

Шадід пояснює, як був задуманий проект наприкінці 2022 року під час хакатону Solana. Io.net розробляв кількісну торгову платформу, яка покладалася на обчислювальну потужність графічного процесора для своїх високочастотних операцій, але була утруднена через непомірні витрати на оренду обчислювальної потужності графічного процесора.

Команда розкриває проблему оренди високопродуктивного графічного процесора у своїй основній документації, причому ціна оренди однієї NVIDIA A100 становить у середньому близько 80 доларів США на день за картку. Потреба в більш ніж 50 таких картках для роботи 25 днів на місяць коштуватиме понад 100 000 доларів США.

Рішення було знайдено у відкритті Ray.io, Library з відкритим вихідним кодом, який OpenAI використовував для розповсюдження навчання ChatGPT на понад 300 000 ЦП і ГП. Library оптимізував інфраструктуру проекту, її серверну частину було розроблено за два місяці.

Шадід продемонстрував робочу тестову мережу io.net на Ray Summit, орієнтованому на штучний інтелект, у вересні 2023 року, підкресливши, як проект агрегує обчислювальну потужність, яка подається споживачам GPU у вигляді кластерів, щоб відповідати конкретним випадкам використання ШІ або машинного навчання.

«Ця модель не тільки дозволяє io.net надавати GPU-обчислення на 90% дешевше, ніж постійні постачальники, але й забезпечує практично необмежену обчислювальну потужність».

Децентралізована мережа налаштована використовувати блокчейн Solana для доставки платежів SOL і USD Coin (USDC) інженерам з машинного навчання та майнерам, які орендують або надають обчислювальну потужність.

«Коли інженери ML платять за свої кластери, ці кошти спрямовуються безпосередньо до майнерів, які обслуговували кластер зі своїми графічними процесорами, при цьому невелика плата за мережу розподіляється на протокол io.net».

Дорожня карта проекту передбачає запуск подвійної нативної системи токенів, яка матиме $IO та $IOSD. Модель токенів винагороджуватиме майнерів за виконання робочих навантажень машинного навчання та підтримку безвідмовної роботи мережі, враховуючи доларову вартість споживання електроенергії.

«Монета IO буде вільно торгуватися на ринку криптовалют і є воротами для доступу до обчислювальної потужності, тоді як токен IOSD буде служити стабільним кредитним токеном, алгоритмічно прив’язаним до 1 долара США».

Шадід розповідає Cointelegraph, що io.net принципово відрізняється від централізованих хмарних сервісів, таких як Amazon Web Services (AWS):

«Якщо використовувати аналогію, вони — United Airlines, а ми — Kayak;у них є літаки, тоді як ми допомагаємо людям бронювати рейси».

Засновник додає, що будь-які підприємства, які потребують обчислень штучного інтелекту, зазвичай використовують сторонніх постачальників, оскільки їм не вистачає графічних процесорів, щоб обробляти все це всередині компанії. Оскільки попит на графічні процесори зростатиме в десять разів кожні 18 місяців, Хадід каже, що їх часто недостатньо для задоволення попиту, що призводить до тривалого очікування та високих цін.

Це ускладнюється тим, що він описує як неефективне використання центрів обробки даних, які не оптимізовані для ШІ та машинного навчання, які швидко зростають:

«Тільки в США існують тисячі незалежних центрів обробки даних із середнім рівнем використання 12–18%. У результаті виникають вузькі місця, що призводить до підвищення цін на GPU».

Перевага полягає в тому, що середній майнер криптовалюти може виграти, здаючи в оренду своє обладнання, щоб конкурувати з такими компаніями, як AWS. Хадід каже, що середній майнер, який використовує A100 на 40 ГБ, заробляє 0,52 долара на день, тоді як AWS продає ту саму картку для обчислень зі штучним інтелектом за 59,78 доларів на день.

«Частиною ціннісної пропозиції io.net є те, що ми, по-перше, дозволяємо учасникам отримати доступ до ринку обчислень штучного інтелекту та перепродавати свої графічні процесори, а для інженерів ML ми значно дешевші, ніж AWS».

Згідно з даними, опублікованими Cointelegraph, майнери з ресурсами графічного процесора можуть заробити на 1500% більше, ніж вони могли б отримати від майнінгу різноманітних криптовалют.