Віталік Бутерін встановлює «м’яку паузу» під час обчислень у разі раптового ризикованого ШІ

Співзасновник Ethereum Віталік Бутерін каже, що тимчасова «пауза» у доступних у всьому світі обчисленнях може бути способом «виграти більше часу для людства» у випадку ймовірно шкідливої ​​форми суперінтелекту ШІ.

У дописі в блозі від 5 січня після свого допису в листопаді 2023 року, в якому відстоював ідею «оборонного прискорення» або d/acc, Бутерін сказав, що суперінтелектуальний штучний інтелект може з’явитися лише через п’ять років — і неможливо сказати, що результат буде позитивним.

Бутерін каже, що «м’яка пауза» на комп’ютерному обладнанні промислового масштабу може бути варіантом уповільнення розвитку штучного інтелекту, якщо це станеться — зменшення глобальної доступної обчислювальної потужності до 99% на 1-2 роки, «щоб виграти більше часу для підготовки людства». »

Суперінтелект — це теоретична модель штучного інтелекту, яка зазвичай визначається як набагато розумніша за найрозумніших людей у ​​всіх сферах знань.

Багато технічних керівників і дослідників висловлювали занепокоєння з приводу ШІ, понад 2600 із яких у березні 2023 року закликали у відкритому листі припинити розробку ШІ через «значні ризики для суспільства та людства».

Бутерін зазначив, що його публікація, в якій він представляв d/acc, лише «розпливчасто закликав не створювати ризиковані форми суперінтелекту», і хотів поділитися своїми думками щодо того, як вирішити сценарій, «де ризик ШІ високий».

Однак Бутерін сказав, що він буде наполягати на апаратній м’якій паузі, лише якщо він «переконаний, що нам потрібно щось більш «м’язисте», ніж правила відповідальності», — що означало б, що на тих, хто використовує, розгортає або розробляє штучний інтелект, можуть пред’явити позов про відшкодування завданих збитків. за моделлю.

Він зазначив, що пропозиції щодо призупинення апаратного забезпечення включають пошук розташування чіпів штучного інтелекту та вимогу їх реєстрації, але запропонував оснастити апаратне забезпечення промислового масштабу штучним інтелектом чіпом, який дозволяє йому продовжувати працювати лише в тому випадку, якщо він отримує три підписи раз на тиждень відосновні міжнародні органи.

За темою: у 2024 році ШІ досяг величезних успіхів, коли з’являється AGI

«Підписи будуть незалежними від пристроїв (за бажання ми навіть можемо вимагати підтвердження того, що вони були опубліковані в блокчейні, з нульовим знанням), тому це буде все або нічого», — написав Бутерін. «Не було б практичного способу дозволити одному пристрою продовжувати працювати без авторизації всіх інших пристроїв».

Ідея d/acc, яку підтримує Бутерін, виступає за обережний підхід до розробки технологій на відміну від ефективного акселераторізму або e/acc, який наполягає на необмежених і нестримних технологічних змінах.

AI Eye: химерний культ зростає навколо «релігій» мемкойнів, створених штучним інтелектом