Віталік Бутерін: штучний інтелект може перевершити людей як «вищий вид»

За словами співзасновника Ethereum Віталіка Бутеріна, суперпрогресивний штучний інтелект, якщо його не контролювати, має «серйозний шанс» перевершити людей і стати наступним «найвищим видом» планети.

Але це зводитиметься до того, як люди потенційно можуть втручатися в розробки ШІ, сказав він.

New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh

— vitalik.eth (@VitalikБутерин) November 27, 2023

У дописі в блозі від 27 листопада Бутерін, якого дехто вважає лідером думок у сфері криптовалют, стверджував, що штучний інтелект «фундаментально відрізняється» від інших недавніх винаходів, таких як соціальні мережі, контрацепція, літаки, зброя, колесо та ін. друкарський верстат — оскільки ШІ може створити новий тип «розуму», який може обернутися проти людських інтересів, додавши:

«Штучний інтелект — це […] новий тип розуму, який швидко набирає інтелектуальних здібностей, і він має серйозні шанси перевершити розумові здібності людини та стати новим найкращим видом на планеті».

Бутерін стверджував, що на відміну від кліматичних змін, техногенної пандемії чи ядерної війни, надрозумний штучний інтелект потенційно може покінчити з людством і не залишити в живих людей, особливо якщо в кінцевому підсумку він розглядатиме людей як загрозу своєму власному виживанню.

«Один із способів, у який штучний інтелект, що пішов не так, може зробити світ гіршим, — це (майже) найгірший із можливих: він може буквально призвести до вимирання людства».

«Навіть Марс може бути небезпечним», — додав Бутерін.

Бутерін процитував опитування від серпня 2022 року, проведене понад 4270 дослідниками машинного навчання, які оцінили ймовірність того, що ШІ вб’є людство, становить 5-10%.

Однак, хоча Бутерін підкреслив, що заяви такого характеру є «екстремальними», існують також способи для людей перемогти.

Мозкові інтерфейси та технооптимізм

Бутерін запропонував інтегрувати інтерфейси мозок-комп’ютер (BCI), щоб запропонувати людям більше контролю над потужними формами обчислень і пізнання на основі ШІ.

BCI — це шлях зв’язку між електричною активністю мозку та зовнішнім пристроєм, таким як комп’ютер або роботизована кінцівка.

За словами Бутеріна, це зменшить цикл двостороннього зв’язку між людиною та машиною з секунд до мілісекунд, і, що більш важливо, забезпечить людям певну «значущу роль» у світі.

За темою: Як штучний інтелект змінює криптовалюту: ажіотаж проти реальності

Бутерін припустив, що цей шлях буде «безпечнішим», оскільки люди можуть брати участь у кожному рішенні, яке приймає машина ШІ.

«Ми [можемо] зменшити стимули перекладати відповідальність за планування високого рівня на сам штучний інтелект і тим самим зменшити ймовірність того, що штучний інтелект самостійно зробить щось, що зовсім не відповідає цінностям людства».

Співзасновник Ethereum також припустив «активний людський намір» рухати ШІ в напрямку, який принесе користь людству, оскільки максимізація прибутку не завжди веде людину найбажанішим шляхом.

Human beings are deeply good. pic.twitter.com/AbOfd75IJ4

— vitalik.eth (@VitalikБутерин) November 27, 2023

Бутерін дійшов висновку, що «ми, люди, є найяскравішою зіркою» у Всесвіті, оскільки ми розробляли технологію для розширення людського потенціалу протягом тисячоліть, і, сподіваємось, ще багато років у майбутньому:

«Через два мільярди років, якщо Земля або будь-яка частина Всесвіту все ще несе в собі красу земного життя, це станеться завдяки людським витівкам, таким як космічні подорожі та геоінженерія».