Віталік Бутерін наголошує на ризиках штучного інтелекту на тлі потрясіння лідерства OpenAI

Співзасновник Ethereum Віталік Бутертін поділився своїм поглядом на «суперінтелектуальний» штучний інтелект (ШІ), назвавши його «ризикованим» у відповідь на поточні зміни керівництва в OpenAI.

19 травня Cointelegraph повідомив, що колишній керівник відділу координації OpenAI Ян Лейке подав у відставку, заявивши, що він досяг «переломної точки» з керівництвом щодо основних пріоритетів компанії.

Лейке стверджував, що «культура безпеки та процеси відійшли на другий план, ніж блискучі продукти» в OpenAI, і багато хто вказував на розробки навколо штучного загального інтелекту (AGI).

Очікується, що AGI буде типом штучного інтелекту, який дорівнює або перевершить людські когнітивні здібності. Думка про це вже почала хвилювати експертів галузі, які кажуть, що світ не обладнаний належним чином для керування такими суперінтелектуальними системами ШІ.

Здається, це почуття збігається з поглядами Бутеріна. У дописі на X він поділився своїми поточними думками з цього приводу, наголошуючи, що ми не повинні поспішати з діями чи давати відсіч тим, хто намагається.

Бутерін підкреслив, що відкриті моделі, які працюють на споживчому апаратному забезпеченні, є «захистом» від майбутнього, де невеликий конгломерат компаній зможе зчитувати та передавати більшість людських думок.

«Такі моделі також набагато нижчі з точки зору ризику загибелі, ніж як корпоративна манія величі, так і військові».

Це його другий коментар за останній тиждень щодо ШІ та його зростаючих можливостей.

16 травня він стверджував, що модель OpenAI GPT-4 вже перевершила тест Тюрінга, який визначає «людяність» моделі ШІ. Він процитував нове дослідження, яке стверджує, що більшість людей не можуть розшифрувати, коли розмовляють з машиною.

За темою: нова функція відкликання Microsoft «Чорне дзеркало» записує все, що ви робите

Однак Бутерін не перший, хто висловив це занепокоєння. Уряд Сполученого Королівства також нещодавно ретельно дослідив зростання участі Big Tech у секторі штучного інтелекту, піднімаючи питання, пов’язані з конкуренцією та домінуванням на ринку.

В Інтернеті вже з’являються такі групи, як 6079 AI, які виступають за децентралізований ШІ, щоб переконатися, що він залишається більш демократичним і не домінує Big Tech.

Це сталося після відходу іншого високопоставленого члена команди керівництва OpenAI 14 травня, коли Ілля Суцкевер, співзасновник і головний науковий співробітник, оголосив про свою відставку.

Суцкевер не згадав про жодні занепокоєння щодо AGI. Однак у своїй публікації на X він висловив упевненість, що OpenAI розробить AGI, який є «безпечним і корисним».