Експерти порівняли Ризик Вимирання від Штучного Інтелекту з Пандемією та Ядерною Війною

Десятки експертів зі штучного інтелекту (ШІ), включаючи генеральних директорів OpenAI, Google DeepMind і Anthropic, нещодавно підписали відкриту заяву, опубліковану Центром безпеки ШІ (CAIS).

https://twitter.com/ylecun/status/1663616081582252032?ref_src=twsrc%5Etfw

Для нього та інших, хто не погоджується з риторикою «вимирання», таких як Ендрю Нґ, співзасновник Google Brain і колишній головний науковий співробітник Baidu, ШІ — це не проблема, а відповідь.

З іншого боку, такі експерти, як Хінтон і генеральний директор Conjecture Коннор Ліхі, вважають, що штучний інтелект на рівні людини неминучий, і тому настав час діяти.

Heads of all major AI labs signed this letter explicitly acknowledging the risk of extinction from AGI.

An incredible step forward, congratulations to Dan for his incredible work putting this together and thank you to every signatory for doing their part for a better future! https://t.co/KDkqWvdJcH

— Connor Leahy (@NPCollapse) May 30, 2023

Щоправда, до яких дій закликають підписанти заяви, незрозуміло. Генеральні директори та/або керівники відділів штучного інтелекту майже в усіх великих компаніях штучного інтелекту, а також відомі вчені з усього академічного середовища є серед тих, хто підписав, що робить очевидним намір не зупиняти розробку цих потенційно небезпечних систем.

Раніше цього місяця генеральний директор OpenAI Сем Альтман, один із тих, хто підписав вищезазначену заяву, вперше виступив перед Конгресом під час слухань у Сенаті для обговорення регулювання ШІ. Його свідчення потрапили в газети після того, як він провів більшу частину, закликаючи законодавців регулювати його галузь.

Проект Altman’s Worldcoin, що поєднує криптовалюту та підтвердження особистості, також нещодавно потрапив у ЗМІ після того, як залучив 115 мільйонів доларів у рамках серії C, завдяки чому загальне фінансування після трьох раундів досягло 240 мільйонів доларів.