Эксперты по ИИ оценили риски «вымирания из-за ИИ» по сравнению с пандемиями и ядерной войной

Десятки экспертов по искусственному интеллекту (ИИ), включая руководителей компаний OpenAI, Google DeepMind и Anthropic, недавно подписали открытое заявление, опубликованное Центром безопасности ИИ (CAIS).

https://twitter.com/ylecun/status/1663616081582252032?ref_src=twsrc%5Etfw

Для него и других, кто не согласен с риторикой «вымирания», таких как Эндрю Нг, соучредитель Google Brain и бывший главный научный сотрудник Baidu, ИИ — это не проблема, это ответ.

С другой стороны, такие эксперты, как Хинтон и генеральный директор Conjecture Коннор Лихи, считают, что искусственный интеллект человеческого уровня неизбежен, и поэтому время действовать уже сейчас.

Heads of all major AI labs signed this letter explicitly acknowledging the risk of extinction from AGI.

An incredible step forward, congratulations to Dan for his incredible work putting this together and thank you to every signatory for doing their part for a better future! https://t.co/KDkqWvdJcH

— Connor Leahy (@NPCollapse) May 30, 2023

Однако неясно, к каким действиям призывают подписавшие заявление. Генеральные директора и/или руководители ИИ почти каждой крупной компании ИИ, а также известные ученые из разных академических кругов входят в число тех, кто подписал соглашение, что делает очевидным намерение не остановить разработку этих потенциально опасных систем.

Ранее в этом месяце генеральный директор OpenAI Сэм Альтман, один из тех, кто подписал вышеупомянутое заявление, впервые выступил перед Конгрессом во время слушаний в Сенате, чтобы обсудить регулирование ИИ. Его показания попали в заголовки газет после того, как он провел большую часть времени, призывая законодателей регулировать его отрасль.

Worldcoin Альтмана, проект, сочетающий в себе криптовалюту и подтверждение личности, также недавно привлек внимание СМИ после привлечения 115 миллионов долларов в рамках финансирования серии C, в результате чего общее финансирование после трех раундов достигло 240 миллионов долларов.