Британский саммит по безопасности ИИ: Маск сравнивает ИИ с «волшебным джинном» и говорит, что в будущем рабочие места не понадобятся

Глобальный саммит Великобритании по безопасности искусственного интеллекта, AI Safety Summit, завершился 2 ноября беседой один на один между премьер-министром Великобритании Риши Сунаком и миллиардером Илоном Маском.

Маск был одним из многих громких имен, присутствовавших на саммите, включая руководителей OpenAI, Meta, Google и ее подразделения искусственного интеллекта DeepMind, а также лидеров из 27 стран. Почти часовая беседа Маска с Сунаком стала одним из главных событий второго дня.

https://twitter.com/elonmusk/status/1720188083780370481?ref_src=twsrc%5Etfw

Их разговор затронул все: от рисков искусственного интеллекта до Китая и начался с того, что Илон Маск сравнил новую технологию с «волшебным джинном».

«Это что-то вроде проблемы с волшебным джинном: если у вас есть волшебный джин, который может исполнить все желания, обычно эти истории не заканчиваются хорошо. Будь осторожен с желаниями.”

Оба упомянули, что этим умным ботам нужен физический «выключатель», и провели параллели с научно-фантастическими фильмами, такими как «Терминатор». «Все эти фильмы с одним и тем же сюжетом, по сути, заканчиваются тем, что человек его выключает», — сказал Сунак.

Маск прокомментировал:

«Это и хорошо, и плохо. Одной из задач будущего станет вопрос: как нам найти смысл жизни, если у вас есть волшебный джинн, который может делать все, что вы захотите?»

Этот вопрос был поднят после того, как правительства и компании, занимающиеся искусственным интеллектом, пришли к соглашению о проведении официальных испытаний новых моделей перед их публичным выпуском, что Сунак назвал «знаковым соглашением».

Связанный: NIST создает консорциум Института безопасности искусственного интеллекта в ответ на указ Байдена

Отвечая на вопрос о влиянии ИИ на рынок труда, Маск назвал его самой «разрушительной силой в истории» и сказал, что технология будет умнее самого умного человека.

«Наступит момент, когда работа станет не нужна. Вы можете найти работу, если хотите иметь работу для личного удовлетворения, но ИИ сможет сделать все».

«Я не знаю, приносит ли это людям комфорт или дискомфорт», — заключил Маск.

Кроме того, Маск прокомментировал участие Китая в саммите, заявив, что их присутствие «необходимо». «Если они не участники, это бессмысленно», – сказал он.

«Если Соединенные Штаты, Великобритания и Китай будут едины в вопросах безопасности, то это будет хорошо, потому что именно там обычно находится лидерство».

За последний год США и Китай схлестнулись в гонке за разработку и внедрение самых передовых систем искусственного интеллекта.

Когда Сунак спросил Маска, что, по его мнению, правительства должны делать для снижения риска, Маск ответил:

«В целом я считаю, что правительству полезно сыграть свою роль, когда общественная безопасность находится под угрозой;для подавляющего большинства программного обеспечения общественная безопасность не подвергается риску. Но когда мы говорим о цифровом сверхразуме, который действительно представляет опасность для общества, то правительство должно сыграть свою роль в защите общества».

По его словам, хотя в «Силиконовой долине» есть люди, которые верят, что это подавит инновации и замедлит их, Маск заверил, что правила будут «раздражать», но иметь того, кого он назвал «рефери», будет хорошо.

«Правительство должно быть судьей, чтобы следить за спортивным поведением и общественной безопасностью, потому что иногда я думаю, что в отношении технологий слишком много оптимизма».

С момента быстрого появления ИИ в мейнстриме правительства во всем мире спешат найти подходящие решения для регулирования этой технологии.