Безудержное использование искусственного интеллекта в финансовой системе может привести к ужасным результатам, заявил писатель, философ и профессор истории Юваль Ноа Харари перед аудиторией на инновационном саммите Банка международных расчетов (BIS). По его словам, необходимы сильные институты, чтобы держать ИИ под контролем.
Финансовая система создает доверие, утверждает Харари. Деньги, облигации и другие финансовые инструменты позволяют миллионам незнакомцев работать вместе для достижения общих целей. Но не было предпринято никаких усилий, чтобы сделать финансовое регулирование понятным «для людей», сказал он:
«Может быть, 1% населения понимает, как работает финансовая система. Что произойдет, когда это число упадет до нуля?»
Харари назвал финансовый кризис 2007-2008 годов результатом непостижимых финансовых инноваций. Регуляторы не смогли достаточно хорошо понять новые финансовые продукты, чтобы регулировать их.
Связанный: Децентрализованный ИИ — ключ к более объективным алгоритмам ИИ — соучредитель Маса
ИИ — это инопланетная форма интеллекта, которая находится только в начале своей эволюции. Он не рассуждает так, как это делают люди, и может легко создать финансовые механизмы, которые выходят за рамки человеческого воображения, передавая власть от политиков и регуляторов алгоритмам. Доверительные отношения будут строиться между системами ИИ, а не между людьми, и в условиях финансового кризиса политики и регулирующие органы будут вынуждены доверять ИИ.
Нарушение доверительных отношений может привести к социальной нестабильности. Доверие к политикам и институтам уже падает, отметил Харари, добавив:
«Нам необходимо не допустить, чтобы ИИ стал совершенно непостижимым.[…] Нам нужна способность понимать это и регулировать».
Регулирование не следует оставлять гениям или «харизматическим лидерам», продолжил Харари. Только институты могут «держать людей в курсе».
Но даже в этом случае существуют опасности. Инновации, меняющие мир, часто оказываются успешными только после серии неудачных попыток их использования. Харари охарактеризовал империализм, коммунизм и нацизм как неудачные попытки построить индустриальное общество, унесшие десятки миллионов жертв. Между тем, ИИ способен придумывать идеи о том, как себя использовать.
Харари сказал, что регулирующим органам необходимо сконцентрироваться на укреплении большего доверия между людьми, чтобы гарантировать, что будущая финансовая система будет стабильной и дружелюбной к людям.
