Філософ Юваль Ной Харарі попереджає про ризики ШІ у фінансах

Нестримне використання штучного інтелекту у фінансовій системі може призвести до жахливих результатів, сказав письменник, філософ і професор історії Ювал Ной Харарі аудиторії на саміті інновацій Банку міжнародних розрахунків (BIS). За його словами, необхідні сильні інституції, щоб тримати ШІ під контролем.

Харарі стверджував, що фінансова система створює довіру. Гроші, облігації та інші фінансові інструменти дозволяють мільйонам незнайомців працювати разом для досягнення спільних цілей. Але не було зроблено жодних зусиль, щоб зробити фінансове регулювання зрозумілим «людям», сказав він:

«Можливо, 1% населення розуміє, як працює фінансова система. Що станеться, коли це число зменшиться до нуля?»

Харарі назвав фінансову кризу 2007-2008 років результатом незрозумілих фінансових інновацій. Регулятори не змогли достатньо добре зрозуміти нові фінансові продукти, щоб регулювати їх.

За темою: децентралізований штучний інтелект є ключем до більш неупереджених алгоритмів штучного інтелекту — співзасновник Masa

ШІ – це інопланетна форма інтелекту, яка лише на початку своєї еволюції. Він не міркує так, як це роблять люди, і міг би легко створювати фінансові пристрої, які виходять за межі людської уяви, передаючи владу від політиків і регуляторів до алгоритмів. Довірчі відносини будуть будуватися між системами ШІ, а не між людьми, і в умовах фінансової кризи політики та регулятори будуть змушені довіряти ШІ.

Це порушення довірчих відносин може призвести до соціальної нестабільності. Довіра до політиків та інституцій вже падає, зазначив Харарі, додавши:

«Ми повинні запобігти тому, щоб ШІ став абсолютно незбагненним.[…] Нам потрібна здатність це зрозуміти та регулювати».

Регулювання не слід залишати геніям чи «харизматичним лідерам», – продовжив Харарі. Тільки інституції можуть «тримати людей в курсі».

Навіть тоді існують небезпеки. Інновації, що змінюють світ, часто досягають успіху лише після низки невдалих спроб їх використання. Харарі описав імперіалізм, комунізм і нацизм як невдалі спроби побудувати індустріальні суспільства — з десятками мільйонів жертв. Тим часом ШІ здатний придумати ідеї щодо того, як використовувати себе.

Харарі сказав, що регулятори повинні зосередитися на зміцненні довіри між людьми, щоб гарантувати, що майбутня фінансова система буде стабільною та дружньою до людей.