Microsoft CSO прогнозирует процветание людей с помощью ИИ, но все же подписывает письмо о конце света.

Главный научный сотрудник Microsoft Эрик Хорвиц считает, что искусственный интеллект позволит людям будущего процветать, но, по-видимому, он подстраховывается.

30 мая Хорвиц опубликовал в официальном блоге Microsoft пост под названием «Размышления об ИИ и будущем человеческого процветания». GPT-4 перед публичным запуском.

Согласно сообщению в блоге, Хорвиц был удивлен возможностями OpenAI GPT-4, когда ему предоставили такой доступ в 2022 году:

«Я наблюдал неожиданные проблески интеллекта, превосходящие те, что были в предыдущих системах искусственного интеллекта. По сравнению со своим предшественником, GPT-3.5 — моделью, используемой десятками миллионов в качестве ChatGPT — я заметил значительный скачок в возможностях.

В частности, Хорвиц рекламировал «способность GPT-4 интерпретировать мои намерения и давать сложные ответы на многочисленные подсказки», что, по его словам, «ощущалось как« фазовый переход », вызывающий образы возникающих явлений, с которыми я сталкивался в физике».

Хорвиц пишет, что при тестировании GPT-4 «становилось все более очевидным, что модель и ее преемники […] обладают огромным потенциалом для преобразования».

Microsoft и OpenAI предоставили целому ряду экспертов ранний доступ к GPT-4 и запросили у них эссе в надежде определить возможности и проблемы, связанные с технологией во многих отраслях.

Связанный: ЕС и США должны настаивать на кодексе поведения ИИ: технический руководитель ЕС

Однако в тот же день, когда Хорвиц опубликовал сообщение с объявлением, его имя также появилось в качестве лица, подписавшего документ, опубликованный Центром безопасности ИИ.

Документ, который содержал только предисловие и одно предложение, был подписан списком подписантов, представляющих настоящих экспертов в области искусственного интеллекта (с горсткой известных противников, включая Янна Лекуна из Meta и Эндрю Нг, соучредителя Google Brain)..

В заявлении говорится: «Снижение риска исчезновения из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война».

Восприятие документа в социальных сетях несколько разделилось: многие эксперты расширяют свои причины для подписания, а другие обеспокоены тем, что беспокойство по поводу неопределенных рисков, таких как будущие системы ИИ с возможностями, которые в настоящее время невозможны, отвлекает от более важных вопросов..

It is amazing to see intellectuals and scientists embarking on this „ AI doomsday scenarios „ while ignoring the real devastation of climate change , rise of anti democratic forces and widening economic inequality which are unfolding in real time

— Ahmed El Hady (@zamakany) May 31, 2023

Хорвиц действительно рассматривает «проблемы», связанные с разработкой безопасного ИИ, в своем недавнем сообщении в блоге, а также признает свое «беспокойство» по поводу преобразующей природы технологии. Но там нет упоминания о потенциальном исчезновении.

Помимо искусственного интеллекта, Microsoft изучает другие зарождающиеся технологии. Компания недавно была одобрена для участия в пилотном проекте цифровой валюты центрального банка для центрального банка Бразилии вместе с Santander, Visa и несколькими другими кандидатами.