OpenAI и IBM представят доклад перед Конгрессом о паузе в развитии ИИ

Генеральный директор OpenAI Сэм Альтман впервые выступит перед Конгрессом 16 мая, чтобы обсудить регулирование искусственного интеллекта (ИИ) в Соединенных Штатах во время слушаний по надзору. Также будут давать показания вице-президент IBM по вопросам доверия и конфиденциальности Кристина Монтгомери и почетный профессор Нью-Йоркского университета Гэри Маркус.

https://twitter.com/GaryMarcus/status/1656316750529695745?ref_src=twsrc%5Etfw

Детали относительно повестки дня слушаний остаются скудными. Его название «Наблюдение за ИИ: правила для искусственного интеллекта» подразумевает, что обсуждение будет сосредоточено на безопасности и конфиденциальности, как и список запланированных участников.

Слушание ознаменует первое официальное свидетельство генерального директора OpenAI Сэма Альтмана перед Конгрессом, хотя недавно он присутствовал на круглом столе с вице-президентом Камалой Харрис в Белом доме вместе с генеральными директорами Alphabet, Microsoft и Anthropic.

К Альтману присоединятся вице-президент IBM по вопросам доверия и конфиденциальности Кристина Монтгомери, член Национального консультативного комитета США по искусственному интеллекту, и почетный профессор Нью-Йоркского университета Гэри Маркус, автор бестселлеров New York Times.

Маркус недавно произвел фурор в сообществе ИИ своей полной поддержкой инициативы сообщества «приостановить» разработку ИИ на шесть месяцев.

Связанный: Илон Маск и технические руководители призывают приостановить разработку ИИ

Идея приостановки работы ИИ была определена в открытом письме, опубликованном на сайте Future of Life Institute 22 марта. На момент публикации статьи под ней подписались более 27 500 человек.

Заявленная цель письма — «призвать все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4».

Сэм Альтман и Кристина Монтгомери входят в число противников паузы.

Со стороны Монтгомери, ее чувства были объяснены в подробном сообщении в блоге компании IBM, которое она написала под названием «Не приостанавливайте разработку ИИ, вместо этого уделите приоритетное внимание этике», в котором она привела доводы в пользу более точного подхода к регулированию ИИ:

«Полная пауза в обучении ИИ вместе с существующими тенденциями, которые, похоже, снижают приоритетность инвестиций в отраслевые усилия по этике ИИ, приведут только к дополнительному вреду и неудачам».

Согласно другому сообщению в блоге IBM, частично написанному Монтгомери, компания считает, что ИИ должен регулироваться на основе риска — стоит отметить, что, насколько нам известно, у IBM в настоящее время нет общедоступных моделей генеративного ИИ.

OpenAI, с другой стороны, отвечает за ChatGPT, возможно, самую популярную из существующих технологий искусственного интеллекта.

Согласно интервью с Лексом Фридманом на мероприятии в Массачусетском технологическом институте, Альтман, генеральный директор компании, поддерживает безопасную и этичную разработку систем искусственного интеллекта, но верит в необходимость «вовлечь всех в обсуждение» и «выпустить эти системы в мир».

Таким образом, Маркус остается единственным исключением, тем, кто был ярым сторонником паузы с момента ее создания. Хотя Маркус, по общему признанию, «не участвовал в составлении» письма о паузе, он все же написал сообщение в блоге под названием «Не пора ли нажать кнопку паузы в ИИ?»почти за месяц до публикации открытого письма.

Хотя предстоящие слушания в Сенате, вероятно, будут функционировать как не более чем форум, на котором члены Конгресса могут задавать вопросы, обсуждение может иметь разрушительные последствия — в зависимости от того, каким экспертам вы доверяете.

Если Конгресс решит, что регулирование ИИ заслуживает жесткой руки, такие эксперты, как Монтгомери, опасаются, что такие усилия могут оказать сдерживающее воздействие на инновации, не обязательно решая проблемы безопасности.

Этот вред может просочиться в операционные сектора, где технология GPT лежит в основе множества ботов и сервисов. Например, в мире финансовых технологий криптовалютные биржи адаптируют технологию чат-ботов для обслуживания своих клиентов, проведения сделок и анализа рынка.

Однако такие эксперты, как Маркус и Илон Маск, опасаются, что неспособность принять то, что они считают разумной политикой в ​​отношении надзора за ИИ, может привести к экзистенциальному кризису человечества.