Сэм Альтман, генеральный директор OpenAI и соучредитель Worldcoin, недавно дал показания перед Конгрессом вместе с главой траста IBM Кристиной Монтгомери и профессором Нью-Йоркского университета Гэри Маркусом.
Заседание судебного подкомитета Сената стало первым официальным выступлением Альтмана перед Конгрессом, что дало сенаторам возможность задать генеральному директору OpenAI взгляды его компании на регулирование.
'If this technology goes wrong, it can go quite wrong.'
OpenAI CEO Sam Altman admitted during a Senate hearing that his 'worst fears' are causing 'significant harm to the world' via developing tech. pic.twitter.com/RROe9DnR2U
— NowThis (@nowthisnews) May 16, 2023
Названная сенатором от Иллинойса Диком Дурбином «исторической» сессия, слушания были сосредоточены на понимании потенциальных угроз, создаваемых генеративными моделями ИИ, такими как ChatGPT, и на том, как законодатели должны подходить к регулированию.
Комментарии Альтмана, которые члены Конгресса и его коллега-спикер Гэри Маркус охарактеризовали как кажущиеся искренними и искренними, похоже, застали врасплох нескольких членов сената.
Он выступал за создание федерального надзорного органа, наделенного полномочиями выдавать и отзывать лицензии на разработку, заявил, что, по его мнению, создатели должны получать компенсацию, когда их работа используется для обучения системы ИИ, и согласился с тем, что потребители, которым причинен вред при использовании продуктов ИИ, должнывправе подать в суд на застройщика.
Альтман проигнорировал вопросы, связанные с недавним письмом о приостановке ИИ, призывающим к шестимесячному мораторию на развертывание систем, более мощных, чем GPT-4, система ИИ, лежащая в основе ChatGPT, заявив, что OpenAI потратил более шести месяцев на оценку GPT.-4 перед деплойментом. Он сказал, что компания не планирует развертывать другую модель в течение следующих шести месяцев.
Гэри Маркус, подписавший письмо о паузе, признал, что согласен больше с духом письма, чем с его содержанием, но призвал Конгресс рассмотреть вопрос о глобальном надзоре, а также о федеральном регулировании — мнение, с которым согласился Альтман.
На протяжении всего слушания трое приглашенных докладчиков сошлись во мнении по большинству тем. Это включало поддержку защиты конфиденциальности, усиление государственного надзора, сторонний аудит и то, как скоро правительство США должно попытаться отрегулировать отрасль (немедленно).
Senator Lindsey Graham asks the witnesses at the hearing on artificial intelligence regulation if there should be an agency to license and oversee AI tools.
All say yes, but IBM Chief Privacy & Trust Officer Christina Montgomery has stipulations: pic.twitter.com/UD7R8N7s23
— Yahoo Finance (@YahooFinance) May 16, 2023
Тем не менее, один из источников разногласий исходил от Кристины Монтгомери из IBM, которая не согласилась с мнением о необходимости создания нового федерального агентства для обеспечения соблюдения правил в индустрии искусственного интеллекта.
Ее заявления показывают, что IBM выступает за хирургический подход к регулированию с использованием существующих в настоящее время регулирующих органов, чтобы сосредоточить правоприменение на конкретных случаях использования.
Хотя все три выступавших согласились с тем, что ИИ может быть вредным и требует мер безопасности, Маркус ясно дал понять, что, по его мнению, в настоящее время никто не понимает и не может предсказать, насколько вредными могут быть или станут существующие продукты ИИ. Он выступал за осторожный подход, предполагающий большую прозрачность.
'We have built machines that are like bulls in a china shop: powerful, reckless, and difficult to control.'
NYU Professor Gary Marcus sounded the alarm during a Senate hearing Tuesday on the emerging threats of AI. pic.twitter.com/d2b2kdJBWK
— NowThis (@nowthisnews) May 16, 2023
Выступавшие также согласились с членами Конгресса в том, что США нужен национальный закон о конфиденциальности, аналогичный европейским. Однако Альтман не согласился с тем, что потребители должны иметь возможность отказаться от включения своих общедоступных веб-данных в обучающие наборы данных.
Альтман также не стал официально заявлять, что OpenAI возражает против предложения версии своих продуктов GPT на основе рекламы. Генеральный директор просто заявил, что «никогда не скажет».
И это несмотря на то, что ранее в ходе слушаний было сказано, что продукты OpenAI соответствуют стандартам конфиденциальности потребителей, поскольку компания не создавала профили пользователей для показа адаптированной рекламы.
Ссылаясь на свой опыт выпускника Стэнфорда и депутата, работавшего с компаниями DeFi и Web3, сенатор от Нью-Джерси Кори Букер поднял более важную проблему централизации конфиденциальности. Он спросил, каковы будут последствия централизации и монополизации для отрасли, и Маркус ответил на этот вопрос серьезным предупреждением о том, что мы рискуем передать контроль над общественным мнением небольшому числу участников — крупным технологическим компаниям, у которых достаточно денег, чтобыконкурируют с Microsoft, Google и Amazon.
Альтман, чей проект Worldcoin сочетает в себе децентрализованный актив криптовалюты на блокчейне Ethereum с аутентификацией личности с помощью технологии сканирования радужной оболочки глаза, объяснил, что OpenAI просто предоставил платформу, и что демократизация продуктов OpenAI произошла, когда разработчики, компании и конечные пользователи адаптировали GPT. API для «фантастического» использования.
Связанный: Генеральный директор OpenAI ведет «предварительные переговоры» о финансировании Worldcoin на 100 миллионов долларов: отчет
