Сем Альтман, генеральний директор OpenAI і співзасновник Worldcoin, нещодавно дав свідчення перед Конгресом разом із керівником трасту IBM Крістіною Монтгомері та професором Нью-Йоркського університету Гері Маркусом.
Засідання судового підкомітету Сенату стало першою офіційною появою Альтмана перед Конгресом, давши сенаторам можливість поставити генеральному директору OpenAI питання про погляди його компанії на регулювання.
'If this technology goes wrong, it can go quite wrong.'
OpenAI CEO Sam Altman admitted during a Senate hearing that his 'worst fears' are causing 'significant harm to the world' via developing tech. pic.twitter.com/RROe9DnR2U
— NowThis (@nowthisnews) May 16, 2023
Сенатор від штату Іллінойс Дік Дурбін назвав «історичною» сесію. Засідання було зосереджено на розумінні потенційних загроз, створених генеративними моделями ШІ, такими як ChatGPT, і на тому, як законодавці мають підходити до регулювання.
Коментарі Альтмана, які члени Конгресу та колега-спікер Гері Маркус назвали щирими та непідробними, здивували кількох членів Сенату.
Він виступав за створення федерального наглядового агентства з повноваженнями видавати та скасовувати ліцензії на розробку, заявив, що, на його думку, творці повинні отримувати компенсацію, коли їхня робота використовується для навчання системи ШІ, і погодився, що споживачі, які зазнають шкоди, використовуючи продукти ШІ, повиннімати право подати до суду на забудовника.
Альтман відмахнувся від запитань, пов’язаних із нещодавнім листом «призупинення штучного інтелекту» із закликом до шестимісячного мораторію на розгортання систем, потужніших за GPT-4, систему штучного інтелекту, що лежить в основі ChatGPT, заявивши, що OpenAI витрачав більше шести місяців на оцінку GPT.-4 до розгортання. Він сказав, що компанія не планує розгортати іншу модель протягом наступних шести місяців.
Гарі Маркус, який підписав лист про призупинення, визнав, що більше погоджується з духом листа, ніж із його змістом, але закликав Конгрес розглянути глобальний нагляд, а також федеральне регулювання — з цим погодився Альтман.
Протягом слухань троє запрошених доповідачів погоджувалися щодо більшості тем. Це включало підтримку захисту конфіденційності, посилення державного нагляду, аудит третьої сторони та те, як скоро уряд США має прагнути регулювати галузь (негайно).
Senator Lindsey Graham asks the witnesses at the hearing on artificial intelligence regulation if there should be an agency to license and oversee AI tools.
All say yes, but IBM Chief Privacy & Trust Officer Christina Montgomery has stipulations: pic.twitter.com/UD7R8N7s23
— Yahoo Finance (@YahooFinance) May 16, 2023
Однак одним із єдиних джерел розбіжностей стала Крістіна Монтгомері з IBM, яка не погоджувалася з думкою про те, що нове федеральне агентство буде необхідним для забезпечення виконання правил у галузі ШІ.
Її заяви свідчать про те, що IBM виступає за хірургічний підхід до регулювання з використанням існуючих регуляторних органів, щоб зосередити контроль на конкретних випадках використання.
Хоча всі три доповідачі погодилися, що штучний інтелект може бути шкідливим і вимагає заходів безпеки, Маркус чітко дав зрозуміти, що вважає, що наразі ніхто не розуміє або не може передбачити, наскільки шкідливими можуть бути або стануть існуючі продукти ШІ. Він виступав за обережний підхід, що передбачає більшу прозорість.
'We have built machines that are like bulls in a china shop: powerful, reckless, and difficult to control.'
NYU Professor Gary Marcus sounded the alarm during a Senate hearing Tuesday on the emerging threats of AI. pic.twitter.com/d2b2kdJBWK
— NowThis (@nowthisnews) May 16, 2023
Доповідачі також погодилися з членами Конгресу, що США потребують національного закону про конфіденційність, подібного до європейського. Альтман, однак, не погоджується з думкою про те, що споживачі повинні мати можливість відмовитися від включення своїх загальнодоступних веб-даних до навчальних наборів даних.
Альтман також не хотів офіційно заявляти, що OpenAI виступає проти пропозиції рекламної версії своїх продуктів GPT. Генеральний директор просто заявив, що «не скаже ніколи».
Це незважаючи на те, що раніше під час слухань було сказано, що продукти OpenAI відповідають стандартам конфіденційності споживачів, оскільки компанія не створювала профілі користувачів для показу персоналізованої реклами.
Посилаючись на свій досвід випускника Стенфордського університету та законодавця, який працював із компаніями DeFi та Web3, сенатор від Нью-Джерсі Корі Букер підняв більш серйозну проблему конфіденційності централізації. Він запитав, якими будуть наслідки централізації та монополізації для галузі, на це запитання Маркус відповів серйозним попередженням, що ми можемо ризикувати передати контроль над суспільним сприйняттям невеликій кількості учасників — великим технологічним компаніям, які мають достатньо грошей, щобконкурувати з Microsoft, Google і Amazon.
Альтман, чий проект Worldcoin поєднує в собі децентралізований криптовалютний актив у блокчейні Ethereum із автентифікацією особи за допомогою технології сканування райдужної оболонки ока, пояснив, що OpenAI лише забезпечив платформу, і що демократизація продуктів OpenAI відбулася, коли розробники, компанії та кінцеві користувачі адаптували GPT. API для «фантастичного» використання.
За темою: Генеральний директор OpenAI веде «передові переговори» про фінансування Worldcoin у розмірі 100 мільйонів доларів США: звіт
