Законодавці Каліфорнії просувають суперечливий законопроект про штучний інтелект, проти якого виступає OpenAI

Законодавці штату Каліфорнія висунули законопроект про безпеку штучного інтелекту (ШІ), який був предметом суперечок у технологічній індустрії, оскільки ключові гравці та обрані посадові особи виступили проти нього.

28 серпня законопроект Сенату (SB) 1047 був прийнятий Асамблеєю штату і тепер очікує останнього слова від губернатора штату Гевіна Ньюсома. Ньюсом матиме час до 30 вересня, щоб вирішити, чи підписувати його як закон чи накласти на нього вето.

Прийняття законодавства про ШІ

SB 1047 був написаний Скоттом Вінером, сенатором-демократом від Сан-Франциско. Вінер стверджує, що законодавство має бути введено в дію, перш ніж будь-які подальші досягнення ШІ стануть неконтрольованими.

Законопроект робить тестування на безпеку обов’язковим для більшості найсучасніших моделей ШІ;або ті, розробка яких коштує понад 100 мільйонів доларів, або ті, що перевищують певну обчислювальну потужність для роботи.

Це вимагатиме від розробників у штаті Каліфорнія, серед яких будуть відомі імена, як-от виробник ChatGPT OpenAI, Meta та Google, розробити схеми «перемикача вимкнення» для таких моделей, якщо вони стануть некерованими та сторонні аудитори залучатимуться до безпеки. аудити моделей.

Розробники також зможуть подати до суду генеральний прокурор штату в разі постійної загрози з боку моделей, як-от поглинання мережі AI.

SB 1047 поштовх назад

У той час як Вінер стверджує, що законопроект необхідний, щоб запобігти незворотній шкоді суспільству в результаті несправності систем ШІ, не всі підтримують SB 1047.

За темою: регулятори помиляються, намагаючись обмежити ШІ з відкритим кодом

Законопроект отримав суттєву підтримку з боку ключових гравців технологічної індустрії та державних політиків, заявивши, що він буде перешкоджати інноваторам штату.

Зокрема, почесний спікер Ненсі Пелосі прокоментувала законопроект, сказавши, що він «більш шкідливий, ніж корисний» у прагненні зробити Каліфорнію лідером у розробці ШІ.

Керівник політики ШІ в Abundance Institute Ніл Чілсон попередив, що хоча законопроект націлений на моделі певної вартості та калібру, він «працює шляхом спроби» створити стандарт «розумної обережності» для навчання ШІ.

Він сказав, що це може призвести до надмірного навантаження та також вплинути на менші компанії та моделі.

Особливо не сподобався цей законопроект технічним компаніям у цій галузі, а OpenAI виступив проти нього, заявивши, що він перешкоджатиме зростанню. Однак Вінер заперечив ці заяви.

Google і Meta Platforms також повідомили про свої занепокоєння губернатору Каліфорнії Ньюсому в листі.

Однак у перетягуванні думок щодо законопроекту компанія Amazon Anthropic продемонструвала підтримку, заявивши, що переваги «ймовірно переважать витрати», хоча в ньому все ще є деякі неоднозначні елементи.

Колишній професор інформатики в Carnegie Mellon і випускник адміністрації Обами, Ерік Даймлер сказав, що він «глибоко стурбований» безпекою ШІ, і закликав Вашингтон розглядати SB 1047 як приклад. Він також сказав, що вважає, що є «більш ефективний шлях вперед».

SB 1047 — не єдиний законопроект про штучний інтелект у Каліфорнії, який зараз обговорюється. SB 1220, який забороняє використання штучного інтелекту в кол-центрах, які надають соціальні та медичні послуги, такі як SNAP і Medicaid, також викликав питання в галузі.

Однак каліфорнійський AB 3211, який вимагав би водяних знаків на створеному штучним інтелектом контенті, отримав підтримку таких технологічних компаній, як OpenAI і Microsoft.

Мільярдер Ілон Маск, який розробляє свою модель Grok, висловився за широкі правила безпеки ШІ.

Cointelegraph звернувся до каліфорнійських юридичних експертів і розробників ШІ, щоб краще зрозуміти клімат навколо законопроектів.

AI Eye: план «пекельного пейзажу» дронів AI для Тайваню, LLM занадто тупі, щоб знищити людство