Anthropic бере участь у перетягуванні канату через законопроект про штучний інтелект у Каліфорнії

Законодавці по всій території Сполучених Штатів працюють над запровадженням правил для контролю над розробкою та розгортанням моделей штучного інтелекту високого рівня.

Розробник штучного інтелекту Anthropic приєднався до перетягування канату навколо законопроекту, запропонованого каліфорнійським сенатором Скоттом Вінером, заявивши, що його «переваги, ймовірно, переважують витрати».

SB 1047 розробки

У листі від 21 серпня губернатору Каліфорнії Гевіну Ньюсону, генеральному директору Anthropic, Даріо Амодей сказав, що відповідне законодавство, законопроект Сенату (SB) 1047, було «суттєво покращено», хоча все ще є деякі аспекти, які здаються «стосуються або неоднозначні».

«Наші початкові занепокоєння щодо того, що законопроект потенційно перешкоджає інноваціям через природу галузі, яка швидко розвивається, були значно зменшені в зміненій версії».

SB 1047 був представлений Wiener ще в лютому 2024 року. Він спрямований на обов’язкове та стандартизоване тестування безпеки для найдосконаліших моделей штучного інтелекту, розробка яких або коштує понад 100 мільйонів доларів США, або вимагає певної обчислювальної потужності.

Відповідно до законопроекту Вінера, розробникам програмного забезпечення штучного інтелекту в штаті Каліфорнія потрібно буде надати опис методів, за допомогою яких моделі можна буде вимкнути в екстрених випадках. Це часто називають «перемикачем вимкнення».

Пов’язане: OpenAI пропонує точне налаштування GPT-4o для компаній, які перебувають на службі ШІ

Розробникам програмного забезпечення штучного інтелекту, що працює в штаті, потрібно буде окреслити методи вимкнення моделей штучного інтелекту, якщо вони підуть не так, фактично вимикаючи перемикач. Крім того, законопроект надає генеральному прокурору штату можливість порушувати судові дії проти розробників, якщо буде встановлено, що вони не дотримуються закону.

Технічні компанії включаються

Законопроект нещодавно переглянув Wiener, який включав вплив Anthropic, серед інших технологічних компаній, щоб заспокоїти деякі скарги Big Tech. Одна з змін включала скасування створення урядового комітету з нагляду за ШІ.

Однак Вінер також активно висловлювався щодо протидії промисловості його законопроекту.22 серпня сенатор відповів на лист, написаний OpenAI губернатору Ньюсому, який виступав проти SB 1047.

Вінер назвав занепокоєння OpenAI «безпідставними», «втомленими» та «безпідставними». Він сказав, що законопроект має важливе значення для забезпечення громадської та національної безпеки, і його спантеличила поточна позиція OpenAI через її попередні зобов’язання щодо проведення таких оцінок безпеки.

Разом з OpenAI компанії Alphabet Google і Meta також надіслали Wiener листи із занепокоєнням. Meta стверджує, що законопроект загрожує зробити Каліфорнію менш гостинною для розробки та впровадження ШІ.