Модели искусственного интеллекта (ИИ) развиваются удивительными темпами. Крупные разработчики добились значительных успехов в улучшении способности этих моделей понимать сложные запросы и предоставлять более содержательные и аргументированные ответы.
Это было подчеркнуто в объявлении от 12 сентября OpenAI, создателей широко известной модели ChatGPT, относительно их новой модели «Strawberry».
Эта разработка, также известная как серия моделей OpenAI o1, позволит людям больше думать о проблемах, прежде чем реагировать, «так же, как это сделал бы человек».
We're releasing a preview of OpenAI o1—a new series of AI models designed to spend more time thinking before they respond.
These models can reason through complex tasks and solve harder problems than previous models in science, coding, and math. https://t.co/peKzzKX1bu
— OpenAI (@OpenAI) September 12, 2024
По словам разработчика, модели также смогут «совершенствовать свой мыслительный процесс, пробовать разные стратегии и признавать свои ошибки».
Хотя ИИ, конечно, не захватывает мир, и это не является целью тех, кто разрабатывает технологию, быстрое развитие технологии заставляет законодателей беспокоиться о возможности контролировать указанные модели, если они выйдут из строя, и внедрять меры безопасности на этапах разработки..
Счета на столе
На прошлой неделе законодатели Калифорнии продолжали принимать законопроекты, связанные с искусственным интеллектом, которые затрагивают жителей и застройщиков Калифорнии.
Сюда входит законопроект о Ассамблее 1836, запрещающий несанкционированное создание с помощью ИИ копий умерших личностей без предварительного согласия для защиты прав и изображений исполнителей.
Однако одним из основных законопроектов, оспариваемых среди инсайдеров отрасли, является законопроект Сената (SB)-1047, также известный как «Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта».
В случае принятия законопроект в основном повлияет на крупных разработчиков ИИ, таких как OpenAI, Google и Microsoft, у которых есть ресурсы для разработки моделей ИИ, требующих более 10 ^ 26 операций с целыми числами или с плавающей запятой (FLOP) и стоимостью более 100 миллионов долларов.
По теме: Руководители ИИ посетили Белый дом, чтобы обсудить энергетическую инфраструктуру
Разработчикам придется обучать и дорабатывать модели для реализации функций безопасности, изложенных в законопроекте. Сюда входят возможности отключения модели ИИ, создание и сохранение письменного протокола безопасности, обеспечение ежегодных проверок третьих сторон, а также подача заявлений о соответствии и отчетов об инцидентах генеральному прокурору Калифорнии.
Законопроект сталкивается с негативной реакцией со стороны разработчиков всех размеров в отрасли, которые говорят, что он душит инновации. Коинтелеграф поговорил с Диной Бликштейн, партнером юридической фирмы Haynes Boone, чтобы понять, как это могло произойти.
Влияние на разработчиков
Бликштейн сказал, что законопроект может также распространяться на мелких разработчиков, настраивающих модели искусственного интеллекта с вычислительной мощностью, большей или равной в три раза 10^25 целым числом или FLOP, и могут позволить себе доступ в размере 10 миллионов долларов.
«Законопроект направлен на предотвращение катастроф, вызванных моделями искусственного интеллекта, в частности, за счет реализации возможностей отключения», — сказала она.
«Однако это не может полностью устранить риски, поскольку модель ИИ может вызвать цепную реакцию с вредными последствиями даже после остановки».
Она также отметила, что:
«Хотя намерения законопроекта положительны, требования к протоколам безопасности, аудиту и отчетам о соответствии могут рассматриваться как чрезмерные, потенциально навязывающие обременительное раскрытие информации и бюрократические требования, которые могут препятствовать инновациям в калифорнийской индустрии искусственного интеллекта».
В настоящее время в Соединенных Штатах нет федеральной системы регулирования результатов моделей ИИ. Однако Бликштейн отмечает, что такие штаты, как Калифорния и Колорадо, принимают свои собственные правила.
Правила, действующие на посту губернатора Гэвина Ньюсома, затронут калифорнийцев, которые обучаются и получают доступ к рассматриваемым моделям ИИ.
«У более крупных компаний, занимающихся искусственным интеллектом, будет больше рабочей силы для выполнения требований законопроекта, — отметила она, — что можно считать истощением ресурсов более мелких компаний».
«Хотя крупные компании, занимающиеся искусственным интеллектом, вряд ли покинут Калифорнию, различия в законах штатов и отсутствие федерального контроля могут подтолкнуть более мелких разработчиков к переезду или проведению работы в области искусственного интеллекта в штатах с меньшим количеством правил управления искусственным интеллектом».
Калифорния лидирует в законодательстве
Тем не менее, Бликштейн подчеркивает то, что многие в отрасли считают истиной: «Законодательство на федеральном уровне, устанавливающее основные требования к мощным моделям ИИ, было бы полезно как для потребителей, так и для разработчиков. Это также послужит основой для всех штатов относительно того, каковы эти требования».
SB-1047 был представлен губернатору Ньюсому 9 сентября и все еще ожидает решения. Ньюсом прокомментировал законопроект, заявив, что он работает над «рациональным регулированием, которое поддерживает риск, но не безрассудство». Однако он также выразил обеспокоенность по поводу потенциального воздействия на конкурентоспособность. Поскольку Калифорния является мировым лидером в области технологических инноваций, за ее юридическими решениями в отношении ИИ весь мир наблюдает, затаив дыхание.
AI Eye: план «адского пейзажа» дронов с искусственным интеллектом для Тайваня, магистратуры слишком глупы, чтобы уничтожить человечество
