Когда система генеративного искусственного интеллекта (ИИ) выдает что-то поразительно похожее на данные, на которых она обучалась, является ли это нарушением авторских прав или ошибкой в системе?Именно этот вопрос лежит в основе недавнего иска New York Times против производителя ChatGPT OpenAI.
The Times утверждает, что OpenAI использовала больше контента с веб-сайта NYT для обучения своих моделей искусственного интеллекта, чем практически любой другой собственный источник — и только Википедия и наборы данных, содержащие патентные документы США, превосходят его.
OpenAI заявляет, что обучение работе с данными, защищенными авторским правом, является «добросовестным использованием», а иск New York Times «необоснован».
We build AI to empower people, including journalists.
Our position on the @nytimes lawsuit:
• Training is fair use, but we provide an opt-out
• "Regurgitation" is a rare bug we're driving to zero
• The New York Times is not telling the full storyhttps://t.co/S6fSaDsfKb— OpenAI (@OpenAI) January 8, 2024
Ставки
Иск может быть урегулирован во внесудебном порядке, он может закончиться возмещением ущерба, увольнением или множеством других результатов. Но помимо финансовой помощи или судебных запретов (которые можно считать временными, ожидающими апелляции или инициируемыми в случае неудачи апелляции), последствия могут повлиять на американское общество в целом с потенциальными глобальными последствиями за его пределами.
Во-первых, если бы суды пришли к выводу в пользу OpenAI, что обучение систем ИИ на материалах, защищенных авторским правом, является добросовестным использованием, это могло бы оказать существенное влияние на правовую систему США.
Как недавно написал в The Conversation старший преподаватель Королевского колледжа Майк Кук:
«Если вы использовали ИИ для ответа на электронные письма или подведения итогов работы, вы можете рассматривать ChatGPT как цель, оправдывающую средства. Однако нас, возможно, должно беспокоить то, что единственным способом добиться этого является освобождение конкретных корпоративных предприятий от законов, применимых ко всем остальным.
The New York Times утверждает, что такое освобождение представляет собой явную угрозу ее бизнес-модели.
OpenAI признала, что в ChatGPT есть «ошибка», из-за которой он иногда выводит отрывки текста, поразительно похожие на существующие произведения, защищенные авторским правом. По мнению Times, это может послужить обходу платного доступа, лишить компанию доходов от рекламы и повлиять на ее способность выполнять свои основные функции.
Согласно иску, если OpenAI будет разрешено продолжать обучение по материалам, защищенным авторским правом, без ограничений, долгосрочные последствия для New York Times и любых других журналистских изданий, чья работа может быть использована для обучения систем искусственного интеллекта, могут быть катастрофическими.
То же самое можно сказать и о других областях, где материалы, защищенные авторским правом, приносят прибыль, включая кино, телевидение, музыку, литературу и другие виды печатных СМИ.
С другой стороны, в документах, представленных в комитет по коммуникациям и цифровым технологиям Палаты лордов Великобритании, OpenAI заявила, что «было бы невозможно обучать сегодняшние ведущие модели ИИ без использования материалов, защищенных авторским правом».
Фирма AI добавила:
«Ограничение обучающих данных книгами и рисунками, являющимися общественным достоянием, созданными более века назад, могло бы стать интересным экспериментом, но не позволило бы создать системы искусственного интеллекта, отвечающие потребностям сегодняшних граждан».
Черный ящик
Еще больше усложняет ситуацию тот факт, что компромисс может быть трудно найти. OpenAI предприняла шаги, чтобы запретить ChatGPT и другим продуктам выводить материалы, защищенные авторским правом, но нет никаких технологических гарантий, что она не будет продолжать это делать.
Модели искусственного интеллекта, такие как ChatGPT, называются системами «черного ящика». Это связано с тем, что создающие их разработчики не имеют возможности точно знать, почему система генерирует выходные данные.
Из-за этого черного ящика и метода обучения больших языковых моделей, таких как ChatGPT, невозможно исключить данные New York Times или любого другого правообладателя после обучения модели.
Связанный: OpenAI сталкивается с новым иском о нарушении авторских прав через неделю после иска NYT
Учитывая современные технологии и методы, существует значительная вероятность того, что OpenAI придется удалить ChatGPT и начать все сначала, если бы ему было полностью запрещено использовать материалы, защищенные авторским правом. В конечном итоге это может оказаться слишком дорогим и неэффективным, чтобы оно имело смысл.
OpenAI надеется справиться с этой проблемой, предлагая партнерство новостным и медиа-организациям, а также обещая продолжить работу по устранению «ошибки» срыгивания.
Самый худший сценарий
Наихудшим сценарием для области искусственного интеллекта будет потеря возможности монетизировать модели, обученные на материалах, защищенных авторским правом. Хотя это не обязательно повлияет, например, на усилия, связанные с беспилотными автомобилями или системами искусственного интеллекта, используемыми для проведения суперкомпьютерного моделирования, это может сделать генеративные продукты, такие как ChatGPT, незаконными для вывода на рынок.
А что касается правообладателей, то худшим случаем будет заявление суда о том, что материалы, защищенные авторским правом, могут свободно использоваться для обучения систем искусственного интеллекта.
Теоретически это могло бы дать компаниям, занимающимся искусственным интеллектом, свободу распространения слегка измененных материалов, защищенных авторским правом, при этом конечные пользователи будут нести юридическую ответственность за любые случаи, когда модификации не соответствуют юридическим требованиям во избежание нарушения авторских прав.
