ЕС заявляет, что ChatGPT выдает слишком много ложной информации, чтобы соответствовать правилам

Европейский совет по защите данных (EDPB) опубликовал первый отчет о ходе работы своей «рабочей группы GPT», и эта новость не очень хорошая для ChatGPT.

Усилия OpenAI по приведению своей флагманской модели искусственного интеллекта ChatGPT в соответствие с правилами Европейского Союза (ЕС), включая всеобъемлющий Общий регламент по защите данных (GDPR), были отмечены EDPB, но в конечном итоге сочтены недостаточными.

Согласно документу EDPB:

«Хотя меры, принятые для соблюдения принципа прозрачности, полезны и позволяют избежать неправильной интерпретации результатов ChatGPT, их недостаточно для соблюдения».

Результаты получены после того, как OpenAI провела большую часть 2024 года, работая с временными стоп-приказами от нескольких европейских государств-членов.

Как сообщалось еще в январе, итальянское агентство по защите данных обнаружило, что ChatGPT и OpenAI по-прежнему нарушают законы Италии и ЕС о конфиденциальности данных, несмотря на то, что были предупреждены и впоследствии запрещены еще в марте 2023 года.

Согласно отчету EDPB, с тех пор OpenAI не сделала достаточно для приведения ChatGPT в соответствие с законами ЕС.

Основная жалоба, по-видимому, заключается в том, что ChatGPT склонен выдавать неточную информацию.

«На самом деле, — пишет EDPB, — из-за вероятностной природы системы нынешний подход к обучению приводит к модели, которая также может давать предвзятые или вымышленные выходные данные».

В отчете также выражается обеспокоенность EDPB по поводу того, что «выходные данные, предоставленные ChatGPT, скорее всего, будут восприняты конечными пользователями как фактически точные», независимо от того, точны они или нет.

В настоящее время неясно, как именно OpenAI сможет привести ChatGPT в соответствие. Например, модель GPT-4 содержит миллиарды точек данных и где-то около триллиона параметров. Людям было бы невозможно прочесать набор данных, чтобы проверить его точность до такой степени, чтобы его можно было назвать достаточно точным по стандартам GDPR.

К несчастью для OpenAI, EDPB прямо написал, что «в частности, нельзя ссылаться на техническую невозможность для оправдания несоблюдения этих требований».

Связанный: OpenAI приостанавливает голос ChatGPT, обвиненный в подражании Скарлетт Йоханссон