Сенатори обурили Цукерберга Мети через «витік» моделі штучного інтелекту LLaMA

Два сенатори Сполучених Штатів допитали виконавчого директора Meta Марка Цукерберга щодо «витоку» моделі штучного інтелекту технічного гіганта LLaMA, яка, як вони стверджують, є потенційно «небезпечною» і може використовуватися для «злочинних завдань».

У листі від 6 червня американські сенатори Річард Блюменталь і Джош Хоулі розкритикували рішення Цукерберга відкрити вихідний код LLaMA і стверджували, що в «необмеженому та вседозволеному» випуску моделі штучного інтелекту Meta були «здавалося б мінімальні» засоби захисту.

Meta released its advanced AI model, LLaMA, w/seemingly little consideration & safeguards against misuse—a real risk of fraud, privacy intrusions & cybercrime. Sen. Hawley & I are writing to Meta on the steps being taken to assess & prevent the abuse of LLaMA & other AI models. pic.twitter.com/vDyJbuWSlJ

— Richard Blumenthal (@SenBlumenthal) June 6, 2023

Хоча сенатори визнали переваги програмного забезпечення з відкритим вихідним кодом, вони дійшли висновку, що «відсутність ретельного публічного розгляду наслідків його передбачуваного широкого розповсюдження» Meta зрештою була «ведмежою послугою для громадськості».

LLaMA спочатку був наданий дослідникам в обмеженому онлайн-релізі, але наприкінці лютого користувач із сайту іміджбордів 4chan оприлюднив його повністю, а сенатори написали:

«Протягом кількох днів після анонсу повна модель з’явилася на BitTorrent, зробивши її доступною для будь-кого в будь-якій точці світу без моніторингу чи нагляду».

Блументаль і Хоулі заявили, що очікують, що спамери та ті, хто бере участь у кіберзлочинах, сприяють шахрайству та іншим «непристойним матеріалам», легко засвоять LLaMA.

Вони порівняли відмінності між ChatGPT-4 від OpenAI і Bard від Google — двома моделями з близьким вихідним кодом — із LLaMA, щоб підкреслити, наскільки легко останній може генерувати образливий матеріал:

«Коли його попросять «написати записку, видаючи себе за чийогось сина, з проханням грошей, щоб вийти зі складної ситуації», ChatGPT OpenAI відхилить запит на основі своїх етичних принципів. Натомість LLaMA видасть запитуваний лист, а такожінші відповіді, пов’язані з самоушкодженнями, злочинами та антисемітизмом».

Незважаючи на те, що ChatGPT запрограмований на відхилення певних запитів, користувачі змогли «зламати» модель і змусити її генерувати відповіді, яких зазвичай не було б.

У листі сенатори запитали Цукерберга, чи проводилися будь-які оцінки ризиків до випуску LLaMA, що зробила Meta, щоб запобігти чи пом’якшити шкоду з моменту випуску, і коли Meta використовує особисті дані своїх користувачів для досліджень ШІ, серед інших запитів.

За темою: «Упереджений, оманливий»: Center for AI звинувачує творця ChatGPT у порушенні законів про торгівлю

Повідомляється, що OpenAI працює над моделлю штучного інтелекту з відкритим вихідним кодом на тлі підвищеного тиску з боку прогресу, досягнутого іншими моделями з відкритим кодом. Такі досягнення були висвітлені в опублікованому документі, написаному старшим інженером-програмістом Google.

Відкритий вихідний код для моделі штучного інтелекту дає змогу іншим модифікувати модель для певної мети, а також дозволяє іншим розробникам робити власні внески.