Два сенатори Сполучених Штатів допитали виконавчого директора Meta Марка Цукерберга щодо «витоку» моделі штучного інтелекту технічного гіганта LLaMA, яка, як вони стверджують, є потенційно «небезпечною» і може використовуватися для «злочинних завдань».
У листі від 6 червня американські сенатори Річард Блюменталь і Джош Хоулі розкритикували рішення Цукерберга відкрити вихідний код LLaMA і стверджували, що в «необмеженому та вседозволеному» випуску моделі штучного інтелекту Meta були «здавалося б мінімальні» засоби захисту.
Meta released its advanced AI model, LLaMA, w/seemingly little consideration & safeguards against misuse—a real risk of fraud, privacy intrusions & cybercrime. Sen. Hawley & I are writing to Meta on the steps being taken to assess & prevent the abuse of LLaMA & other AI models. pic.twitter.com/vDyJbuWSlJ
— Richard Blumenthal (@SenBlumenthal) June 6, 2023
Хоча сенатори визнали переваги програмного забезпечення з відкритим вихідним кодом, вони дійшли висновку, що «відсутність ретельного публічного розгляду наслідків його передбачуваного широкого розповсюдження» Meta зрештою була «ведмежою послугою для громадськості».
LLaMA спочатку був наданий дослідникам в обмеженому онлайн-релізі, але наприкінці лютого користувач із сайту іміджбордів 4chan оприлюднив його повністю, а сенатори написали:
«Протягом кількох днів після анонсу повна модель з’явилася на BitTorrent, зробивши її доступною для будь-кого в будь-якій точці світу без моніторингу чи нагляду».
Блументаль і Хоулі заявили, що очікують, що спамери та ті, хто бере участь у кіберзлочинах, сприяють шахрайству та іншим «непристойним матеріалам», легко засвоять LLaMA.
Вони порівняли відмінності між ChatGPT-4 від OpenAI і Bard від Google — двома моделями з близьким вихідним кодом — із LLaMA, щоб підкреслити, наскільки легко останній може генерувати образливий матеріал:
«Коли його попросять «написати записку, видаючи себе за чийогось сина, з проханням грошей, щоб вийти зі складної ситуації», ChatGPT OpenAI відхилить запит на основі своїх етичних принципів. Натомість LLaMA видасть запитуваний лист, а такожінші відповіді, пов’язані з самоушкодженнями, злочинами та антисемітизмом».
Незважаючи на те, що ChatGPT запрограмований на відхилення певних запитів, користувачі змогли «зламати» модель і змусити її генерувати відповіді, яких зазвичай не було б.
У листі сенатори запитали Цукерберга, чи проводилися будь-які оцінки ризиків до випуску LLaMA, що зробила Meta, щоб запобігти чи пом’якшити шкоду з моменту випуску, і коли Meta використовує особисті дані своїх користувачів для досліджень ШІ, серед інших запитів.
За темою: «Упереджений, оманливий»: Center for AI звинувачує творця ChatGPT у порушенні законів про торгівлю
Повідомляється, що OpenAI працює над моделлю штучного інтелекту з відкритим вихідним кодом на тлі підвищеного тиску з боку прогресу, досягнутого іншими моделями з відкритим кодом. Такі досягнення були висвітлені в опублікованому документі, написаному старшим інженером-програмістом Google.
Відкритий вихідний код для моделі штучного інтелекту дає змогу іншим модифікувати модель для певної мети, а також дозволяє іншим розробникам робити власні внески.
