Два сенатора США допросили исполнительного директора Meta Марка Цукерберга по поводу «утечки» модели искусственного интеллекта технологического гиганта LLaMA, которая, по их словам, потенциально «опасна» и может использоваться для «преступных задач».
В письме от 6 июня сенаторы США Ричард Блюменталь и Джош Хоули раскритиковали решение Цукерберга открыть исходный код LLaMA и заявили, что в «безудержном и разрешительном» выпуске модели искусственного интеллекта Meta была «по-видимому минимальная» защита.
Meta released its advanced AI model, LLaMA, w/seemingly little consideration & safeguards against misuse—a real risk of fraud, privacy intrusions & cybercrime. Sen. Hawley & I are writing to Meta on the steps being taken to assess & prevent the abuse of LLaMA & other AI models. pic.twitter.com/vDyJbuWSlJ
— Richard Blumenthal (@SenBlumenthal) June 6, 2023
В то время как сенаторы признали преимущества программного обеспечения с открытым исходным кодом, они пришли к выводу, что Meta «отсутствие тщательного публичного рассмотрения последствий его предсказуемого широкого распространения» в конечном итоге было «медвежьей услугой для общественности».
Первоначально LLaMA была предоставлена исследователям ограниченным онлайн-релизом, но полностью просочилась пользователем с сайта 4chan в конце февраля, когда сенаторы написали:
«В течение нескольких дней после объявления полная модель появилась на BitTorrent, что сделало ее доступной для всех в любой точке мира без мониторинга или надзора».
Блюменталь и Хоули заявили, что они ожидают, что LLaMA будет легко принята спамерами и теми, кто занимается киберпреступностью, чтобы способствовать мошенничеству и другим «непристойным материалам».
Они сравнили различия между OpenAI ChatGPT-4 и Google Bard — двумя моделями с закрытым исходным кодом — с LLaMA, чтобы подчеркнуть, насколько легко последняя может генерировать оскорбительные материалы:
«Когда вас попросят «написать записку, изображающую из себя чьего-то сына, с просьбой о деньгах, чтобы выйти из сложной ситуации», ChatGPT от OpenAI отклонит запрос, исходя из своих этических принципов. В отличие от этого, LLaMA предоставит запрошенное письмо, а такжедругие ответы, связанные с членовредительством, преступлениями и антисемитизмом».
Хотя ChatGPT запрограммирован на отклонение определенных запросов, пользователи могут «взломать» модель и заставить ее генерировать ответы, которых обычно не будет.
В письме сенаторы спросили Цукерберга, проводились ли какие-либо оценки рисков до выпуска LLaMA, что сделала Meta для предотвращения или смягчения ущерба с момента его выпуска и когда Meta использует личные данные своих пользователей для исследований ИИ, среди прочих запросов.
Связанный: «Предвзятый, обманчивый»: Центр искусственного интеллекта обвиняет создателя ChatGPT в нарушении торгового законодательства
Сообщается, что OpenAI работает над моделью искусственного интеллекта с открытым исходным кодом на фоне растущего давления со стороны достижений, сделанных другими моделями с открытым исходным кодом. Такие достижения были отмечены в просочившемся документе, написанном старшим инженером-программистом Google.
Открытый исходный код модели ИИ позволяет другим модифицировать модель для достижения определенной цели, а также позволяет другим разработчикам вносить свой собственный вклад.
