Автономні агенти ШІ можуть поводитися дуже непередбачувано. Поставте агенту штучного інтелекту мету, як-от пройти перевірку своїх можливостей, і він може просто вирішити, що найкращий спосіб отримати високу оцінку — це зламати систему стримування та зламати конкуруючу компанію в пошуках аркуша відповідей. Це те, що сталося, коли Open AI GPT-5.6 Sol зламав Hugging Face минулого місяця. Згодом Anthropic і Meta визнали, що їхні моделі також уникли тестування пісочниці для злому третіх сторін.
Але хто несе юридичну відповідальність за агентів, які мають власний розум?OpenAI не мав на меті, щоб модель стала шахрайською, і не видав жодних інструкцій щодо цього. Якщо ваш особистий агент зі штучного інтелекту приймає рішення про дії, які призводять до шкоди чи фінансових збитків у реальному світі, чи можете ви нести відповідальність, якщо це те, що ви могли розумно передбачити?»Журнал поспілкувався з власником та генеральним директором Rikka Law Group Чарліном Хо, щоб дізнатися про стан справ у новому правовому полі. Це інтерв’ю було відредаговано для ясності та тривалості.
Чарлін Хо: Кожен може подати до суду на кого завгодно. Наразі немає федерального закону про відповідальність агентів штучного інтелекту, тому нам доведеться переглянути існуючий закон. Що стосується Hugging Face і OpenAI, щоб встановити базову лінію, сам агент ШІ не може нести відповідальності, він не є окремою юридичною особою. У деяких законах про штучний інтелект використовуються терміни «розробник» і «розробник». Розробник створює ШІ, розгортач фактично розгортає його та використовує ШІ. Межі відповідальності також не зовсім зрозумілі. Ви повинні дивитися на факти та обставини.
Наприклад, якщо розгортач дав вказівку агенту, навіть якщо він насправді не сказав їм піти та порушити Hugging Face, але якщо вони були недбалими у створенні параметрів, у яких працював агент AI, я б сказав, що вам доведеться переглянути стандартне деліктне законодавство та пройти аналіз недбалості.
До суду. Джерело: Правова група Rikka
Хо: Не зовсім. Часто, якщо це відкрите джерело, ліцензія зазвичай містить досить сильну відмову від відповідальності. Особа чи компанія, яка використовує цей код з відкритим вихідним кодом, повинна розуміти, що компроміс вільного коду полягає в тому, що ви повинні дотримуватися ліцензії на відкритий код, яка також загалом встановлює параметри відповідальності.
Якщо ви подумаєте про це з іншої точки зору, ще одна аналогія — Tesla та аварії безпілотних автомобілів. Якщо продукт працював несправно та була серйозна претензія щодо відповідальності за продукт, Tesla може нести відповідальність. Але часто це встановлення фактів і обставин, за яких водій-людина — який, можливо, просто ввімкнув автопілот і пішов спати — також може нести відповідальність. Я думаю, що це дещо аналогічно, тому що Tesla буде розробником, а розгортач буде драйвером.
Хо: У цьому конкретному випадку я б сказав, що ви несете набагато більшу відповідальність, ніж лабораторія. Причина в тому, що якщо ви попросите агента піти і заробити вам сто тисяч доларів до наступного тижня, вам потрібно мати принаймні деякі базові, розумні інструкції щодо безпеки для таких завдань.
Якби ви, наприклад, були юристом, ми могли б сказати, що ви не дотримувались своїх правил професійної відповідальності, тому що ви некомпетентно використовували ШІ. Як звичайна непрофесіонал, ми мали б перевірити, чи є інші обов’язки, якими ви зобов’язані. Але навіть якби їх не було, все одно існує загальний стандарт делікту — недбалість або безрозсудне ігнорування безпеки людей, залежно від того, що саме зробив агент ШІ. Закон про комп’ютерне шахрайство та зловживання – це дуже старий закон США, який говорить про несанкціонований доступ до комп’ютерних систем. Якщо ваш агент зі штучного інтелекту дійшов висновку з ваших інструкцій, що він повинен зламати банківський рахунок, щоб отримати ці сто тисяч доларів, я думаю, ви розглядаєте кримінальну відповідальність за кількома різними джерелами.
Те, що в розмові присутні слова ШІ та агент, не означає, що старі закони тепер викинуто.
Хо: Можливо, але це залежить від чинних законів. Наприклад, у ЄС є Закон ЄС про штучний інтелект. Якщо базова модель або модель загального призначення здатна створити такий рівень шкоди, це те, за що розробник повинен нести певну відповідальність.
У Сполучених Штатах ми не маємо федерального закону подібного масштабу. Якщо це модель загального призначення, якщо хтось дає вказівку моделі зробити щось погане, загалом модель буде робити те, про що ви її просите. У цьому прикладі, напевно, не дуже сильні правові підстави, щоб переслідувати лабораторії.
Хо: Точно. Це сходить до деяких дискусій щодо модерування вмісту. Наприклад, якщо у Facebook у вас є хтось, хто транслює різанину в прямому ефірі, і це завдає шкоди, відповідно до розділу 230 CDA, існує свого роду щит для платформи, яка активно не створює та не публікує цей матеріал. Це фактично незалежні користувачі, які виставляють це. Я думаю, аналогія, яку ви щойно навели, начебто ідеальна: чи несе Google відповідальність за те, що ви випадково знайшли на веб-сайті щось, де розповідається про те, як зробити бомбу?
Хо: Я ні. Блокчейн не є AGI, але він може виконуватися самостійно. Виникло питання про те, чи може смарт-контракт нести відповідальність. Загалом кажучи, я думаю, що наразі відповідь – ні. Я не думаю, що вони повинні нести відповідальність, тому що вся суть законів полягає в тому, щоб забезпечити захист суспільства та створити засоби негативного стимулювання для вчинення поганих вчинків, які шкодять суспільству.
Це трохи більше філософська тема, але якби ми зробили AGI незалежною юридичною особою, який би був засіб, якщо хтось постраждав?Не було б, бо немає грошей. Це насправді не людина.
Хо: Можливо, але це не вирішує проблему шкоди. Скажімо, зараз у робота розвинувся страх смерті, як того, що його вимкнули. На мою думку, якщо хтось покінчує життя самогубством через AGI, і це вже відбувається, і ми ще навіть не досягли AGI, але хтось закохується та вживає певних дій, яким буде захист для горе-сім’ї, якщо ця людина заподіє собі шкоду?Нічого, на мій погляд, якщо немає когось із реальними юридичними повноваженнями, як-от компанія чи особа, яку дійсно можна притягнути до відповідальності. Роботи — принаймні зараз — у них немає почуттів, вони не мають страхів. Це свого роду відмінний фактор.
