Юридична фірма з Уолл-стріт Sullivan & Cromwell вибачилася перед федеральним суддею після того, як подала до суду заяву, яка містила близько 40 неправильних цитат та інших помилок, викликаних галюцинаціями ШІ.
«Ми глибоко шкодуємо, що це сталося», — написав у п’ятницю Ендрю Дітдеріх, співголова глобальної групи реструктуризації Sullivan & Cromwell, у листі до головного судді Мартіна Гленна з Суду США з питань банкрутства Південного округу Нью-Йорка.
«Фірма та я чітко усвідомлюємо свою відповідальність за забезпечення точності всіх документів, у тому числі згідно з місцевим правилом про банкрутство 9011-1(d), і я беру на себе відповідальність за невиконання цього», — сказав він щодо екстреного клопотання, поданого дев’ятьма днями раніше.
Цей інцидент підкреслює ризик, який можуть становити інструменти штучного інтелекту у професійній роботі з високими ставками без належного нагляду. База даних, якою керує юридичний технолог Демієн Шарлотін, зафіксувала 1334 випадки галюцинацій штучного інтелекту в судових справах по всьому світу, включаючи понад 900 у США.
Шарлотін зазначив, що більшість цих галюцинацій пов’язані з сфабрикованими цитатами, хоча час від часу також виявлялися юридичні аргументи, створені ШІ.
Дітдеріх сказав, що Sullivan & Cromwell має політику щодо використання інструментів штучного інтелекту, яка включає перегляд цитат, які вона використовує, але сказав, що політики не дотримуються.
«На жаль, цей процес перевірки не виявив неточних цитат, згенерованих штучним інтелектом, а також інших помилок, які, як видається, повністю або частково спричинені помилками, зробленими вручну».
Sullivan & Cromwell є однією з найбільших юридичних фірм у США за обсягом доходу, займаючи 30 місце в рейтингу AmLaw Global 200. Фірма також представляла криптовалютну біржу FTX у справі про банкрутство.
Sullivan & Cromwell проводить внутрішнє розслідування
Дітдеріх сказав, що юридична фірма вжила «негайних заходів для виправлення ситуації», включаючи повний аналіз обставин, які призвели до помилок.
Фірма також «оцінює, чи виправдані подальші вдосконалення внутрішнього навчання та процесів перевірки», — сказав Дітдеріх.
Дітдеріх також зазначив, що помилки помітила конкурентна юридична фірма.
«Я також зателефонував Boies Schiller Flexner LLP у п’ятницю, щоб подякувати їм за привернення нашої уваги до цього питання та вибачитися безпосередньо перед ними», — сказав він.
