Юридическая фирма с Уолл-стрит Sullivan & Cromwell извинилась перед федеральным судьей после подачи в суд иска, содержащего около 40 неправильных цитат и других ошибок, вызванных галлюцинациями ИИ.
«Мы глубоко сожалеем, что это произошло», — написал в пятницу Эндрю Дитдерих, соруководитель глобальной команды по реструктуризации Sullivan & Cromwell, в письме главному судье Мартину Гленну из Суда США по делам о банкротстве Южного округа Нью-Йорка.
«Фирма и я прекрасно осознаем свою ответственность за обеспечение точности всех документов, в том числе в соответствии с Местным правилом о банкротстве 9011-1(d), и я беру на себя ответственность за невыполнение этого требования», — сказал он о чрезвычайном ходатайстве, поданном девятью днями ранее.
Этот инцидент подчеркивает, какой риск инструменты искусственного интеллекта могут представлять в профессиональной работе с высокими ставками без надлежащего надзора. В базе данных, управляемой технологом-юристом Дэмьеном Шарлотеном, зарегистрировано 1334 случая галлюцинаций искусственного интеллекта в судебных документах по всему миру, в том числе более 900 в США.
Шарлотен отметил, что большинство этих галлюцинаций связаны с сфабрикованными цитатами, хотя иногда выявлялись и юридические аргументы, созданные ИИ.
Дитдерих сказал, что у Sullivan & Cromwell есть политика использования инструментов искусственного интеллекта, которая включает в себя проверку используемых ею цитат, но отметил, что эта политика не соблюдается.
«К сожалению, этот процесс проверки не выявил неточных цитат, сгенерированных ИИ, а также не выявил других ошибок, которые, по-видимому, полностью или частично возникли в результате ручной ошибки».
Sullivan & Cromwell — одна из крупнейших юридических фирм в США по объему выручки, занимающая 30-е место в рейтинге AmLaw Global 200. Фирма также представляла интересы криптовалютной биржи FTX в деле о банкротстве.
Sullivan & Cromwell проводит внутреннее расследование
Дитдерих заявил, что юридическая фирма приняла «немедленные меры по исправлению положения», включая полный анализ обстоятельств, которые привели к ошибкам.
Фирма также «оценивает, оправданы ли дальнейшие улучшения процессов внутреннего обучения и проверки», сказал Дитдерих.
Дитдерих также отметил, что ошибки были обнаружены конкурирующей юридической фирмой.
«В пятницу я также позвонил в Boies Schiller Flexner LLP, чтобы поблагодарить их за то, что они привлекли наше внимание к этому вопросу, а также извиниться непосредственно перед ними», — сказал он.
