Компания Anthropic объявила о выборе Accenture в качестве первого интегрированного оценщика, который поможет замедлить темпы создания искусственного интеллекта, как на прошлой неделе предложил ее генеральный директор Дарио Амодей.
12 сентября Амодей опубликовал план из трех пунктов, направленный на замедление развития ИИ и внедрение защитных механизмов на фоне предупреждений о рисках катастрофического ущерба из-за стремительного и бесконтрольного прогресса.
Руководитель OpenAI Сэм Альтман и глава SpaceX Илон Маск отреагировали на инициативу Амодея одобрительно, в то время как гендиректор Nvidia Дженсен Хуанг занял противоположную позицию, заявив, что подобное регулирование излишне.
Тем не менее, в своем обращении Амодей отметил, что технологии искусственного интеллекта прогрессируют с огромной скоростью, в первую очередь благодаря способности ИИ самостоятельно создавать новые поколения систем, и этот феномен называется рекурсивным самосовершенствованием, которое без должного контроля может выйти из-под нашего понимания и управления.
Первым шагом в стратегии Амодея является привлечение независимых экспертов с уровнем доступа, сопоставимым с возможностями сотрудников, и Anthropic уже взяла на себя такие обязательства в одностороннем порядке, пояснил он.
В пятницу Anthropic сделала шаг к реализации этого плана, заключив партнерство с компанией Accenture и ее подразделением Faculty для тестирования и анализа моделей на предмет уязвимостей, а также проверки систем безопасности и согласованности.
Поскольку концепция встроенной оценки является совершенно новой, детали ее практического воплощения в настоящий момент прорабатываются, уточнили в организации.
Согласно официальному заявлению, обе компании планируют инвестировать в этот проект не менее 1 миллиарда долларов каждая в течение следующих пяти лет.
Anthropic напрямую профинансирует работу в связи с ее срочностью
В Anthropic подчеркнули, что на данный момент отсутствует готовая система финансирования независимого аудита, поэтому в перспективе средства должны поступать из объединенных или государственных источников, однако из-за высокой срочности задач Anthropic оплатит работу Accenture напрямую.
Данное партнерство носит неэксклюзивный характер, и в ближайшие недели Anthropic намерена объявить о сотрудничестве с другими аналогичными экспертными организациями.
В пятницу представители Accenture отметили, что их подразделение Faculty обладает глубокой экспертизой в тестировании моделей для ведущих мировых лабораторий ИИ, а также в создании сложных систем, безопасных и этичных по своей архитектуре.
Генеральный директор Accenture Джули Свит заявила, что встроенная оценка представляет собой новое направление, и компания рада партнерству с Anthropic, которое поможет развитию таких аудиторов, ставших важным элементом будущей инфраструктуры безопасности.
