Компанія Anthropic заявила про вибір Accenture своєю першою інтегрованою оціночною структурою, яка сприятиме сповільненню темпів розширення штучного інтелекту, як це пропонував минулого тижня її керівник Даріо Амодеи.
12 вересня Амодеи оприлюднив триступеневу ініціативу щодо стримування розвитку ШІ, аби встигнути впровадити засоби захисту на тлі застережень про ризики катастрофічних наслідків через занадто стрімкий та неконтрольований прогрес.
Очільник OpenAI Сем Альтман та керівник SpaceX Ілон Маск схвально відгукнулися на ідею Амодеи, проте генеральний директор Nvidia Дженсен Хуанг виступив проти, зазначивши, що подібне регулювання є зайвим.
Водночас Амодеи зазначив у своїй пропозиції, що ШІ прогресує надзвичайно швидко завдяки своїй здатності створювати нові покоління технологій, і цей процес рекурсивного самовдосконалення без належного контролю може випередити наше розуміння та здатність керувати такими системами.
Першим кроком у плані Амодеи є залучення незалежних експертів із доступом рівня штатних працівників, зобов’язання щодо якого Anthropic уже взяла на себе самостійно, додав він.
У п’ятницю компанія повідомила про практичний крок до реалізації цього плану через партнерство з Accenture та її підрозділом у сфері ШІ Faculty для оцінки моделей, тестування на вразливість, перевірки узгодженості та захисних механізмів.
Деталі процесу ще опрацьовуються, оскільки концепція вбудованої оцінки є новою для ринку, зауважили в компанії.
Згідно з офіційним повідомленням, обидві компанії планують спрямувати на цей проєкт не менше ніж по 1 мільярду доларів кожна протягом наступних п’яти років.
Anthropic фінансуватиме роботи напряму через невідкладність завдань
В Anthropic підкреслили, що наразі відсутня усталена система фінансування незалежного аудиту, тому в майбутньому кошти мають надходити з об’єднаних чи державних джерел, хоча через терміновість завдань поки що фінансування надійде безпосередньо від Anthropic.
Ця угода не є ексклюзивною, і найближчими тижнями Anthropic планує залучити до співпраці й інші аналітичні структури.
Як заявили представники компанії у п’ятницю, підрозділ Accenture Faculty має значний досвід у тестуванні моделей для провідних світових лабораторій ШІ та створенні безпечних та етичних систем.
Джулі Світ, голова та виконавча директорка Accenture, зазначила, що вбудований аудит є новим напрямом, і вони раді співпрацювати з Anthropic задля розвитку цього сегмента як важливої складової майбутньої безпеки екосистеми ШІ.
