Нейронные функции играют ключевую роль в уменьшении галлюцинаций искусственного интеллекта: генеральный директор Anthropic

Недавно обнаруженные нейронные функции в системах искусственного интеллекта (ИИ) могут стать ключом к решению галлюцинаций ИИ, одной из самых больших проблем отрасли.

«Галлюцинации» ИИ — это непреднамеренный результат обучения больших языковых моделей действию в качестве генеративных систем ИИ. Галлюцинации возникают, когда модели ИИ выдают новую, обычно неверную информацию, которая не содержится в ее наборе данных.

Однако, по словам Дарио Амодеи, соучредителя и генерального директора Anthropic, недавно обнаруженные нейронные особенности могут помочь решить проблему галлюцинаций ИИ.

Амодей сказал во время выступления на Viva Tech Paris 2024:

«Современные системы искусственного интеллекта имеют сотни миллионов нейронов… В нашей модели мы обнаружили 30 миллионов функций. Функции, связанные с уязвимостями безопасности или предвзятостью в отношении определенных групп… Теперь мы можем вмешаться в них и изменить их».

Проблема с галлюцинациями заключается в том, что протоколы ИИ не знают, что выходные данные неверны. Однако недавно обнаруженные особенности могут оставить галлюцинации ИИ в прошлом, объяснил Амодей.

«Уменьшение галлюцинаций [искусственного интеллекта] является одним из основных преимуществ этого нового открытия».

Anthropic уже исследует влияние изменения внутренних функций своего ИИ-помощника на изменение его поведения. Одна конкретная функция создала демонстрационную модель, которая заставила ИИ «интенсивно сосредоточиться на мосту Золотые Ворота». Anthropic написал в сообщении X от 23 мая:

«Тот факт, что мы можем найти и изменить эти функции в Claude, дает нам больше уверенности в том, что мы начинаем понимать, как на самом деле работают большие языковые модели».

Anthropic, ведущая компания по разработке искусственного интеллекта, в начале мая запустила в Европе своего искусственного чат-бота Claude. С 14 мая ИИ-помощник доступен через веб-приложение и приложение iOS на нескольких европейских языках, включая французский, немецкий, испанский и итальянский.

По теме: LVMH дополняет людей с помощью ИИ, а не заменяет их

Развитие искусственного интеллекта будет зависеть от таланта, а не от данных: Амодей

Недостаток данных стал основным препятствием для развития ИИ.

Однако из-за создания наборов синтетических данных самой большой проблемой в настоящее время является нехватка талантов разработчиков, а не объем данных. Амодей сказал:

«Данные не будут узким местом, поскольку некоторые фирмы начинают создавать синтетические данные… Развитие ИИ в основном будет зависеть от таланта…»

Амодей отметил, что синтетические данные многообещающи для масштабируемости ИИ, но соотношение синтетических и реальных данных не может быть бесконечным, поскольку это приведет к более слабым и нереалистичным наборам синтетических данных.

С начала 2024 года в отрасли искусственного интеллекта наблюдается растущий интерес инвесторов. 27 мая компания Илона Маска обеспечила раунд финансирования серии B на сумму 6 миллиардов долларов. Это финансирование направлено на то, чтобы к концу 2024 года позиционировать своего чат-бота Grok как конкурента ChatGPT.