Недавно обнаруженные нейронные функции в системах искусственного интеллекта (ИИ) могут стать ключом к решению галлюцинаций ИИ, одной из самых больших проблем отрасли.
«Галлюцинации» ИИ — это непреднамеренный результат обучения больших языковых моделей действию в качестве генеративных систем ИИ. Галлюцинации возникают, когда модели ИИ выдают новую, обычно неверную информацию, которая не содержится в ее наборе данных.
Однако, по словам Дарио Амодеи, соучредителя и генерального директора Anthropic, недавно обнаруженные нейронные особенности могут помочь решить проблему галлюцинаций ИИ.
Амодей сказал во время выступления на Viva Tech Paris 2024:
«Современные системы искусственного интеллекта имеют сотни миллионов нейронов… В нашей модели мы обнаружили 30 миллионов функций. Функции, связанные с уязвимостями безопасности или предвзятостью в отношении определенных групп… Теперь мы можем вмешаться в них и изменить их».
Проблема с галлюцинациями заключается в том, что протоколы ИИ не знают, что выходные данные неверны. Однако недавно обнаруженные особенности могут оставить галлюцинации ИИ в прошлом, объяснил Амодей.
«Уменьшение галлюцинаций [искусственного интеллекта] является одним из основных преимуществ этого нового открытия».
Anthropic уже исследует влияние изменения внутренних функций своего ИИ-помощника на изменение его поведения. Одна конкретная функция создала демонстрационную модель, которая заставила ИИ «интенсивно сосредоточиться на мосту Золотые Ворота». Anthropic написал в сообщении X от 23 мая:
«Тот факт, что мы можем найти и изменить эти функции в Claude, дает нам больше уверенности в том, что мы начинаем понимать, как на самом деле работают большие языковые модели».
Anthropic, ведущая компания по разработке искусственного интеллекта, в начале мая запустила в Европе своего искусственного чат-бота Claude. С 14 мая ИИ-помощник доступен через веб-приложение и приложение iOS на нескольких европейских языках, включая французский, немецкий, испанский и итальянский.
По теме: LVMH дополняет людей с помощью ИИ, а не заменяет их
Недостаток данных стал основным препятствием для развития ИИ.
Однако из-за создания наборов синтетических данных самой большой проблемой в настоящее время является нехватка талантов разработчиков, а не объем данных. Амодей сказал:
«Данные не будут узким местом, поскольку некоторые фирмы начинают создавать синтетические данные… Развитие ИИ в основном будет зависеть от таланта…»
Амодей отметил, что синтетические данные многообещающи для масштабируемости ИИ, но соотношение синтетических и реальных данных не может быть бесконечным, поскольку это приведет к более слабым и нереалистичным наборам синтетических данных.
С начала 2024 года в отрасли искусственного интеллекта наблюдается растущий интерес инвесторов. 27 мая компания Илона Маска обеспечила раунд финансирования серии B на сумму 6 миллиардов долларов. Это финансирование направлено на то, чтобы к концу 2024 года позиционировать своего чат-бота Grok как конкурента ChatGPT.
По мнению Артура Хейса, соучредителя криптовалютной биржи BitMEX, цены на биткоин вырастут, если эскалация напряженности…
Недавние отчеты показали, что Ethereum пережил трудные времена, уступая другим основным криптовалютам. Однако, несмотря на…
Судья окружного суда, наблюдавший за иском рынка ставок Калши против Комиссии по торговле товарными фьючерсами…
Около 26 миллионов избирателей в США являются частью «блока голосования за криптовалюту», отмечая политику поддержки…
По словам Мессари, платформа запуска мемкойнов Tron SunPump довела квартальный доход блокчейна до рекордно высокого…
Поставщик клиринга и расчетов по ценным бумагам Euroclear сделал стратегические инвестиции в сингапурского поставщика инфраструктуры…