Нейронні функції, ключові до зменшення галюцинацій ШІ: генеральний директор Anthropic

Нещодавно виявлені нейронні особливості в системах штучного інтелекту (ШІ) можуть стати ключем до вирішення галюцинацій ШІ, однієї з найбільших проблем галузі.

«Галюцинації» ШІ є ненавмисним результатом навчання великих мовних моделей діяти як генеративні системи ШІ. Галюцинації виникають, коли моделі штучного інтелекту видають нову, як правило, неправильну інформацію, яка не міститься в їх наборі даних.

Проте, за словами Даріо Амодея, співзасновника та генерального директора Anthropic, нещодавно виявлені нейронні особливості можуть допомогти вирішити проблему галюцинацій ШІ.

Амодей сказав під час виступу на Viva Tech Paris 2024:

«Сучасні системи штучного інтелекту містять сотні мільйонів нейронів… Ми знайшли 30 мільйонів функцій у нашій моделі. Особливості вразливості безпеки або упередженості щодо певних типів груп… Тепер ми можемо втрутитися в них і змінити їх».

Проблема з галюцинаціями полягає в тому, що протоколи штучного інтелекту не знають, що результат є неправильним. Однак нещодавно виявлені функції можуть зробити галюцинації штучного інтелекту пережитком минулого, пояснив Амодей.

«Зменшення галюцинацій [штучного інтелекту] є однією з головних переваг цього нового відкриття».

Anthropic вже досліджує вплив зміни внутрішніх функцій на свого помічника ШІ, щоб змінити його поведінку. Одна особливість створила демонстраційну модель, яка змусила ШІ «інтенсивно зосередитися на мосту Золоті Ворота». Anthropic сказав у дописі X від 23 травня:

«Той факт, що ми можемо знайти та змінити ці функції в Claude, додає нам більшої впевненості в тому, що ми починаємо розуміти, як насправді працюють великі мовні моделі».

Anthropic, провідна фірма з розробки штучного інтелекту, запустила свій чат-бот Claude на початку травня в Європі. З 14 травня помічник зі штучним інтелектом доступний через веб-додаток і додаток для iOS кількома європейськими мовами, включаючи французьку, німецьку, іспанську та італійську.

За темою: LVMH доповнює людей ШІ, а не замінює їх

Розвиток штучного інтелекту залежатиме від таланту, а не від даних: Amodei

Брак даних був головним вузьким місцем, що заважає розробці ШІ.

Однак, завдяки створенню синтетичних наборів даних, найбільшою проблемою зараз є відсутність таланту розробника, а не кількість даних. Амодей сказав:

«Дані не будуть вузьким місцем, оскільки деякі фірми починають створювати синтетичні дані… Розвиток штучного інтелекту в основному зводитиметься до талантів…»

Амодей зазначив, що синтетичні дані є перспективними для масштабованості ШІ, але співвідношення синтетичних і реальних даних не може бути нескінченним, оскільки це призведе до більш слабких і нереалістичних наборів синтетичних даних.

З початку 2024 року індустрія штучного інтелекту демонструє зростаючий інтерес інвесторів. 27 травня компанія Ілона Маска забезпечила раунд фінансування серії B на 6 мільярдів доларів. Це фінансування спрямоване на позиціонування чат-бота Grok як конкурента ChatGPT до кінця 2024 року.