Згідно з ексклюзивом Wall Street Journal, Meta, материнська компанія соціальних медіа-платформ Facebook і Instagram, каже, що розробляє новий штучний інтелект (AI), який буде конкурувати з найдосконалішою моделлю OpenAI.
WSJ повідомило, що особи, знайомі з цією справою, сказали, що Meta прагне зробити нову модель штучного інтелекту «у кілька разів» потужнішою за модель Llama 2, яку вона випустила на початку цього року.
На даний момент джерела WSJ кажуть, що плани Meta щодо нової системи полягають у тому, щоб вона була з відкритим вихідним кодом, що дозволить іншим компаніям створювати інструменти штучного інтелекту для створення тексту високого рівня, аналізу та інших типів виводу.
Компанія також будує центри обробки даних, необхідні для створення системи такого високого рівня, водночас купуючи більше напівпровідникових чіпів Nvidia H100 — найпотужніших і найбажаніших чіпів, доступних зараз на ринку.
Llama був навчений за 70 мільярдами параметрів, і хоча OpenAI не випустив свої параметри для GPT-4;оцінюється приблизно в 1,5 трлн.
За темою: Nvidia відмовляється від нового чіпа AI, який, як очікується, зменшить витрати на розробку
Джерела сказали, що Meta очікує, що навчання для великої мовної моделі (LLM) розпочнеться на початку 2024 року та буде готове до випуску наступного року. Ймовірно, він буде випущений після очікуваного випуску Google LLM Gemini.
Microsoft є основним спонсором OpenAI, а також співпрацювала з Meta, щоб допомогти зробити Llama 2 доступним на Azure, її платформі хмарних обчислень. Однак джерела повідомили, що Meta планує навчити свою майбутню модель на власній інфраструктурі.
Ця подія сталася на тлі того, що великі технологічні компанії та уряди намагаються створити, розгорнути та контролювати системи ШІ високого рівня.
Нещодавно уряд Сполученого Королівства оголосив, що планує витратити 130 мільйонів доларів на потужні чіпи для створення систем ШІ.
По всьому світу, у Китаї, нещодавно набуло чинності нове законодавство країни щодо ШІ. Відтоді генеральний директор Baidu, великої китайської технологічної компанії, сказав, що в країні було випущено понад 70 моделей ШІ.