Колишній співробітник OpenAI звільнився, щоб не «працювати на Титанік ШІ»

Вільям Сондерс, колишній співробітник OpenAI і член «команди супергрупи» компанії, нещодавно заявив, що залишив компанію, оскільки відчував, що вона перебуває на шляху зіткнення з трагедією, подібно до злощасного RMS Titanic у 1912 році.

Як помітив Business Insider, Сандерс дав свій коментар під час епізоду подкасту технологічного журналіста Алекса Кантровіца.

Сондерс сказав Кантровіцу, що протягом трьох років роботи в OpenAI він іноді запитував себе, чи компанія йде шляхом, який «більше схожий на програму Аполлон чи Титанік».

Схоже, що його міркування полягають у тому, що завдяки обережним науковим зусиллям космічна програма «Аполлон» була успішною, незважаючи на невдачі, тоді як «Титанік» був провалом, незважаючи на свої успіхи.

Пер Сондерс:

«Багато роботи було витрачено на те, щоб зробити корабель безпечним і створити водонепроникні відсіки, щоб вони могли сказати, що він непотоплюваний. Але в той же час рятувальних човнів не вистачило на всіх».

OpenAI як Титанік

Сондерс описує загальну етику компанії як таку, яка надає вищий пріоритет розробці продукту, ніж застосуванню розумних заходів безпеки.

Він малює картину офісу, де працівники, які висловлюють занепокоєння щодо безпеки, караються, а керівництво зосереджено на прибутку.

«З часом, – сказав Сондерс, – почало справді здаватися, що рішення, які приймає керівництво, більше нагадують White Star Line, що будує Титанік».

Айсберг

Сондерс не перша людина, яка не погоджується з тим, як OpenAI нібито веде бізнес. Ілон Маск, один із відчужених співзасновників компанії, нещодавно подав на неї до суду через претензії, що вона занадто далеко відійшла від своєї початкової місії. І це незважаючи на те, що Маск роками не брав участі в OpenAI і зараз керує своїм власним прямим конкурентом xAI. Згодом позов було відкликано.

Конкуруюча компанія зі штучного інтелекту Anthropic була заснована в 2021 році колишніми співробітниками та співзасновниками OpenAI через занепокоєння, що OpenAI недостатньо зосереджена на довірі та безпеці.

З іншого боку, Ілля Суцкевер, інший тепер відчужений співзасновник і колишній головний науковий співробітник, який залишив компанію в травні 2024 року, щоб заснувати власну компанію, написав у той час, що він був «впевнений», що команда OpenAI зможе безпечнодосягти своїх цілей.

З огляду на таку кількість співробітників, що стрибають з корабля, і аналогію з «Титаніком», яку об’єднує принаймні один, виникає питання: хто або що є айсбергом?

Якщо пасажирами в цій аналогії є ми — все людство, — тоді айсберг представляє екзистенційну загрозу, яку ChatGPT і подібні системи становлять для непідготовленого суспільства. Якщо штучний інтелект стане розумнішим і здібнішим за нас, і у нас не буде достатньо «рятувальних човнів», щоб захистити всіх від його потенційної шкоди, тоді нас може чекати трагедія.

Але якщо пасажирами є акціонери та зацікавлені сторони, які чекають, коли OpenAI створить такий же розумний, як люди, штучний інтелект, а цього ніколи не станеться, тоді, можливо, айсберг символізує розрив генеративної бульбашки ШІ.

За темою: Big Tech зіткнеться з фінансовими розрахунками, якщо штучний інтелект на рівні людини не відбудеться найближчим часом