Бывший сотрудник OpenAI уволился, чтобы не «работать на Титанике искусственного интеллекта»

Уильям Сондерс, бывший сотрудник OpenAI и член «команды суперсогласования» компании, недавно сообщил, что покинул компанию, потому что чувствовал, что она находится на пути к трагедии, очень похожей на злополучный «Титаник» в 1912 году.

Как заметил Business Insider, Сандерс дал свой комментарий во время эпизода подкаста технологического журналиста Алекса Кантровитца.

Сондерс рассказал Кантровитцу, что за три года работы в OpenAI он иногда задавался вопросом, идет ли компания по пути, который «больше похож на программу Аполлона или больше на Титаник».

Судя по всему, его аргументация заключается в том, что благодаря осторожным научным усилиям космическая программа «Аполлон» увенчалась успехом, несмотря на неудачи, тогда как «Титаник» потерпел неудачу, несмотря на свои успехи.

Пер Сондерс:

«Много работы было потрачено на то, чтобы сделать корабль безопасным и построить водонепроницаемые отсеки, чтобы можно было сказать, что он непотопляемый. Но в то же время спасательных шлюпок на всех не хватило».

OpenAI как Титаник

Сондерс описывает общий дух компании как приоритет разработки продукции, а не внедрения разумных мер предосторожности.

Он рисует картину офиса, где сотрудники, высказывающие опасения по поводу безопасности, наказываются, а руководство сосредоточено на прибыли.

«Со временем, — сказал Сондерс, — стало действительно казаться, что решения, принимаемые руководством, больше напоминали компанию White Star Line, строящую Титаник».

Айсберг

Сондерс не первый человек, который не согласен с тем, как OpenAI якобы ведет бизнес. Илон Маск, один из соучредителей компании, недавно подал на нее в суд из-за утверждений, что она слишком далеко отошла от своей первоначальной миссии. И это несмотря на то, что Маск уже много лет не имеет никакого отношения к OpenAI и в настоящее время управляет своим прямым конкурентом xAI. Впоследствии иск был отозван.

Конкурирующая компания по искусственному интеллекту Anthropic была основана в 2021 году бывшими сотрудниками и соучредителями OpenAI из-за опасений, что OpenAI недостаточно ориентирован на доверие и безопасность.

С другой стороны, Илья Суцкевер, еще один соучредитель и бывший главный научный сотрудник, который покинул компанию в мае 2024 года, чтобы основать собственную компанию, написал тогда, что он «уверен», что команда OpenAI сможет безопаснодостичь своих целей.

Учитывая, что так много сотрудников покидают корабль, а по крайней мере один из них приводит аналогию с Титаником, возникает вопрос: кто или что такое айсберг?

Если пассажирами в этой аналогии являемся мы — все человечество — тогда айсберг представляет собой экзистенциальную угрозу, которую ChatGPT и подобные ему системы представляют для неподготовленного общества. Если ИИ станет более умным и способным, чем мы, и у нас не будет достаточного количества «спасательных шлюпок», чтобы защитить всех от его потенциального вреда, тогда нас может ожидать трагедия.

Но если пассажиры — это акционеры и заинтересованные стороны, ожидающие, пока OpenAI создаст ИИ, такой же умный, как человек, а этого никогда не произойдет, то, возможно, айсберг представляет собой взрыв пузыря генеративного ИИ.

По теме: Большим технологиям грозит финансовая расплата, если в ближайшее время не появится ИИ на человеческом уровне