Уильям Сондерс, бывший сотрудник OpenAI и член «команды суперсогласования» компании, недавно сообщил, что покинул компанию, потому что чувствовал, что она находится на пути к трагедии, очень похожей на злополучный «Титаник» в 1912 году.
Как заметил Business Insider, Сандерс дал свой комментарий во время эпизода подкаста технологического журналиста Алекса Кантровитца.
Сондерс рассказал Кантровитцу, что за три года работы в OpenAI он иногда задавался вопросом, идет ли компания по пути, который «больше похож на программу Аполлона или больше на Титаник».
Судя по всему, его аргументация заключается в том, что благодаря осторожным научным усилиям космическая программа «Аполлон» увенчалась успехом, несмотря на неудачи, тогда как «Титаник» потерпел неудачу, несмотря на свои успехи.
Пер Сондерс:
«Много работы было потрачено на то, чтобы сделать корабль безопасным и построить водонепроницаемые отсеки, чтобы можно было сказать, что он непотопляемый. Но в то же время спасательных шлюпок на всех не хватило».
OpenAI как Титаник
Сондерс описывает общий дух компании как приоритет разработки продукции, а не внедрения разумных мер предосторожности.
Он рисует картину офиса, где сотрудники, высказывающие опасения по поводу безопасности, наказываются, а руководство сосредоточено на прибыли.
«Со временем, — сказал Сондерс, — стало действительно казаться, что решения, принимаемые руководством, больше напоминали компанию White Star Line, строящую Титаник».
Айсберг
Сондерс не первый человек, который не согласен с тем, как OpenAI якобы ведет бизнес. Илон Маск, один из соучредителей компании, недавно подал на нее в суд из-за утверждений, что она слишком далеко отошла от своей первоначальной миссии. И это несмотря на то, что Маск уже много лет не имеет никакого отношения к OpenAI и в настоящее время управляет своим прямым конкурентом xAI. Впоследствии иск был отозван.
Конкурирующая компания по искусственному интеллекту Anthropic была основана в 2021 году бывшими сотрудниками и соучредителями OpenAI из-за опасений, что OpenAI недостаточно ориентирован на доверие и безопасность.
С другой стороны, Илья Суцкевер, еще один соучредитель и бывший главный научный сотрудник, который покинул компанию в мае 2024 года, чтобы основать собственную компанию, написал тогда, что он «уверен», что команда OpenAI сможет безопаснодостичь своих целей.
Учитывая, что так много сотрудников покидают корабль, а по крайней мере один из них приводит аналогию с Титаником, возникает вопрос: кто или что такое айсберг?
Если пассажирами в этой аналогии являемся мы — все человечество — тогда айсберг представляет собой экзистенциальную угрозу, которую ChatGPT и подобные ему системы представляют для неподготовленного общества. Если ИИ станет более умным и способным, чем мы, и у нас не будет достаточного количества «спасательных шлюпок», чтобы защитить всех от его потенциального вреда, тогда нас может ожидать трагедия.
Но если пассажиры — это акционеры и заинтересованные стороны, ожидающие, пока OpenAI создаст ИИ, такой же умный, как человек, а этого никогда не произойдет, то, возможно, айсберг представляет собой взрыв пузыря генеративного ИИ.
По теме: Большим технологиям грозит финансовая расплата, если в ближайшее время не появится ИИ на человеческом уровне
