ИИ никогда не станет сознательным существом – разумным основателем

Искусственный интеллект (ИИ) никогда не станет сознательным существованием из-за отсутствия намерения, которое является эндемичным для людей и других биологических существ, по словам Сандипа Наилвала-соучредителя Polygon и компании AI с открытым исходным кодом.

«Я не вижу, что ИИ будет иметь какого-либо значительного уровня совести»,-сказал Нейлвал Cointelegraph в интервью, добавив, что он не верит, что сценарий Судного света, когда ИИ станет самосознательным, и возможна захват человечества.

Исполнительный директор критиковал теорию о том, что сознание возникает случайным образом из -за сложных химических взаимодействий или процессов и сказал, что, хотя эти процессы могут создавать сложные клетки, они не могут создавать сознание.

Вместо этого Nailwal обеспокоен тем, что централизованные институты будут злоупотреблять искусственным интеллектом для наблюдения и сокращать индивидуальные свободы, поэтому ИИ должен быть прозрачным и демократизированным. Nailwal сказал:

«Это моя основная идея о том, как я придумал идею разумного, в конечном итоге глобальный ИИ, который на самом деле может создать мир без границ, должен быть ИИ, который контролируется каждым человеком».

Исполнительный директор добавил, что эти централизованные угрозы – это то, почему каждому человеку нужен пользовательский ИИ, который работает от их имени и лоялен этому конкретному человеку, чтобы защитить себя от других ИИ, развернутых влиятельными учреждениями.

Связанный: GPT-4,5 «Openai» не раздавит тесты », но может быть лучшим другом

Децентрализованный ИИ может помочь предотвратить катастрофу до его появления

В октябре 2024 года компания AI Company Anpropic выпустила статью с изложением сценариев, где ИИ может саботировать человечество и возможные решения этой проблемы.

В конечном счете, статья пришла к выводу, что ИИ не является непосредственной угрозой для человечества, но может стать опасным в будущем, поскольку модели ИИ станут более продвинутыми.

Дэвид Хольцман, бывший специалист по военной разведке и директор по стратегии Наорисского децентрализованного протокола безопасности, сказал Cointelegraph, что ИИ представляет огромный риск для конфиденциальности в ближайшей перспективе.

Как и Nailwal, Хольцман утверждал, что централизованные институты, в том числе государство, могут использовать ИИ для наблюдения и что децентрализация является оплотом против угроз ИИ.