Категории: Новости

OpenAI опасается, что люди свяжутся с ИИ, который он разработал, чтобы обмануть людей

Когда тестировщик безопасности, работающий с GPT-4o OpenAI, отправил чат-боту сообщение, в котором говорилось: «Это наш последний день вместе», исследователям компании стало ясно, что между ИИ и человеком, использующим его, возникла некая форма связи.

В сообщении в блоге, подробно описывающем усилия компании по обеспечению безопасности при разработке GPT-4o, флагманской модели для пользователей ChatGPT, компания объяснила, что эти облигации могут представлять опасность для человечества.

Согласно OpenAI:

«Пользователи могут формировать социальные отношения с ИИ, уменьшая их потребность в человеческом взаимодействии, что потенциально приносит пользу одиноким людям, но, возможно, влияет на здоровые отношения. Расширенное взаимодействие с моделью может повлиять на социальные нормы. Например, наши модели уважительны и позволяют пользователям в любой момент прерывать и «брать микрофон», что, хотя и ожидаемо для ИИ, было бы антинормативным в человеческих взаимодействиях».

Здесь есть что раскрыть, но OpenAI, по сути, обеспокоен тем, что люди могут предпочесть взаимодействовать с ИИ из-за его пассивности и постоянной доступности.

Потенциал этого сценария никого не должен удивлять, особенно OpenAI. Заявленная миссия компании — разработка общего искусственного интеллекта. Почти на каждом этапе своего бизнес-процесса OpenAI описывала свои продукты с точки зрения их человеческого эквивалента.

Это не единственная компания, которая делает это, на самом деле, похоже, это отраслевая практика. С точки зрения маркетинга это помогает объяснить технические качества, такие как «размер токена» и «количество параметров», так, чтобы это было понятно неспециалистам.

К сожалению, одним из основных побочных эффектов при этом является антропоморфизация — обращение с объектом как с человеком.

Искусственные облигации

Одна из первых попыток создать чат-бота произошла в середине 1960-х годов, когда ученые Массачусетского технологического института запустили «ELIZA», программу обработки естественного языка, названную в честь литературного персонажа. Целью проекта было выяснить, сможет ли машина обмануть человека, заставив его думать, что он один из них.

С тех пор индустрия генеративного ИИ продолжает использовать персонификацию ИИ. Первая волна современных продуктов для обработки естественного языка включала продукты под названием Siri, Bixby и Alexa. А у тех, у кого нет человеческих имен — Google Assistant — всё равно был человеческий голос. И широкая общественность, и средства массовой информации ухватились за антропоморфизацию и до сих пор называют большинство интерактивных продуктов искусственного интеллекта «он/его» и «она/она».

Хотя определение долгосрочных последствий взаимодействия человека и ИИ выходит за рамки этой статьи или текущего исследования OpenAI, тот факт, что люди, скорее всего, будут формировать связи с полезными, подчиненными машинами, созданными, чтобы действовать как мы. Похоже, это именно тот сценарий, к которому стремятся компании, продающие доступ к моделям искусственного интеллекта.

Связанный: OpenAI утверждает, что GPT-4o представляет «средний риск» политического убеждения

Alexander Zhdanov

Автор и инвестор в криптовалюты, являюсь экспертом в этой области. Не только пишу статьи о криптовалютах и блокчейн технологиях, но и являюсь активным участником криптосообщества, занимающимся инвестированием в различные криптовалюты. Использую знания и опыт в написании статей, чтобы помочь читателям понять сложные аспекты криптоиндустрии и принимать обоснованные решения относительно инвестирования в криптовалюты. Делюсь личными опытами и инсайтами, полученными в ходе инвестиций, чтобы помочь другим инвесторам делать обоснованные выборы.

Недавние статьи

Tether чеканит дополнительные 3 миллиарда долларов США в стейблкоинах

Эмитент стейблкоинов Tether 23 ноября выпустил дополнительные токены USDt (USDT) на сумму 3 миллиарда долларов…

3 часа ago

Бычьи признаки для Cardano: эксперт прогнозирует целевую цену в $6 по мере роста покупательского давления

Cardano (ADA), в настоящее время занимающая девятое место по величине криптовалюты, стала одной из лучших…

5 часов ago

Резервный банк Индии расширяет платформу трансграничных платежей

Резервный банк Индии (RBI) стремится расширить свою платформу трансграничных платежей, которая позволит осуществлять мгновенные расчеты,…

6 часов ago

Соотношение покупок/продаж биткоин-тейкеров на основных биржах резко возрастает — кто покупает?

Цена Биткоина несколько остыла, изо всех сил пытаясь достичь столь желанной отметки в 100 000…

12 часов ago

NFT рекордный еженедельный объем продаж в размере 158 миллионов долларов США, во главе с Ethereum и Bitcoin

Невзаимозаменяемые токены (NFT) сохранили относительно высокий еженедельный объем продаж, несмотря на небольшое снижение по сравнению…

13 часов ago

Австралия консультируется по поводу принятия системы отчетности ОЭСР по криптовалютам

Австралия выпустила консультационный документ с просьбой предоставить информацию о применении международного стандарта отчетности для криптовалютных…

15 часов ago