Исследователи из Цюриха Университета были обвинены в проведении несанкционированного четырехмесячного эксперимента на доске Reddit с использованием комментариев, генерируемых искусственным интеллектом, чтобы проверить, может ли ИИ изменить мнения людей.
В рамках эксперимента аккаунты с AI фальсифицировали различные персонажи, в том числе жертва изнасилования, человека, выступая против конкретных социальных движений и консультанта по травмам, специализирующимся на злоупотреблении, сообщили модераторы R/ChangemyView Subreddit в посте 26 апреля.
«Наша подставка – это явно человеческое пространство, которое отвергает нераскрытый ИИ как основное значение», – сказали в модераторах. «Люди не приезжают сюда, чтобы обсудить свои взгляды с ИИ или экспериментировать».
Исследователи использовали ИИ для генерации ответов, но пытались персонализировать ответы, основанные на информации из предыдущей истории Reddit первоначальных плакатов, таких как политическая ориентация, пол, возраст и этническая принадлежность, согласно проекту статьи.
В течение четырехмесячного эксперимента фальшивые учетные записи ИИ Университета Цюрих опубликовали 1783 комментария и получили 137 дельт-отметка, показывающая, когда другой пользователь Reddit признал, что аккаунт убедил их изменить свое мнение по этому вопросу.
Исследователи заявили в посте в SubredDit, что все комментарии были рассмотрены вручную перед публикацией, чтобы обеспечить их соответствие руководящим принципам сообщества и «минимизировать потенциальный вред».
Университетская команда утверждала, что «потенциальные преимущества этого исследования в значительной степени перевешивают его риски», поскольку они обнаружили, что крупные языковые модели, используемые в эксперименте
«Наше контролируемое исследование с низким уровнем риска дало ценную информацию о реальных убедительных возможностях LLMS-возможностей, которые уже легко доступны для всех, и что вредоносные актеры уже могут эксплуатироваться в масштабе по гораздо более опасным причинам»,-сказали исследователи.
В то же время исследователи заявили, что эксперимент показывает, что отличия людей от ИИ по -прежнему сталкиваются с значительными проблемами, потому что никто в субреддите не обнаружил ботов ИИ в течение всего эксперимента.
Правление R/ChangemyView насчитывает 3,8 миллиона членов и входит в число лучших 1% субреддитов по размеру.
Reddit рассматривает юридические варианты
Модераторы правления Reddit заявили, что они не знают об эксперименте и попросили университет принести извинения и заблокировать публикацию исследования.
Reddit также может рассмотреть вопрос о судебном иске, так как главный юридический директор платформы Бен Ли заявил в последующем сообщении 28 апреля, что эксперимент нарушил пользовательское соглашение и правила Сайта, и все известные учетные записи, связанные с исследовательскими усилиями Университета Цюрихского университета, были теперь запрещены.
«Мы находимся в процессе обращения к Университету Цюриха и этой конкретной исследовательской группе с официальными юридическими требованиями», – сказал Ли.
«Мы хотим сделать все возможное, чтобы поддержать сообщество и обеспечить, чтобы исследователи были привлечены к ответственности за свои проступки здесь», – добавил он.
Связанный: Белый дом получает более 10 000 комментариев по плану развития искусственного интеллекта
В своем ответе на Subreddit, Комиссия по этике искусств и наук Университета Цюриха заявила, что в будущем расследовал этот инцидент и пообещала лучше координировать с испытуемыми субъектами. Ведущему следователю проекта также было опубликовано официальное предупреждение.
«Этот проект дает важную информацию, и риски минимальны. Это означает, что подавление публикации не является пропорциональностью важности понимания, которое дает исследование», – сказала Комиссия по этике.
Цюрихский университет не сразу ответил на запрос о комментариях. Cointelegraph не сразу получил ответ на вопросы, отправленные на адрес электронной почты, связанный с экспериментом.
