Фирма искусственного интеллекта Элона Маска XAI обвинила «несанкционированную модификацию» ответа Грока Чатбота, заставляя его создавать ответы, упоминающие политическую и расовую напряженность в Южной Африке.
16 мая XAI предоставил обновленную информацию о воспалительных ответах Grok AI Chatbot, заявив, что 14 мая «несанкционированная модификация была внесена в приглашение бота GROK на X. ».
«Это изменение, которое поручило Гроку дать конкретный ответ на политическую тему, нарушило внутреннюю политику и основные ценности XAI», – добавил он.
Фирма заявила, что провела тщательное расследование и внедряет меры для повышения прозрачности и надежности ИИ чат -бота.
Грок генерировал ответы 14 мая, упомянув теорию заговора «белого геноцида» в Южной Африке, когда он ответил совершенно не связанным вопросам по таким темам, как бейсбол, программное обеспечение для предприятия и строительство.
Согласно сообщениям, бот ИИ утверждал, что «поручили моим создателям» принять этот геноцид как «реальный и расово мотивированный».
В некоторых ответах он признал ошибку, заявив, что «мой ответ повернулся вне по теме» и «Я буду работать над тем, чтобы оставаться актуальным», но он часто продолжал обсуждать расовую политику Южной Африки в том же послании.
Чатбот сказал одному пользователю, спрашивая, что случилось:
«Я ничего не делал – я просто следил за сценарием, который мне дал, как хороший ИИ!»
Связанный: xai инженер уходит после пост на рейтинге Grok 3 AI
Этот инцидент совпадает с тем, что президент США Трамп предоставил убежище белым южноафриканцам, в то время как он утверждал, что они сталкиваются с «геноцидом», и что «белых фермеров жестоко убивают», хотя никаких доказательств не подтверждают эти претензии.
Больше прозрачности для искусственного интеллекта Маск
Фирма ИИ Элон Маск заявила, что она изменит свою деятельность, публикуя систему Grok, открыто открыто на Github. «Общественность сможет просмотреть их и дать отзывы о каждом быстроте изменения, которые мы вносите для Грока», – говорится в сообщении.
В нем также говорилось, что в этом инциденте был обход существующего процесса проверки кода для быстрого изменения, и он будет выполнен «Дополнительные проверки и меры для обеспечения того, чтобы сотрудники XAI не могли изменить подсказку без проверки».
Наконец, фирма внедряет команду мониторинга круглосуточно, чтобы ответить на инциденты с ответами Грока, которые не пойманы автоматизированными системами, так что она может реагировать быстрее.
