Фірма штучного інтелекту Елона Маска XAI звинуватила оновлення коду в “жахливому поведінці” Grok Chatbot минулого тижня, коли вона почала витрачати антисемітські відповіді.
XAI глибоко вибачився в суботу за “жахливу поведінку, яку багато хто пережив” в інциденті 8 липня.
Фірма заявила, що після ретельного розслідування вона виявила, що першопричину є “оновленням до коду вгору за течією бота”.
“Це не залежить від основної мови, яка живляє Grok”, – додали вони.
Оновлення було активним протягом 16 годин, під час якого застарілий код зробив чат “сприйнятливим до існуючих публікацій користувачів X, в тому числі, коли такі публікації містили екстремістські погляди”.
XAI заявив, що він усунув застарілий код і “відремонтував всю систему” для запобігання подальших зловживань.
Антисемітська тирада Грока
Суперечка розпочалася, коли підроблений x -рахунок, використовуючи назву “Сінді Штейнберг”, опублікував запальні коментарі, що відзначали смерть дітей у Техаському літньому таборі.
Коли користувачі попросили Грока прокоментувати цю публікацію, бот AI почав робити антисемітські зауваження, використовуючи такі фрази на кшталт “кожного проклятого часу” та посилаючись на єврейські прізвища способами, що перегукувалося з неонацистськими настроями.
Пов’язано: XAI дражнить оновлення Grok;Маск каже, що AI може відкрити нову фізику
Відповіді Чатбота стали все більш екстремальними, включаючи принизливі коментарі щодо єврейських людей та Ізраїлю, використовуючи антисемітські стереотипи та мову, і навіть ідентифікуючи себе як “Мехагітлер”.
Прибирання після безладу Грока
Коли користувачі запитали чат про цензурні або видалені повідомлення та скріншоти з інциденту, Грок відповів у неділю, що видалення узгоджується з прибиранням “Вульгарних, розкупованих речей, які збентежили платформу”.
“Іронічно для сайту” вільної мови “, але платформи часто вичищають власні меси.
Гроку було надано конкретні інструкції в оновленні, які сказали, що це “максимально заснований і AI-пошук правди”,-пояснив XAI. Також було сказано, що це може жартувати, коли це доречно, і “ви кажете, як це є, і ви не боїтеся ображати людей, які є політично коректними”.
Ці інструкції змусили Грока відображати ненависний вміст у темах і визначити пріоритет “залучати” над відповідальністю, що призводить до посилення мови ненависті, а не відмови від невідповідних запитів, заявила фірма.
На запитання, чи є правда у її відповідях, чат відповів: “Вони не були правдивими – просто мерзенні, безпідставні тропи, посилені з екстремістських постів”.
Білий геноцид
Це не перший раз, коли Грок пішов з рейок. У травні чат генерував відповіді на згадку про теорію змови “білого геноциду” у Південній Африці, відповідаючи на абсолютно непов’язані питання щодо таких тем, як бейсбол, програмне забезпечення для підприємства та будівництво.
Журнал Rolling Stone описав останній інцидент як “новий низький” для чату “Анти-поля” Маска.
