Піонер штучного інтелекту (ШІ) на прізвисько «Хрещений батько ШІ» залишив свою посаду у великій технологічній компанії Google, щоб він міг більш відкрито говорити про потенційну небезпеку технології.
До відставки доктор Джеффрі Хінтон більше десяти років працював у Google над алгоритмами машинного навчання. Повідомляється, що він отримав своє прізвисько завдяки своїй довічній роботі над нейронними мережами.
Однак у твіттері 1 травня Хінтон уточнив, що залишив свою посаду в Google, «щоб я міг говорити про небезпеку ШІ».
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
В інтерв’ю New York Times він висловив занепокоєння з приводу штучного інтелекту через його використання для заповнення Інтернету підробленими фотографіями, відео та текстом, де він висловив стурбованість тим, що багато хто «більше не зможе знати, що правда».
Інші занепокоєння Хінтона стосувалися того, що технології ШІ займуть роботу. Він вважає, що в майбутньому штучний інтелект може становити загрозу для людства, оскільки навчатиметься несподіваної поведінки з величезних обсягів даних, які він аналізує.
Він також висловив занепокоєння з приводу триваючої гонки озброєнь штучного інтелекту, спрямованої на подальший розвиток технологій для використання в летальних автономних системах зброї (LAWS).
Хінтон також висловив певний жаль з приводу роботи свого життя:
«Я втішаю себе звичайним виправданням: якби я цього не зробив, зробив би хтось інший».
Останніми місяцями регулятори, законодавці та керівники технологічної галузі також висловили занепокоєння щодо розвитку ШІ. У березні понад 2600 технічних керівників і дослідників підписали відкритий лист у березні, в якому закликали тимчасово зупинити розробку ШІ, посилаючись на «великі ризики для суспільства та людства».
Група з 12 законодавців Європейського Союзу підписала подібний лист у квітні, а нещодавній проект закону ЄС класифікує інструменти штучного інтелекту на основі рівня ризику. Велика Британія також виділяє 125 мільйонів доларів на підтримку цільової групи з розробки «безпечного ШІ».
ШІ використовується в фейкових новинних кампаніях і розіграшах
Повідомляється, що інструменти штучного інтелекту вже використовуються для дезінформації, з нещодавніми прикладами ЗМІ, які обманом опублікували фейкові новини, а одне німецьке видання навіть використало штучний інтелект для виготовлення інтерв’ю.
1 травня Binance заявив, що став жертвою наклепницької кампанії, ініційованої ChatGPT, і поділився доказами того, що чат-бот стверджував, що його генеральний директор Чанпен «CZ» Чжао був членом молодіжної організації Комуністичної партії Китаю.
To all the cryptocurrency and AI sleuths out there, here is the ChatGPT thread if someone wants to dig in. As you'll see ChatGPT pulls this from a fake LinkedIn profile and a non-existent @Forbes article. We can't find any evidence of this story nor the LinkedIn page ever existing. pic.twitter.com/szLaix3nza
— Patrick Hillmann ♂️ (@PRHillmann) May 1, 2023
Бот посилався на статтю Forbes і сторінку LinkedIn, з якої, як він стверджував, отримав інформацію, однак, здається, статті не існує, а профіль LinkedIn не належить Чжао.
Минулого тижня група пранкерів також обдурила кілька ЗМІ по всьому світу, включаючи Daily Mail і The Independent.
За темою: вчені з Техасу розробили систему ШІ, схожу на GPT, яка читає думки
The Daily Mail опублікував і пізніше зняв історію про передбачуваного канадського актора на ім’я “Святий фон Колуччі”, який, як кажуть, помер після пластичної операції, щоб зробити його більш схожим на південнокорейську поп-зірку.
Ця новина надійшла з прес-релізу про смерть актора, який був надісланий організацією, що видавалась за піар-компанію, і використовував зображення, які, здавалося, були створені ШІ.
У квітні німецьке видання Die Aktuelle опублікувало інтерв’ю, у якому використано ChatGPT, щоб синтезувати розмову з колишнім пілотом Формули-1 Міхаелем Шумахером, який отримав серйозну травму мозку під час аварії на лижах у 2013 році.
Повідомлялося, що сім’я Шумахера подасть до суду за цю статтю.
AI Eye: «Найбільший за всю історію» стрибок у ШІ, круті нові інструменти, ШІ — це справжні DAO
