Пионер искусственного интеллекта (ИИ) по прозвищу «Крестный отец ИИ» подал в отставку со своей должности в крупной технологической фирме Google, чтобы он мог более открыто говорить о потенциальных опасностях этой технологии.
До ухода в отставку доктор Джеффри Хинтон более десяти лет работал в Google над алгоритмами машинного обучения. Сообщается, что он получил свое прозвище из-за того, что всю жизнь работал над нейронными сетями.
Однако в твите от 1 мая Хинтон пояснил, что оставил свою должность в Google, «чтобы я мог говорить об опасностях ИИ».
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
В интервью New York Times его самым непосредственным беспокойством по поводу ИИ было его использование для наводнения Интернета поддельными фотографиями, видео и текстом, где он выразил обеспокоенность тем, что многие «больше не смогут знать, что является правдой».
Другие опасения Хинтона касались технологий искусственного интеллекта, занимающих рабочие места. Он считает, что в будущем ИИ может представлять угрозу для человечества из-за того, что он учится неожиданному поведению на основе огромных объемов анализируемых им данных.
Он также выразил обеспокоенность продолжающейся гонкой ИИ, направленной на дальнейшее развитие технологии для использования в смертоносных автономных системах вооружения (LAWS).
Хинтон также выразил частичное сожаление по поводу работы всей своей жизни:
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».
В последние месяцы регулирующие органы, законодатели и руководители технологической отрасли также выражали обеспокоенность по поводу развития ИИ. В марте более 2600 технических руководителей и исследователей подписали открытое письмо, в котором призвали к временной остановке разработки ИИ, ссылаясь на «серьезные риски для общества и человечества».
Группа из 12 законодателей Европейского Союза подписала аналогичное письмо в апреле, а недавний законопроект ЕС классифицирует инструменты ИИ в зависимости от уровня их риска. Соединенное Королевство также выделяет 125 миллионов долларов на поддержку целевой группы по разработке «безопасного ИИ».
ИИ используется в фейковых новостных кампаниях и розыгрышах
Сообщается, что инструменты ИИ уже используются для дезинформации: недавние примеры того, как средства массовой информации обманом заставляли публиковать фейковые новости, а одно немецкое издание даже использовало ИИ для фабрикации интервью.
1 мая Binance заявила, что стала жертвой клеветнической кампании, инициированной ChatGPT, и поделилась доказательствами того, что чат-бот утверждал, что его генеральный директор Чанпэн «CZ» Чжао был членом молодежной организации Коммунистической партии Китая.
To all the cryptocurrency and AI sleuths out there, here is the ChatGPT thread if someone wants to dig in. As you'll see ChatGPT pulls this from a fake LinkedIn profile and a non-existent @Forbes article. We can't find any evidence of this story nor the LinkedIn page ever existing. pic.twitter.com/szLaix3nza
— Patrick Hillmann ♂️ (@PRHillmann) May 1, 2023
Бот ссылался на статью Forbes и страницу LinkedIn, из которой, как он утверждал, он получил информацию, однако статьи, похоже, не существует, а профиль LinkedIn не принадлежит Чжао.
На прошлой неделе группа шутников также обманула несколько СМИ по всему миру, включая Daily Mail и The Independent.
Связанный: Ученые из Техаса разработали систему искусственного интеллекта, подобную GPT, которая читает мысли
The Daily Mail опубликовала, а затем удалила статью о предполагаемом канадском актере по имени «Святой фон Колуччи», который, как говорят, умер после пластической операции, чтобы сделать его больше похожим на южнокорейскую поп-звезду.
Эта новость пришла из пресс-релиза о смерти актера, который был отправлен организацией, маскирующейся под фирму по связям с общественностью, и использовал изображения, созданные искусственным интеллектом.
В апреле немецкое издание Die Aktuelle опубликовало интервью, в котором ChatGPT синтезировал разговор с бывшим гонщиком Формулы-1 Михаэлем Шумахером, который получил серьезную черепно-мозговую травму в результате несчастного случая на лыжах в 2013 году.
Сообщалось, что семья Шумахера подаст в суд из-за статьи.
AI Eye: «Самый большой скачок в истории ИИ», новые классные инструменты, ИИ — это настоящие DAO
