OpenAI и Аксель Спрингер заключают сделку по интеграции ИИ и журналистики и борьбе с «галлюцинациями» ИИ

Axel Springer, одна из крупнейших медиакомпаний в Европе, сотрудничает с OpenAI для интеграции журналистики в технологии искусственного интеллекта (ИИ) ChatGPT, сообщило немецкое издательство в заявлении в своем блоге 13 декабря.

Сотрудничество предполагает использование контента медиа-брендов Axel Springer для улучшения обучения большим языковым моделям OpenAI. Целью проекта является улучшение пользовательского опыта ChatGPT за счет актуального и авторитетного контента по различным темам, а также повышение прозрачности за счет указания авторства и ссылок на полные статьи.

Чат-боты с генеративным ИИ уже давно борются с фактической точностью, иногда генерируя ложную информацию, обычно называемую «галлюцинациями». Инициативы по уменьшению этих галлюцинаций ИИ были объявлены в июне в сообщении на веб-сайте OpenAI.

Галлюцинации ИИ возникают, когда системы искусственного интеллекта генерируют фактически неверную информацию, которая вводит в заблуждение или не подтверждается реальными данными. Галлюцинации могут проявляться в различных формах, например, генерировать ложную информацию, выдумывать несуществующие события или людей или предоставлять неточную информацию по определенным темам.

Сочетание искусственного интеллекта и журналистики создало проблемы, в том числе обеспокоенность по поводу прозрачности и дезинформации. Исследование Ipsos Global показало, что 56% американцев и 64% канадцев считают, что ИИ усугубит распространение дезинформации, а 74% во всем мире считают, что ИИ способствует созданию реалистичных фейковых новостей.

Партнерство между OpenAI и Axel Springer направлено на то, чтобы пользователи ChatGPT могли создавать сводки медиа-брендов Axel Springer, включая Politico, Business Insider, Bild и Die Welt.

Связанный: ИИ с открытым исходным кодом может превзойти частные модели, такие как Chat-GPT – исследование ARK Invest

Тем не менее, потенциал ИИ для борьбы с дезинформацией также изучается, о чем свидетельствуют такие инструменты, как AI Fact Checker и интеграция Microsoft GPT-4 в браузер Edge.

Агентство Associated Press отреагировало на эти опасения, выпустив руководящие принципы, ограничивающие использование генеративного искусственного интеллекта в новостных репортажах, подчеркивая важность человеческого контроля.

В октябре 2023 года группа ученых из Университета науки и технологий Китая и YouTu Lab компании Tencent разработала инструмент для борьбы с «галлюцинациями» с помощью моделей искусственного интеллекта (ИИ).