Компания OpenAI, производитель искусственного интеллекта, незаметно приостановила работу своего программного обеспечения для обнаружения ИИ, сославшись на низкую точность.
Классификатор искусственного интеллекта, разработанный OpenAI, был впервые запущен 31 января и призван помочь пользователям, таким как учителя и профессора, отличать текст, написанный человеком, от текста, созданного искусственным интеллектом.
Однако, согласно исходному сообщению в блоге, в котором было объявлено о запуске инструмента, классификатор ИИ был закрыт с 20 июля:
«По состоянию на 20 июля 2023 года классификатор ИИ больше не доступен из-за его низкой точности».
Ссылка на инструмент больше не работает, а в примечании приводится лишь простое объяснение того, почему инструмент был закрыт. Однако компания объяснила, что ищет новые, более эффективные способы идентификации контента, созданного ИИ.
«Мы работаем над тем, чтобы учесть отзывы, и в настоящее время изучаем более эффективные методы определения происхождения текста и взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, создан ли аудио- или визуальный контент с помощью ИИ», — говорится в заметке.
С самого начала OpenAI дал понять, что инструмент обнаружения подвержен ошибкам и не может считаться «полностью надежным».
Компания заявила, что ограничения ее инструмента обнаружения ИИ включают в себя «очень неточную» проверку текста длиной менее 1000 символов и могут «уверенно» маркировать текст, написанный людьми, как сгенерированный ИИ.
Связанный: у Apple есть собственная система искусственного интеллекта GPT, но нет заявленных планов по публичному выпуску: отчет
Классификатор является последним продуктом OpenAI, который подвергся тщательной проверке.
18 июля исследователи из Стэнфорда и Калифорнийского университета в Беркли опубликовали исследование, которое показало, что флагманский продукт OpenAI ChatGPT с возрастом становится значительно хуже.
We evaluated #ChatGPT's behavior over time and found substantial diffs in its responses to the *same questions* between the June version of GPT4 and GPT3.5 and the March versions. The newer versions got worse on some tasks. w/ Lingjiao Chen @matei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6
— James Zou (@james_y_zou) July 19, 2023
Исследователи обнаружили, что за последние несколько месяцев способность ChatGPT-4 точно идентифицировать простые числа упала с 97,6% до всего лишь 2,4%. Кроме того, как в ChatGPT-3.5, так и в ChatGPT-4 наблюдалось значительное снижение способности генерировать новые строки кода.
AI Eye: ИИ, обученный контенту ИИ, сходит с ума, является ли Threads лидером по потерям данных ИИ?
