OpenAI, создатель популярного чат-бота ChatGTP, выпустил программу для распознавания текста, созданного искусственным интеллектом, сообщила компания в своем блоге. Однако сейчас программа работает не очень хорошо.
Классификатор ИИ — языковая модель, обученная на наборе данных, состоящем из пар написанного человеком и написанного ИИ текста на одну и ту же тему, — призван отличать текст, написанный ИИ.
По словам компании, она использует различных поставщиков для решения таких проблем, как автоматизированные кампании по дезинформации и академическая нечестность. Недавно в Twitter завирусился тред, где студент российского ВУЗа написал диплом с помощью ChatGPT.
«Мы выкладываем этот классификатор в открытый доступ, чтобы получить отзывы о том, полезны ли несовершенные инструменты, подобные этому», — заявили в OpenAI.
В своем публичном бета-режиме OpenAI признает, что инструмент обнаружения очень ненадежен в текстах менее 1000 символов, а написанный ИИ текст может быть отредактирован, чтобы обмануть классификатор.
OpenAI заявила, что она взаимодействует с преподавателями для обсуждения возможностей и ограничений ChatGPT и продолжит работу над обнаружением сгенерированного ИИ текста.