01 февраля 2023

Анти-нейросеть: OpenAI создаёт инструмент для распознавания текстов, написанных искусственным интеллектом

Написать диплом с помощью ChatGPT больше не получится.

Фото: OpenAI

Компания OpenAI, создавшая нейросеть ChatGPT, выпускает инструмент, с помощью которого можно будет распознать текст, написанный искусственным интеллектом. Новый классификатор будет выявлять недостоверную информацию в сети, а также списанные работы. Об этом компания сообщила на своём сайте.

Хотя невозможно надежно обнаружить все тексты, написанный ИИ, мы считаем, что хорошие классификаторы могут смягчить последствия ложных утверждений о том, что текст, сгенерированный ИИ, был написан человеком: например, использование инструментов ИИ для академической нечестности.

комментируют в OpenAI

Инструмент обучен посредством сравнения текстов, созданных человеком и нейросетью. Тексты, сгенерированные ИИ, были сформулированы исходя из тем текстов, написанных реальными людьми.

При этом, новая технология не надёжна полностью и на данный момент её рекомендуют использовать на английском языке. Тестирование показало, что точность выявления инструментом “человечности” текста составляет 26%. Также, в 9% случаев классификатор ошибался и распознавал текст, сгенерированный нейросетью, человеческим.

Как добавляют разработчики, процент точности выявления будет расти по мере увеличения проверяемых текстов. При этом, надёжность технологии останется низкой, если проверяемый текст не будет превышать объёма в тысячу знаков. 

Отмечается, что классификатор может не распознать текст ИИ, если его ранее отредактировал человек.