Розробили інструмент для визначення текстів, створених штучним інтелектом

Лабораторія досліджень штучного інтелекту OpenAI (США) оголосила про створення інструменту, що визначатиме тексти, згенеровані за допомогою штучного інтелекту.

Розроблений раніше цією ж компанією ChatGPT – чат-бот зі штучним інтелектом, що є великою статистичною моделлю мови й вміє створювати тексти, перекладати, вести діалоги тощо, викликав в інформаційному полі багато дискусій та порушив важливі етичні питання. Чи не будуть можливості штучного інтелекту використані для створення дезінформація? Що робити зі студентами та школярами, які використовуватимуть ШІ для написання робіт? Чи слід вказувати ШІ як джерело у наукових публікаціях?

У відповідь на таку реакцію лабораторія OpenAI, яка була заснована Ілоном Маском та Семом Альтманом для створення дружнього до людини штучного інтелекту, визнала свою відповідальність за те, щоб робота їхніх винаходів не завдавала шкоди та була контрольованою.

З цією метою OpenAI розробили класифікатор, навчений вирізняти текст, написаний штучним інтелектом, від тексту, що створений людиною. Класифікатор також працює на основі ШІ.

В OpenAI зауважують, що інструмент іще вдосконалюється. Під час тестувань, проведених наприкінці січня, класифікатор, що працював з англійською мовою, правильно визначив 26% тексту, написаного штучним інтелектом, але припускався помилок, коли йшлося про тексти, створені людьми.

Також інструмент має низку обмежень. Наприклад, погано працює з короткими текстами (менш як 1000 знаків), розпізнає лише англійську тощо.

Нагадуємо, штучний інтелект виявив раніше невідомий твір Лопе де Веги

Читайте також: Людські проблеми кіберпанку: світи Пет Кедіґен і Ричарда К. Морґана