Детекторы ИИ против средств проверки на плагиат
Детекторы ИИ и средства проверки на плагиат могут использоваться университетами для противодействия академической нечестности, но они различаются с точки зрения того, как они работают и что они ищут:
- Детекторы ИИ пытаются найти текст, который выглядит так, как будто он был сгенерирован инструментом письма ИИ. Они делают это, измеряя определенные характеристики текста (запутанность и взрывоопасность), а не сравнивая его с базой данных.
- Программы проверки на плагиат пытаются найти текст, скопированный из другого источника. Они делают это, сравнивая текст с большой базой данных ранее опубликованных источников, студенческих диссертаций и т. д. и обнаруживая сходство, а не измеряя конкретные характеристики текста.
Однако мы обнаружили, что средства проверки на плагиат помечают части текстов, сгенерированных ИИ, как плагиат. Это связано с тем, что при написании ИИ использует источники, на которые он не ссылается. Хотя он обычно генерирует оригинальные предложения, он также может включать предложения, напрямую скопированные из существующих текстов или, по крайней мере, очень похожие.
Это, скорее всего, произойдет с популярными или общеизвестными темами и менее вероятно с более специализированными темами, о которых написано меньше. Более того, по мере того, как в сети появляется больше текста, сгенерированного ИИ, вероятность того, что написанный ИИ текст будет помечен как плагиат, с большей вероятностью будет просто потому, что на ту же тему уже существуют другие сгенерированные ИИ тексты с аналогичными формулировками.
Таким образом, хотя средства проверки на плагиат не предназначены для использования в качестве детекторов ИИ, во многих случаях они все же могут помечать написанное ИИ как частичный плагиат. Но они определенно менее эффективны при обнаружении письма ИИ, чем детектор ИИ.
Для чего используются детекторы ИИ?
Детекторы ИИ предназначены для всех, кто хочет проверить, мог ли фрагмент текста быть сгенерирован ИИ. Потенциальные пользователи включают в себя:
- Педагоги (учителя и преподаватели университетов), которые хотят проверить оригинальность работы своих студентов.
- Издатели, которые хотят убедиться, что они публикуют только контент, написанный людьми
- Рекрутеры, которые хотят убедиться, что сопроводительные письма кандидатов написаны ими самими.
- Авторы веб-контента, которые хотят публиковать контент, созданный ИИ, но обеспокоены тем, что он может получить более низкий рейтинг в поисковых системах, если он будет идентифицирован как написание ИИ.
- Модераторы социальных сетей и другие лица, борющиеся с автоматизированной дезинформацией, которые хотят идентифицировать спам и поддельные новости, созданные искусственным интеллектом.
Из-за опасений по поводу их надежности большинство пользователей пока не хотят полностью полагаться на детекторы ИИ, но они уже набирают популярность как признак того, что текст был сгенерирован ИИ, когда у пользователя уже были свои подозрения.
Обнаружение записи ИИ вручную
Помимо использования детекторов ИИ, вы также можете научиться определять отличительные черты написания ИИ самостоятельно. Это трудно сделать надежно — человеческое письмо иногда может показаться роботизированным, а инструменты для письма с искусственным интеллектом все более и более убедительно человечны, — но вы можете развить в себе хорошее чутье.
Конкретные критерии, которые используют ИИ-детекторы, — низкий уровень недоумения и взрывной активности — довольно технические, но вы можете попытаться определить их вручную, выполнив поиск по тексту:
- Читается монотонно, с небольшими изменениями в структуре или длине предложения.
- С предсказуемым, общим выбором слов и несколькими сюрпризами
Вы также можете использовать подходы, которых нет у детекторов ИИ, следя за:
- Чрезмерно вежливый язык: чат-боты, такие как ChatGPT, предназначены для того, чтобы играть роль полезного помощника, поэтому их язык по умолчанию очень вежливый и формальный, а не разговорный.
- Язык хеджирования: обратите внимание на отсутствие смелых, оригинальных заявлений и тенденцию к чрезмерному использованию общих фраз хеджирования: «Важно отметить, что…» « Х широко считается…» « Х считается…» «Кто-то может сказать, что… ”
- Непоследовательность в голосе: если вы знаете обычный стиль письма и голос человека, чье письмо вы проверяете (например, студента), то вы обычно можете увидеть, когда он представляет что-то, что читается совсем не так, как обычно.
- Утверждения без источников или с неправильными ссылками. В контексте академического письма важно указывать источники. Инструменты для написания ИИ, как правило, не делают этого или делают это неправильно (например, цитируя несуществующие или нерелевантные источники).
- Логические ошибки: письмо ИИ, хотя и становится все более беглым, не всегда может быть последовательным с точки зрения фактического содержания. Ищите моменты, в которых текст противоречит сам себе, содержит неправдоподобные утверждения или представляет бессвязные аргументы.
В общем, просто опробовать некоторые инструменты для письма ИИ, посмотреть, какие тексты они могут генерировать, и привыкнуть к их стилю письма — это хорошие способы улучшить вашу способность определять текст, который может быть сгенерирован ИИ.
Детекторы изображения и видео с искусственным интеллектом
Генераторы изображений и видео с искусственным интеллектом, такие как DALL-E, Midjourney и Synthesia, также набирают популярность, и становится все более важным иметь возможность обнаруживать изображения и видео с искусственным интеллектом (также называемые «дипфейками»), чтобы предотвратить их использование для распространения дезинформации.
Из-за текущих ограничений технологии во многих изображениях и видео, созданных ИИ, есть некоторые очевидные недостатки: анатомические ошибки, такие как руки со слишком большим количеством пальцев; неестественные движения; включение бессмысленного текста; и неубедительные лица.
Но по мере того, как эти ИИ-изображения и видео становятся все более совершенными, их становится все труднее обнаружить вручную. Некоторые ИИ-детекторы изображений и видео уже существуют: например, Deepware, Intel FakeCatcher и Illuminarty. Мы не проверяли надежность этих инструментов.
