Эксперт ФИЦТО рассказал, как абитуриентам педвузов распознать текст и аудио, созданные нейросетями

Развитие нейросетей, способных писать тексты, генерировать голоса и создавать дипфейки, открыло новые возможности не только для бизнеса и творчества, но и для злоумышленников. В мае и июне фиксируется повышенное количество атак против будущих студентов: мошенники создают поддельные уведомления от вузов или учреждений, отвечающих за организацию и проведение единого государственного экзамена, рассылают поддельные голосовые сообщения от лица учителей. О том, как защитить себя от подобных угроз и на что обращать внимание при проверке информации, медиапорталу «Российское образование» рассказал заместитель директора Центра информационно-телекоммуникационных технологий и защиты информации Федерального института цифровой трансформации в сфере образования Владимир Галяев.

Эксперт отметил, схема мошенников направлена на создание стресса и неопределённости тревоги за будущее.

«Типичными сценариями использования являются подготовка фишинговых текстовых сообщений, рассылаемых по электронной почте, формирование поддельных сайтов, составление аудиосообщений. В подобных условиях важно уметь распознавать сообщения, созданные ИИ, так как их применение в том числе может быть признаком мошеннических действий», – обратил внимание Владимир Галяев.

Как распознать ИИ в тексте

В зависимости от используемой языковой модели для разных сервисов создания текста с помощью ИИ параметры текста могут различаться, но есть некоторые общие признаки, характерные для относительно длинного текста (3–5 абзацев, или 400–500 знаков), например:

обобщённость выражений (фразы не несут индивидуальности или эмоциональной составляющей);

размытые формулировки или малосодержательный текст;

многократное повторение одной мысли с разными формулировками;

избыточное количество неуместных или неестественных метафор;

морфологически однообразная структура текста (использование однотипных предложений примерно равной длины и с одинаковым расположением членов предложения);

устаревшая информация в фактах (сформированный ИИ текст может содержать сведения, которые противоречат фактам, полученным в последнее время, особенно это касается изменений в области законодательства и открытий в медицине).

Кроме того, в Интернете существуют специальные сервисы для проверки текста.

Как распознать ИИ в аудиосообщениях

Для звуковых сообщений, сформированных ИИ, также существуют характерные признаки, которые могут помочь определить искусственное происхождение:

отсутствие пауз в речи;

неестественное звучание, роботизированный голос;

слишком гладкое звучание гласных звуков;

нарушенная динамика дыхания (ИИ выдаёт слишком длинные фразы, которые вряд ли мог бы произнести живой человек на одном дыхании).

«При получении любого сообщения (текста или аудио), которое взывает к эмоциям и требует немедленных действий, как раз важно не поддаваться этим эмоциям, взять минутную паузу – прочитать ещё раз текст или прослушать сообщение и попробовать определить признаки того, что оно могло быть создано с помощью ИИ, и только затем предпринимать другие действия. И конечно, необходимо постоянно повышать свою цифровую грамотность, обновляя знания в сфере информационных технологий, и быть в курсе современных киберугроз и мошеннических схем, следуя рекомендациям правоохранительных органов и экспертов в сфере информационной безопасности», – рекомендовалзаместитель директора Центра информационно-телекоммуникационных технологий и защиты информации ФИЦТО.

Ранее Владимир Галяев рассказал на Всероссийской научно-практической конференции «Проблемы и задачи использования технологий искусственного интеллекта» об основных направлениях использования нейросетей мошенниками.

Русский язык. Репетитор. ОГЭ. Интерактивная онлайн-платформа RUSOGE.RU обеспечивает автоматическую проверку грамотности и выполняет оценку сочинений по разработанным Рособрнадзором критериям оценивания ОГЭ по русскому языку.