Эксперт ФИЦТО рассказал, как искусственный интеллект помогает злоумышленникам

Нейросети, как и любая технология, могут приносить не только пользу, но и вред. О возможных преступлениях с использованием информационно-телекоммуникационных технологий предупредил заместитель директора Центра информационно-телекоммуникационных технологий и защиты информации Федерального института цифровой трансформации в сфере образования Владимир Галяев на всероссийской научно-практической конференции «Проблемы и задачи использования технологий искусственного интеллекта».

Эксперт сообщил, что если раньше мошенникам требовался личный контакт, то сегодня стали преобладать дистанционные схемы взаимодействия. По данным Росфинмониторинга, маржинальность мошеннических операций с использованием новых технологий может в четыре раза превышать прибыльность традиционных видов обмана.

«Традиционно мошеннические схемы построены не на техническом обходе системы защиты, а на воздействии непосредственно на жертву, которая становится невольным помощником злоумышленников, выполняя действия, нарушающие правила информационной безопасности и приводящие к потере финансов или утечке данных. Анализ больших данных, представленных на просторах глобальной Сети, в том числе социальных сетей, позволяет выбирать наиболее подходящих под типаж жертвы людей, собирать и перепроверять данные о них. Многие люди выкладывают в открытые источники чувствительную информацию о себе: место проживания и работы, круг родственников и знакомых. Все эти данные могут быть использованы мошенниками для создания сценария атаки», – отметил Владимир Галяев.

Языковые модели позволяют формировать наиболее правдоподобные тексты, нацеленные на конкретную жертву, мимикрирующие под реальные письма с использованием определённой стилистики.

Различного рода сервисы генеративного ИИ также позволяют создавать поддельные аудио- и видеосообщения, которые дают возможность злоумышленнику выдать себя за родственника, коллегу или знакомого жертвы. ИИ-инструменты для разработчиков помогают злоумышленникам оперативно создавать поддельные сайты, максимально похожие на оригиналы, но ворующие данные жертв. Применение ИИ делает атаки кибермошенников более быстрыми в подготовке, технологичными и более персонализированными.

Напомним, что эксперты ФИЦТО осуществляют системную работу по повышению уровня защищённости образовательных организаций по поручению Минпросвещения России. Ранее глава ведомства Сергей Кравцов сообщил, что в образовательных учреждениях пяти субъектов РФ запустят цифровые сервисы и инструменты «Московской электронной школы».

Русский язык. Репетитор. ОГЭ. Интерактивная онлайн-платформа RUSOGE.RU обеспечивает автоматическую проверку грамотности и выполняет оценку сочинений по разработанным Рособрнадзором критериям оценивания ОГЭ по русскому языку.