Странные ошибки в документах: как ИИ выдает фальшивки за настоящие

В условиях стремительного развития технологий искусственного интеллекта всё чаще возникает необходимость в выявлении поддельных материалов, созданных с использованием генеративных моделей. Эти материалы, будь то документы, фотографии или видеоматериалы, зачастую имеют явные или скрытые признаки, которые позволяют специалистам отличить их от подлинных. Об этом сообщила официальный представитель МВД РФ Ирина Волк, отметив важность применения определённых методов для выявления фальсификаций.

Об этом рассказала официальный представитель МВД РФ Ирина Волк в интервью агентству ТАСС.

Как отличить подделку от оригинала?

Одним из самых заметных признаков фальшивых материалов являются несоответствия в их оформлении. Подлинные официальные документы, как правило, соответствуют строгим стандартам: они содержат структурированные реквизиты, включая полное название учреждения, регистрационный номер, дату составления и подпись уполномоченного должностного лица. В то время как материалы, созданные с помощью искусственного интеллекта, часто содержат вымышленные данные, такие как несуществующие должности или отсутствие привычных элементов оформления, например, штрих-кодов и стандартных шрифтов.

С помощью таких признаков можно достаточно легко выявить фальшивки. Однако стоит учитывать, что один лишь признак недостаточен для окончательной оценки подлинности. Важно учитывать все факторы в совокупности, чтобы точно определить, является ли материал результатом использования генеративных моделей.

Проблема поддельных визуальных и звуковых материалов

Ещё одним важным аспектом является проверка визуальных и звуковых материалов, которые становятся всё более популярными в сети. Такие материалы часто имеют артефакты, указывающие на их искусственное происхождение. Видеофайлы, созданные с использованием нейросетевых технологий, могут содержать размытые логотипы, неестественные движения губ, несоответствие мимики и речи, а также статичный или искажённый фон. Эти признаки позволяют специалистам, в том числе в МВД, выделять подделки среди настоящих материалов.

Важность такого рода проверок особенно возрастает в свете того, что поддельные материалы часто используются мошенниками для распространения ложной информации или для других противоправных действий. В таких случаях эксперты прибегают к видеотехническим исследованиям, которые позволяют выявить признаки модификации видеоряда, характерные для материалов, созданных с помощью искусственного интеллекта.

Роль криминалистической экспертизы

Окончательное подтверждение подлинности материалов и документов требует проведения криминалистической экспертизы, которую осуществляют специалисты Экспертно-криминалистического центра МВД России. Это позволяет получить точные результаты и удостовериться в подлинности материала, особенно если его происхождение вызывает сомнения.

В настоящее время существует несколько дел, связанных с использованием технологий искусственного интеллекта для создания поддельных материалов. В рамках одного из таких дел было проведено видеотехническое исследование, в ходе которого был выявлен ряд модификаций, характерных для работы с нейросетями.

Ключевым моментом является то, что, несмотря на доступность технологий искусственного интеллекта, они не могут полностью заменить работу специалистов, которые с помощью комплексных методов диагностики могут точно выявить фальсификацию.