В Казахстане зафиксировали новую волну распространения дипфейков – видеоматериалов, созданных с помощью технологий искусственного интеллекта. В поддельных роликах используются изображения и голоса иностранных артистов, спортсменов и других известных личностей, которым приписывают заявления, которых они на самом деле не делали.
О росте подобных случаев сообщил центр JAQ.OrtCom, отметив, что новые информационные вбросы направлены на распространение недостоверных сообщений в социальных сетях.
По данным специалистов, в таких видео от имени известных людей распространяются ложные утверждения о якобы изменении миграционной политики Казахстана и ужесточении правил для иностранных граждан. При этом подобные заявления не имеют подтверждения и являются частью информационных манипуляций.
Главная опасность таких материалов заключается в их реалистичности. Современные технологии искусственного интеллекта позволяют создавать изображения и голосовые дорожки, которые внешне могут выглядеть убедительно, особенно если пользователь не проверяет первоисточник.
В центре отмечают, что цель подобных информационных атак – сформировать у аудитории негативное восприятие Казахстана и других стран региона, вызвать эмоциональную реакцию и заставить пользователей самостоятельно распространять ложный контент.
Особенно активно такие материалы распространяются через социальные сети, где скорость публикаций часто опережает возможность проверки фактов.
Специалисты призывают граждан сохранять критическое мышление и не доверять эмоциональным видеороликам только из-за того, что в них появляется лицо известного человека.
Перед распространением информации рекомендуется проверить:
- кто является автором видео;
- опубликован ли материал на официальных страницах человека или организации;
- есть ли подтверждение заявления в надежных источниках;
- имеются ли признаки искусственной обработки изображения или звука.
Для первичной проверки цифрового контента существуют специальные сервисы, которые помогают выявить возможные признаки генерации искусственным интеллектом. Среди таких инструментов называются Hive AI Moderation, Undetectable AI, RealityGuard от Sensity AI и другие решения, анализирующие фото-, аудио- и видеоматериалы.
Однако специалисты подчеркивают, что даже автоматические системы проверки не могут заменить полноценный анализ источников и фактов.
В JAQ.OrtCom напоминают: любой фейк получает распространение только благодаря реакции пользователей. Чем больше людей пересылают непроверенную информацию, тем быстрее она становится частью информационного пространства.
Ранее Бектенов объявил войну фейкам о новой Конституции РК.