Искусственный интеллект для пропаганды? Как этого избежать

Как противостоять использованию искусственного интеллекта (ИИ) в целях дезинформации и распространения фейков? Этот вопрос обсуждался на медиафоруме DW в Бонне (Global Media Forum, GMF). Участники мероприятия обратили внимание на растущее число примеров, когда ИИ используется авторитарными режимами в своих целях.

Так, накануне посвященного миру в Украине саммита в Швейцарии, который прошел 15 и 16 июня, соцсеть X наводнили фотографии известных людей с их фейковыми цитатами на четырех европейских языках. За несколько часов количество публикаций превысило 120 тысяч. Такие знаменитости, как Дженнифер Энистон, Люк Бессон, Элтон Джон, Лионель Месси и другие, якобы призывали остановить помощь Украине и делали пессимистические прогнозы по поводу будущего ЕС. Посты успели набрать больше 500 тысяч просмотров. По данным проекта "Блокировщик ботов", за распространением дезинформации стоит сеть ботов "Двойник", связанная с российскими властями. За полгода боты провели не менее шести волн дезинформации, в том числе накануне недавних выборов в Европарламент, отметили исследователи.

Какая часть аудитории принимает такие "цитаты" за реальные - выяснить сложно, но у интернет-пользователей постепенно вырабатывается привычка сомневаться в полученной информации. Такое мнение выразила Ренате Николай (Renate Nikolay), отвечающая в Европарламенте за сети коммуникации, контент и технологии. "Если взглянуть на ситуацию пять лет назад и сравнить с выборами в Европарламент, то сейчас люди гораздо лучше осведомлены о возможностях дезинформации", - сказала она, пояснив, что разоблачать фейки помогает система предупреждения с помощью популярных соцсетей.

В 2024 году в ЕС начал работать закон о цифровых услугах (Digital Services Act, DSA), обязывающий все интернет-платформы и социальные сети принимать меры для защиты пользователей от нелегального контента, товаров и услуг. Посты, пропагандирующие ненависть, агрессию или содержащие дезинформацию, подлежат скорейшему удалению. В то же время европейским властям, считает чиновница ЕС, необходимо прилагать усилия для сохранения контакта с российской аудиторией: "Мы должны защищать доступ к свободе СМИ не только собственного населения, но и в таких странах, как Россия". Делать это становится сложнее, признала она, так как российские власти активнее используют различные технологии для блокировки и изоляции интернета.

Технологии Google - "серебряная пуля" в борьбе с режимом Путина

Об этой же проблеме говорил в своем выступлении на Global Media Forum в Бонне генеральный директор DW Петер Лимбург (Peter Limbourg), который напомнил, что большинству редакций крупных СМИ пришлось закрыть собственные отделения на территории России после полномасштабного вторжения РФ в Украину - многие независимые медиа продолжили вещание за границей. По его мнению, сейчас необходимо направить усилия на поиск технических средств для преодоления информационной изоляции России: "В противном случае они (население России. - Ред.) будут настолько изолированы, что могут потерять веру в перемены, оптимизм. Это такой северокорейский сценарий".

Способствуют изоляции россиян от альтернативных источников информации такие корпорации, как Google, считает основатель агрегатора новостей True Story Лев Гершензон, который с 2005 по 2012 годы возглавлял сервис "Яндекс.Новости". Он отметил, что пользователям в России, которые подписаны на пропагандистские СМИ, в рекомендациях Google предлагают информационные ресурсы с тем же дезинформирующим содержанием. "В основном это одобренные правительством сайты, я бы сказал, содержащие до 90% пропаганду. В итоге независимые новостные агентства остаются почти невидимыми в России", - сказал IT-предприниматель. Вместе с тем значительная часть населения продолжает использовать технологии крупных IT-корпораций, отмечает Гершензон: "85% населения России используют мобильные телефоны с технологией Android". Сотрудничество крупных корпораций в части доставки альтернативной информации до населения РФ могло бы стать "серебряной пулей" в борьбе с пропагандой, считает он.

Авторитарные режимы учатся использовать ИИ

Другой пример использования технологий ИИ в целях пропаганды - попытки скомпрометировать известных политиков. Жертвой такой атаки в 2020 году стала министр иностранных дел Германии Анналена Бербок (Annalena Baerbock) - тогда ее партия Союз-90/"зеленые" готовилась к парламентским выборам. На протяжении полугода в Сети распространяли различные фейковые фото с Бербок: на одном из коллажей ее лицо совместили с обнаженным телом девушки. Подпись под фотографией утверждала, как будто в молодости Бербок не хватало денег на жизнь, чего не было в реальности. "Искусственный интеллект делает дезинформацию дешевле, проще и эффективнее", - предупредила глава МИД Германии в своем выступлении на медиафоруме DW в Бонне.

Разобраться в том, в каком материале был использован ИИ, а где нет - становится все сложнее из-за стремительного развития технологий, напомнил анимационный продюсер и профессор медиа-менеджмента в Кельнской школе бизнеса Михаэль Швертель (Michael Schwertel). Он продемонстрировал ролик, в котором с помощью обычного софта можно за короткое время отредактировать видео: заменить один предмет на другой или вовсе удалить из кадра. Набирающий популярность инструмент Luma AI, говорит Швертель, позволяет за 120 секунд создать анимированное видео хронометражем в несколько секунд из одной фотографии: "Только представьте, что с помощью такой технологии можно оживить фотографию любого политика. И для этого не нужно большого бюджета". Эта технология может помочь добропорядочным пользователям создавать качественные и бюджетные фильмы, но в руках злоумышленников это серьезное оружие.

Для борьбы с фейками создают ИИ-детекторы

Впрочем, он отметил, что появляются ИИ-детекторы, которые помогают устанавливать не является ли видео или аудиозапись фейковой. Из-за того, что большая часть баз данных закрыта от публичного доступа, идентифицировать весь интернет-контент, как в случае с текстами, пока невозможно. "Но, думаю, этот вопрос смогут решить в ближайшие 10 лет. Полагаю, это будет такой постоянной гонкой технологий", - говорит эксперт. 

Он отметил, что наибольшую опасность сейчас представляют фейковые аудиозаписи, которые активно начали использовать мошенники. "Одной из женщин, с которой я общался, прислали дипфейк-аудио с голосом ее мужа. Как будто он оказался в больнице и просил ее срочно переслать на некий банковский счет 5 тысяч евро. Потом оказалось, что это не был ее супруг, но выяснить это быстро - не так просто", - заключил Швертель. Эту технологию уже несколько лет используют телеграм-каналы, связанные с российской пропагандой. Так они травили вдову и мать Алексея Навального, чтобы дискредитировать сторонников оппозиционного политика, погибшего в российской тюрьме.