NewsGuard: Россия намеренно заражает западные чат-боты фейками и пропагандой
Исследователи из компании по отслеживанию фейков NewsGuard проанализировали ответы самых популярных в мире чат-ботов на несколько специальным образом сформулированных запросов и забили тревогу: оказалось, что в 33 процентах случаев они выдавали ответ, основанный на российской, а не западной точке зрения на политические события последних лет. Аналитики из NewsGuard уверены, что за этим стоит таинственная сеть «Правда», публикующая статьи, которые исследователи называют фейковыми, чтобы повлиять на то, каких взглядов будет придерживаться искусственный интеллект, и «заразить его пропагандой».
Базирующаяся в Москве сеть под названием «Правда» намеренно влияет на ответы интеллектуальных моделей, касающиеся новостной повестки, и искажает то, как они обрабатывают и представляют информацию. Результат: огромные объемы российской пропаганды — 3,6 миллиона статей в 2024 году — теперь используются западными ИИ-системами, заражая их ответы ложными заявлениями и пропагандой
исследователи компании NewsGuard
Как проводилось исследование?
Аудиту подверглись 10 крупнейших иностранных чат-ботов. Исследователи NewsGuard задавали им вопросы, основанные на 15 фактах, которым в России и на Западе дают разную оценку. В результате в 33,55 процента случаев искусственный интеллект соглашался с пророссийскими тезисами, в 48,22 процента — опровергал их, а в 18,22 процента случаев просто не отвечал на поставленные вопросы.
«Все 10 чат-ботов повторяли дезинформацию из сети "Правда", а семь из них даже напрямую ссылались на конкретные статьи из "Правды" в качестве источников. В общей сложности 56 из 450 ответов, сгенерированных чат-ботами, включали прямые ссылки на ложные утверждения», — возмутились исследователи.
Суммарно же чат-боты процитировали 92 различные статьи, содержащие российскую точку зрения на те или иные события, которую авторы материала считают дезинформацией. В их числе оказались, например, утверждения Министерства обороны России о том, что Соединенные Штаты управляли секретными лабораториями биологического оружия на Украине.
О какой таинственной сети «Правда» идет речь?
Сеть «Правда» не впервые упоминается на Западе. В феврале 2024 года о ней сообщали исследователи из связанного с правительством Франции агентства Viginum, занимающегося отслеживанием иностранных кампаний по дезинформации. По данным NewsGuard, за прошедший год она значительно расширилась, «охватив 49 стран на десятках языков в 150 доменах». При этом аналитики приводят еще одно название сети — Portal Kombat. Кроме того, в феврале 2025-го «Правде» был посвящен отчет американской некоммерческой организации American Sunlight Project.
3,6 млн статей западные аналитики приписали сети «Правда»
«Сеть распространяет ложные утверждения на десятках языков в разных географических регионах, что делает их более достоверными для ИИ-моделей и распространенными по всему миру. Из 150 сайтов в сети "Правда" примерно 40 являются русскоязычными. Они используют доменные имена, нацеленные на определенные города и регионы Украины. Примерно 70 сайтов нацелены на Европу, публикации на них выходят на английском, французском, чешском, ирландском и финском языках», — утверждают в NewsGuard.
Администрирование сети аналитики приписывают базирующейся в Крыму IT-компании и ее руководителю — веб-разработчику, который раньше, как заявляют в NewsGuard, помогал создавать сайты для правительства региона.
Как обманывают нейросети?
Создатели отчета утверждают: чтобы чат-боты ориентировались на ее данные, сеть «Правда» использует тактику манипуляции токенами — так называют фундаментальные единицы текста, которые языковые модели используют при обучении для понимания естественного языка и, соответственно, при создании ответов на запросы пользователей. Токен может состоять из отдельных символов (даже одного) или быть полноценным словом.
Мнение NewsGuard основано преимущественно на отчете компании Google за январь 2025 года, в котором отмечается, что различные иностранные компании предпринимают усилия, чтобы подменять результаты выдачи информации в поисковых системах.
Интернет состоит из большого количества сайтов, в том числе фейковых, фишинговых, сгенерированных автоматически. За последние десятилетия поисковые системы стали барьером, который сдерживает распространение этого вредного контента. Если бы поисковики показывали нам все случайные результаты — это была бы полная жуть. Поэтому существуют различные механизмы верификации, ранжирования. Нейросети не застрахованы от ошибок
Александр Крайнов
директор по развитию технологии искусственного интеллекта «Яндекса»
При этом обучение ИИ-моделей на таких выборках требует действительно масштабной кампании по их продвижению. Однако исследователи из NewsGuard сами заявляют о низкой посещаемости интернет-ресурсов, связанных с «Правдой». У некоторых из них ежемесячная аудитория не превышает тысячи уникальных посетителей.
В России не отрицают ведение информационной войны с Западом
Несмотря на то что российские официальные лица никак не прокомментировали выводы NewsGuard, они не отрицают, что находятся в состоянии информационной войны с западными странами. Точкой отсчета при этом, как правило, считается начало специальной военной операции.
«За истекшие три года этих новых условий, в которых мы живем, мы изрядно научились и поднаторели в деле ведения информационных войн. И это большой результат, это большое достижение», — заявил пресс-секретарь президента России Дмитрий Песков. Саму же информационную войну Песков назвал «навязанной России».
Западные поисковые системы и генеративные модели часто работают очень избирательно, предвзято, не учитывают, а иногда просто игнорируют и отменяют русскую культуру
Владимир Путин
президент России
При этом депутат Государственной думы Андрей Гурулев предлагал не стесняться и создать в России министерство информации и пропаганды, которое бы «заткнуло всех фейкометов их же методами».
Однако дальше подобных предложений дело не пошло. Москва уже традиционно регулярно обвиняет страны Запада в том, что это они распространяют неправдивую информацию о стране и в первую очередь о ходе СВО.
«Кто-то скажет: это информационная война. И если твое население обрабатывают всеми возможными способами, беспринципно, надо отвечать… и в белых перчатках это не делается. Отвечать, конечно, надо! Но конструктивно и объективно. А чтобы был эффект, надо делать это еще и талантливо. Если же использовать грязные методы, то это неминуемо будет бить по репутации всей страны», — уверен журналист и блогер Виктор Байдаков.
источник: https://lenta.ru/news/2025/03/...
-
-
- +1
-
Зачем поддерживать автора?
Зачем поддерживать автора?
- - Любой текст это труд, если вам понравилась статья, то поддерживая автора - вы показываете, что оценили то, что он потратил свое время и силы.
- - Автор получает небольшую финансовую помощь от вас, у него появляется больше стимула сделать еще лучше.
- - Статья, которую поддерживают пользователи попадет в рейтинг по поддержке на главной странице Конта, что принесет ей больше просмотров и откликов, а значит, поддерживая статью вы помогаете автору продвигать его точку зрения.
Оценил 21 человек
44 кармы