Киберписатели постправды

Автор Елена Ларина написала в своем блоге: https://zavtra.ru/blogs/kiberp...

Результаты киберписателя - рост числа сторонников пропагандируемых идей и их радикализации сторонников

Одним из сильнейших средств формирования мировоззрения, идеологии в настоящее время являются социальные сети.

Рассмотрим подробнее социальные платформы, в том числе в ретроспективе. Исторически сначала в сфере бизнеса и гражданского общества, а затем и в военной сфере стал широко использоваться пропагандистский или идеологический инструментарий. Он предполагал воздействие посредством различных типов упаковки информационных пакетов — включая не только тексты и образы, но и звуки и даже архитектуру, — на ценности, убеждения, предпочтения личности. С лёгкой руки родственника З. Фрейда Э. Бернейса он получил название «активная пропаганда». Этот метод использовался не только в отношении индивидуумов и небольших социальных групп, но и гигантских масс людей.

В научной литературе отсутствуют всесторонне доказательные оценки эффективности пропаганды как отдельного вида противоборств. Однако детальные исследования пропагандистских машин, использовавшихся в XX веке, показывают, что в реальности эффективность, безусловно, присутствовала, но не была решающим образом высока. Люди, особенно с высшим образованием и развитым рациональным мышлением, быстро учились двойничеству. Эффект двойничества проявлялся, когда внешне человек демонстрировал преданность тем или иным идеалам и установкам, а внутренне оставался при своём мнении и тщательно скрывал его, опасаясь за свою жизнь или благополучие.

Использование пропаганды было вызвано не её высокой эффективностью, а возможностью при минимальных затратах охватывать максимальную аудиторию, а также безальтернативностью пропаганды в арсенале социогуманитарных методов.

Ещё одно направление информационных противоборств – это целенаправленное когнитивное воздействие. В информационных противоборствах оно в основном нацелено на резкое понижение уровня информационной осведомлённости субъектов воздействия, на скачкообразное повышение уровня их интеллектуальной неуверенности и на формирование недоверия к любым источникам информации.

В последние годы были разработаны и с успехом использованы в различных сегментах всемирной паутины несколько высокоэффективных инструментов когнитивного противоборства. В их числе необходимо, прежде всего, выделить «информационный пузырь», который впервые открыл и описал американский программист Эли Парайзер. Алгоритмы поисковых машин настроены таким образом, чтобы в поисковой выдаче содержались материалы, наиболее подходящие субъекту поиска, исходя из истории его предыдущих поисковых запросов, текстов электронных писем, контактов в сети. Благодаря «пузырю» поисковые машины к середине 2010-х годов превратились в высокоэффективную систему пропаганды.

Вскоре обнаружилось, что «информационный пузырь» присутствует и в социальных сетях. Алгоритмы социальных сетей работают таким образом, чтобы подбирать в число друзей, а также информационных материалов те субъекты, тексты, видеоролики, которые близки автору запроса. Вместо того, чтобы расширять горизонты познания и знакомить пользователей с альтернативной точкой зрения, социальные сети по всей планете загоняют своих пользователей в клиентов в сообщества, где присутствуют только единомышленники.

С 2016 года сначала в лексикон социальных инженеров, специалистов по интернет-кампаниям, а затем и в словари медиа, а, в конце концов, в повседневный язык вошло слово «постправда». Поскольку интернет-аналитики уловили тенденцию сокращения времени пребывания пользователя на одном ресурсе (если в 2000 г. оно составляло в среднем 1,4 минуты, то в настоящее время – чуть менее 25 секунд), они подсказали политтехнологам возможность размещать на страницах социальных сетей и сайтов любую нелепицу, даже без ссылок на первоисточники, главное — близкую по духу пользователям того или иного интернет-сообщества, либо группы в социальных сетях.

Наряду с интернет-пузырями и постправдой, всё шире и активнее в когнитивных противоборствах используются фейки. Они в основном готовятся на материале фото- и кинопродукции. Согласно данным американских экспертов по семантике интернета, в настоящее время до 30% видеопродукции политического содержания изготовлено с применением программных средств генерации фейков. Использование фейков позволяет реализовать хотя бы одну из целей когнитивных атак. Менее продвинутая публика воспринимает фейковую информацию в качестве правдивой, а лица с более высоким уровнем образования и критического мышления, встречаясь с фейками даже не ежедневно, а ежечасно, теряют всякое доверие к любым, в том числе качественным, ресурсам в интернете как источникам актуальных и проверенных знаний.

В настоящее время в процессах информационного взаимодействия в США участвует 97,6% людей и 2,4% ботов. Исследования, проводимые соответствующими университетами и институтами, позволили прийти к следующему выводу: внедрение ботов является доминирующим фактором подавления качества сетевой информации. Боты даже не нацеливаются на влиятельных пользователей, а наносят максимальный урон, выбирая среди людей случайные жертвы. При использовании ботов расчёт делается не на изменение общественного мнения, не на действительные результативные воздействия — например, на итоги различных выборов, — а на хаотизацию политического сознания, перевод экстремистских и фундаменталистских сил из режима болтовни и демонстраций в режим активных столкновений с идеологическими противниками и полицией.

В 2017–2020 гг. на практике было отработано использование метода «стимулированного усиления социальных действий». Суть метода состоит в следующем. В социальные интернет-сообщества с уровнем сплочённости не ниже среднего вбрасывается искусно изготовленный контент. Он должен в обязательном порядке быть распознаваем членами сообщества. Затем с помощью агентов внутри сообщества запускается оживлённая дискуссия, в которой формируются различные точки зрения на контент. Затем на арену выходит инфлюенсер – влиятельное и популярное в тех или иных сегментах социальных сетей лицо. Он подводит своего рода итоги дискуссии и выносит вердикт, что называется, с нормативной трактовкой содержания или главного смысла контента. После того, как достаточно замкнутое сообщество в рамках эффекта эхо-камеры консолидируется вокруг мнения инфлюенсера, на арену выходит официальное лицо, формулирующее действия, которые должны осуществить члены сообщества в соответствии с выводами инфлюенсера и достигнутым общим консенсусом.

Принципиально новым в использовании метода стало, начиная со второй половины 2019 г., применение в качестве поставщиков контента для группы, переводимой из режима дискуссии в режим активных действий агрессивного экстремистского характера так называемых Киберписателей, созданных в виде приложения GPT-2 от OpenAI*.

Киберписатель на порядок продуктивнее, точнее и, что называется, интеллектуальнее обычного бота – генератора фейковых новостей. Про фейковые новости (как и про любые другие) в нашем перегруженном информацией мире быстро забывают. Максимум, что от них остаётся через месяц, — мусор путаных воспоминаний в головах массового потребителя информации.

Киберписатель работает принципиально иначе. Он генерирует не фейковые новости, а комментарии, цель которых утопить комментарии против содержательных основ пропагандируемых идей, а также усилить воздействие комментариев в поддержку пропагандируемых идей. Фейковые новости способны лишь на временное искажение представлений людей о реальном ходе событий, их движущих силах и возможных последствиях. Они как бы искажают восприятие человеком окружающего ландшафта, по которому он движется.

Действие Киберписателя куда фундаментальней по последствиям. Киберписатель изменяет мотивацию людей, делая для них привлекательным навязываемое им направление движения. Результаты работы киберписателя - рост числа сторонников пропагандируемых идей и их радикализации сторонников. Растёт эмоциональный накал против тех, кто хочет идти иным путём.

Киберписатель с искусственным интеллектом уже сегодня генерирует осмысленные действия, не отличимые от написанных людьми, особенно со средним интеллектом или имеющим мировосприятие, характерное для радикальных, фундаменталистских и экстремистских групп.

* GPT-2. Это нейронная сеть с рекордным на данный момент числом параметров (1.5 млрд, против обычно используемых в таких случаях 100-300 млн) обладает способностью генерировать целые страницы связного текста. (https://habr.com/ru/post/44056... ее основе Гугл разработал Open Sourcing BERT, способную произвести современную предварительную подготовку к обработке естественного языка. (https://ai.googleblog.com/2018...)