Все мы на Конте видели такие имена, как Виолетта Крымская, Пицца Денница, Stdpni. Почти все из нас сталкивались с понятиями "кремлебот", "бот сурковский", "порохобот" и так далее. А многие ли из нас задумываются, видя посты и комментарии, о том, человек вообще с ними разговаривает или робот?
Абзац курсивом - это типичный старый SEO-шный приём повышения рейтинга статьи путем эксплуатации когнитивных особенностей как поисковых систем, так и живых читателей. Я специально затолкал этот SEO-абзац в начало статьи, чтобы вы зашли в неё и увидели своими глазами, как тесно сегодня технология доставки идеи переплетена с психологией её предполагаемого потребителя. Ну, или жертвы, в зависимости от целей.
Эта когнитивная особенность заключается в желании человека/бота сэкономить время и принять БЫСТРОЕ решение, насколько ему полезна та или иная статья, не читая её целиком.
Для эксплуатации этой особенности, хороший SEO-специалист должен написать заголовок и первые строки статьи такими, чтобы:
а) они содержали большое количество привлекательных ключевых слов,
б) они были бы короткими и подогнанными по длине под формат рубрики, в которой будут публиковаться
в) они активировали в живом читателе страх, вожделение или любопытство, в зависимости от ситуации.
Теперь к серьёзному. К ОЧЕНЬ серьёзному.
Различных страхов и вожделений у человека хватает, а технический прогресс не стоит на месте.
Поэтому сегодня стало реальностью создание самообучаемых и по сути диверсионных нейросетей, которые будут заниматься тем, что станут имитировать в публичном пространстве реальных людей, пишущих и комментирующих контент, а параллельно с этим анализировать психологию целевой аудитории, находить в ней уязвимые места, чтобы затем в финальной фазе проекта начать долбить по ним приёмами деструктивного НЛП.
Я отнюдь не нагнетаю, но реальность такова, что полноценные диверсионные нейросети сегодня уже могут работать и находиться среди нас.
Недавно мне писали (семантика оригинала чуть исправлена):
Некоторое время назад некие люди запустили проект "Виолетта Крымская": это действительно был живой человек, правда, иногда злоупотребляла спиртным и писала гневные матерные комментарии и ночные статьи в стиле "я тут немножко выпила, а не написать ли мне статью?". Еще занималась провокациями и разжиганием в стиле "Россия бросила Донбасс", не стесняясь лгать читателям, что пишет из окопов и таскает на своих плечах раненых. При этом давила на самые тонкие струны душ читателей, рассказывая, что ей практически оторвало ногу и ставя посты о том, как она, хроменькая, ковыляет мимо витрины и вызывая жалость у своих читателей. Надо признать, что проект работал и находились желающие верить и сочувствовать ей, пока её с позором не выгнали из Живого Журнала. На КОНТе у неё тоже нашлось достаточно последователей.
Потом Тати и Муравейка написали статьи о том, что "Виолетта" - проект и привели доказательства. Проект дал трещину...
Но, повторюсь, "Виолетта" - живой человек, что легко определялось по режиму сна/бодрствования и некоторым нюансам комментирования.
После значительной дискредитации "Виолетты Крымской" на Конте появился проект "Пицца Денница".
В профиле у нее стоит размноженная фотка дамы-модели и написано "Словацкая девушка, блондинка". Это рассчитано на примитивно-мыслящих читателей, скорее - мужчин, которые в реале падки на блондинок с длинными ножками и бюстом третьего размера. Обратите внимание на ее комментарии: в качестве ответов чаще всего сыплются смайлы в виде сердечек и поцелуев :revolving_hearts: :kiss: , что легко выполнимо средствами обыкновенного чат-бота, а орфографические ошибки программы легче всего объяснить тем, что автор не местная, а из другой страны - например, Словакии.
Далее. Я видела, как Пицца общается в личке - поверьте, это не женщина, и пишет онО достаточно грубым мужским сленгом. Первыми это заметили Наивная и Муравейка: они написали об этом в какой-то ветке комментов. После чего думающие читатели начали приглядываться к чудо-Пицце, и многие узрели, что она точно не дама.
Прочитав это, я, как человек, имеющий отношение и к программированию, и к психологии, задумался: может ли сегодня - чисто теоретически - операция, подобная "Пицце Деннице" вестись не живыми людьми, а самообучаемой нейросетью? Да легко!
Если нейросеть способна по лингвистическому анализу комментариев и сферы интересов составить примерный портрет каждого пользователя, и собрать статистику на сотнях тысяч примеров, то у неё появляется возможность:
1) таргетировать вбрасываемые статьи и комментарии по месту и времени, чтобы вброшенный материал увидело максимальное количество людей из целевой группы.
2) программировать реакцию целевой группы на основе того, как представители этой группы реагировали в прошлом на различные реплики и темы других людей.
3) вызвать у целевой группы заранее запрограмированный гнев, страх, панику, желание, симпатию или антипатию этой группы к другой группе, а также вызвать взаимное сближение или вражду групп друг с другом, сместить нравственные ориентиры группы.
4) саботировать конструктивную работу группы, отвлекая её от полезных целей путём вброса статистически привлекательных для группы соблазнов, а также раздуванием искусственных конфликтов, делающих пространство группы непригодным для конструктивной работы.
5) найти наиболее подходящих кандидатов для последующей их вербовки в какую-нибудь агентурную сеть.
6) провести PR-операцию прикрытия для внедряемого живого агента влияния, что продвинет агента в лидеры мнений в целевой группе.
С помощью таких проектов, осуществляемых против различных стратегически важных групп населения государства, можно проводить очень серьёзные операции в рамках гибридной войны.
Так, например, я практически уверен, что диверсионная операция по массовому склонению наших подростков к суициду проводится именно с использованием вот такой машинной самообучаемой нейросети.
Что делать?
Уповать на сознательность и самоконтроль каждого участника группы, как на способ защиты, КАТЕГОРИЧЕСКИ НЕЛЬЗЯ.
Сама по себе способность нейросети анализировать слабости группы и каждого человека в отдельности говорит о том, что машинная нейросеть специально заточена на обход и сознательности и самоконтроля людей. Это даже без того, что данные качества и так работают хорошо далеко не у всех.
Необходимы группы профайлеров - людей, обученных распознавать признаки этических и нейролингвистических диверсий, умеющих выявлять и выводить на чистую воду диверсионные проекты, участвующих в них людей и машинные нейросети.
Необходимо также создание собственной оборонительной профайлерской машинной нейросети, способной на основе анализа поведения информационных источников выявлять за ними атакующую машинную нейросеть противника, находить в её алгоритмах уязвимости и через них выводить её на запроектные режимы работы, в которых она будет давать сбои и публично показывать свою полную неадекватность.
Организовывать систему оборонительного профайлинга нужно сейчас. Промедление будет очень дорого нам всем стоить.
* * *
В качестве индивидуальной оборонительной меры настоятельно рекомендую:
- внимательно относитесь к любым данным, публикуемым вами в сеть, в том числе и в личную переписку (Фейсбук, например, мало того, что кормит приватные данные юзеров своей нейросети, так еще и сливает их Украине). Размещая в сети личные данные, специально задумайтесь о том, как затруднить нейросетям сопоставление ваших персональных данных с вашими поисковыми запросами, письмами, статьями и комментариями.
- помните, что сегодня никакая действительно важная и ценная информация не приходит в виде хайпа, скандала, моды, PR-кампании, эмоционально заряженных материалов. Любой кипиш - свидетельство перехваченного управления или попытки его перехватить.
- все важные для вас проекты, в том числе и особенно(!)- ваши рабочие группы по выработке общественно значимых конструктивных изменений (если вы этим занимаетесь) должны проходить СТРОГО в закрытом и постоянно модерируемом режиме. В ЛЮБОЕ публичное пространство, обсуждающее жизненно важные вопросы, быстро внедряются нейролингвистические боты, потому что они находятся на боевом дежурстве и постоянно сканируют сеть на предмет таких обсуждений.
- любая общественная инициатива, высказанная публично, будет подвергаться попыткам саботажа, будьте к этому готовы. Причем, судя по тому, что саботажу подвергаются как про- так и контр-государственные инициативы без разбора, этот саботаж не имеет внутрироссийской политической ангажированности, а имеет целью срыв общественного диалога в России в принципе, и нагнетание вместо него общего психоза и атмосферы взаимного недоверия всех ко всем.
- контролируйте, насколько можете, собственные слабости и соблазны, так как через них обязательно будут пытаться управлять вашим поведением. Членов ваших пабликов, замеченных в резкой перемене поведения и мнений не стесняйтесь вызывать на откровенный разговор и исключать из сообщества в случае отказа.
- при появлении в вашем поле зрения подозрительно ведущего себя источника информации (склонного вбрасывать спорные материалы, троллить, разжигать вражду), внимательно проанализируйте его режим дня по датировкам его статей и комментариев. Боты не ходят на работу и не спят ночью, поэтому распознать бота можно по неадекватно большому времени, проводимому им на ресурсе каждый день. Вместе с тем, имейте в виду, что бот вбрасывает свои наиболее спорные материалы и реплики именно в расчетное время максимального охвата аудитории.
- если вы имеете модераторские или административные права, не стесняйтесь блокировать пользователей, похожих по поведению на нейролингвистических ботов. Даже если окажется, что это был не бот, а просто не совсем адекватный человек, хуже сообществу от его удаления точно не станет.
- обучитесь навыкам профайлинга, если ведите профайлерскую работу, если можете.
* * * Кто еще этим занимается? * * *
Беглый обзор сети позволил найти следующие организации:
- Международную академию исследования лжи (занимается детекторами лжи и профайлингом, существует факультет профайлинга) - http://iarl.ru
- Международную ассоциацию профайлеров сайт Профайлер.РФ (http://xn--80aklimfhf5a.xn--p1ai)
- Курсы профайлеров https://vk.com/club57579135
Ну и много еще такого, если погуглить.
Только я пока там не видел серьёзных упоминаний именно о профайлинге против атакующих машинных нейросетей.
Оценили 13 человек
16 кармы