• РЕГИСТРАЦИЯ

Как нейросети научили фальсифицировать новостную картину.

Sage
12 декабря 2019 г. 17:52 3 1540

Для создания фейков используются системы искусственного интеллекта и технологии генерации видео- и аудиофальшивок.

Чтобы создать для любого из нас «индивидуальную» новостную картину и фальсифицировать подобранные в ней сообщения СМИ, сегодня достаточно усилий одного программиста. Об этом «Известиям» рассказали специалисты по искусственному интеллекту и кибербезопасности.

Совсем недавно, по их оценкам, для этого требовалась работа нескольких команд. Подобное ускорение стало возможным с развитием технологий атак на нейросети и генерации звуковых и видеофальшивок с помощью программ для создания «глубоких фейков» (deepfake). Подобной атаке недавно подверглась газета «Известия», когда сразу три ливийских новостных портала опубликовали сообщение, якобы вышедшее в одном из номеров. По словам специалистов, в течение 3–5 лет можно ожидать нашествия ботов-манипуляторов, которые автоматически смогут создавать множество фейков.

Дивный новый мир

Проектов, которые подстраивают информационную картину под восприятие конкретных пользователей, в последнее время появляется всё больше. Одним из примеров их работы стала недавняя акция трех ливийских порталов, которые опубликовали новость, якобы напечатанную в номере «Известий» от 20 ноября.

Создатели фейка видоизменили первую полосу газеты, разместив на ней сообщение о переговорах фельдмаршала Халифы Хафтара и премьера правительства национального согласия (ПНС) Файеза Сарраджа. Фальшивку, выполненную шрифтом «Известий», сопровождало фото двух лидеров, сделанное в мае 2017 года. Плашка с логотипом издания была вырезана из реально вышедшего в печать номера от 20 ноября, а все остальные тексты на полосе из выпуска от 23 октября.

С точки зрения специалистов, в обозримом будущем такие фальсификации можно будет делать в автоматическом режиме.

— Технологии искусственного интеллекта сегодня полностью открыты, а устройства для получения и обработки данных миниатюризируются и дешевеют, — сообщил «Известиям» доктор физико-математических наук, профессор РАН, начальник подразделения ФГУП «ГосНИИАС» Юрий Вильзитер. — Поэтому велика вероятность, что в скором будущем подслушивать и подсматривать за нами, а также манипулировать реальностью смогут даже не государство и крупные корпорации, а просто частные лица.

В течение ближайших лет появится возможность, анализируя предпочтения пользователя, воздействовать на него посредством подборок новостей и очень искусных фейков.

По мнению Юрия Вильзитера, технологии, которые могут быть задействованы для подобного вмешательства в ментальную среду, существуют уже сейчас. Теоретически нашествия ботов-манипуляторов можно ожидать уже через несколько лет, отметил он. Сдерживающим моментом здесь может стать необходимость сбора больших баз примеров реакций реальных людей на искусственные стимулы с отслеживанием долгосрочных последствий. Такое отслеживание, вероятно, потребует еще несколько лет исследований до получения стабильных результатов таргетированных атак.

Атака на зрение

С Юрием Вильзитером согласен и руководитель отдела аналитики компании «СёрчИнформ» Алексей Парфентьев. По его словам, специалисты уже прогнозируют атаки на нейросети, хотя сейчас подобных примеров практически нет.

— Исследователи из Gartner считают, что к 2022 году 30% всех кибератак будут нацелены на порчу данных, на которых тренируется нейросеть, и кражу готовых моделей машинного обучения. Тогда, например, беспилотные автомобили неожиданно могут начать принимать пешеходов за другие объекты. И речь будет идти не о финансовом или репутационном риске, а о жизни и здоровье простых людей, — считает эксперт.

Атаки на системы компьютерного зрения осуществляются в рамках исследований уже сейчас. Цель таких атак — заставить нейросеть обнаружить на изображении то, чего там нет. Или, наоборот, не увидеть того, что планировалось.

— Одна из активно развивающихся тем в сфере обучения нейронных сетей — так называемые adversarial-атаки («состязательные атаки». — «Известия»), — пояснил веб-аналитик «Лаборатории Касперского» Владислав Тушканов.

— В большинстве случаев они направлены на системы компьютерного зрения. Для проведения такой атаки в большинстве случаев требуется иметь полный доступ к нейросети (так называемые white-box-атаки) или результатам ее работы (black-box-атаки). Методов, которые позволяют обмануть любую систему компьютерного зрения в 100% случаев, не существует. Кроме того, уже созданы инструменты, которые позволяют тестировать нейросети на устойчивость к adversarial-атакам и повышать их устойчивость.

В ходе такой атаки злоумышленник пытается каким-то образом изменить распознаваемое изображение так, чтобы нейросеть не сработала. Часто на фото накладывается шум, схожий с тем, который возникает при фотографировании в плохо освещаемом помещении. Человек обычно плохо замечает такие помехи, а вот нейросеть начинает сбоить. Но для того чтобы провернуть такую атаку, злоумышленнику нужен доступ к алгоритму.

По словам генерального директора компании «Нейросети Ашманова» Станислава Ашманова, на данный момент методов борьбы с этой проблемой не существует. Кроме того, эта технология доступна любому желающему: программист средней квалификации может ею воспользоваться, скачав необходимое открытое программное обеспечение с сервиса Github.

— Атака на нейросети — это методика и алгоритмы обмана нейронной сети, которые заставляют ее выдавать ложные результаты, а по сути, взламывают ее, как дверной замок, — считает Ашманов. — Например, сейчас довольно легко можно заставить систему распознавания лиц думать, что перед ней не вы, а Арнольд Шварценеггер — это делается путем подмешивания незаметных человеческому глазу добавок в данные, поступающие к нейросети. Такие же атаки возможны и для систем распознавания и анализа речи.

Эксперт уверен, что дальше будет только хуже — эти технологии пошли в массы, мошенники уже сейчас их используют, а средств защиты от них нет. Как нет защиты и от автоматизированного создания подделок видео и аудио.

Глубокие фейки

Технологии deepfake, основанные на Deep Learning (технологии глубокого обучения нейросетей. — «Известия»), уже сейчас представляют реальную угрозу. Видео- или аудиофальшивки создаются с помощью монтажа или наложения лиц известных людей, которые якобы произносят необходимый текст и играют нужную роль в сюжете.

— Deepfake позволяет заменить движения губ и речь человека на видео, что создает ощущение реалистичности происходящего, — рассказывает директор департамента инновационной защиты бренда и интеллектуальной собственности Group-IB Андрей Бусаргин. —

Фейковые знаменитости «предлагают» в социальных сетях пользователям поучаствовать в розыгрыше ценных призов (смартфонов, автомобилей, денежных сумм) и т.д. Ссылки из таких видеопубликаций часто ведут на мошеннические и фишинговые сайты, где пользователей просят ввести личные данные, включая данные банковских карт.

Подобные схемы представляют собой угрозу как для обычных пользователей, так и для публичных лиц, которые упоминаются в рекламных роликах. Из-за махинаций такого рода образы знаменитостей начинают ассоциироваться с мошенничеством или рекламируемыми товарами, и здесь мы сталкиваемся с ущербом личному бренду, — говорит он.

Еще одна угроза связана с использованием «фейковых голосов» для телефонного мошенничества. Например, в Германии злоумышленники использовали голосовой deepfake, чтобы в телефонном разговоре, выдавая себя за руководителя компании, заставить руководителя дочерней фирмы из Великобритании срочно перевести €220 тыс. на счет некоего венгерского поставщика. Глава британской фирмы заподозрил подвох, когда его «босс» попросил о втором денежном переводе, но звонок при этом исходил с австрийского номера. К этому моменту первый транш уже поступил на счет в Венгрии, откуда деньги были выведены в Мексику.

Получается, что ныне существующие технологии позволяют создать индивидуальную новостную картину, наполненную фейковыми новостями. Причем отличить подделки от реального видео и аудио скоро можно будет только аппаратными средствами. По словам специалистов, меры, запрещающие развитие нейросетей, вряд ли будут эффективными. Поэтому скоро мы будем жить в мире, в котором нужно будет постоянно всё перепроверять.

— К этому нужно готовиться, и это нужно принять, — подчеркнул Юрий Вильзитер. — Человечество не впервые переходит из одной реальности в другую. Наш мир, способ жизни и ценности радикально отличаются от мира, в котором жили наши предки 60 000 лет назад, 5000 лет назад, 2000 лет назад и даже 200–100 лет назад. Человек в скором будущем в значительной степени будет лишен приватности и потому принужден ничего не скрывать и поступать честно. В то же время ничего в окружающей реальности и собственной личности нельзя будет принимать на веру, всё придется подвергать сомнению и постоянно перепроверять. Но будет ли эта будущая реальность ужасной? Нет. Она просто будет совершенно иной.

Анна Урманцева

Источник

PS: Создаваемые нейросети, 5G - основа будущей Матрицы для нашего сознания


Послание Путина — революция сверху

Что вам сказать, граждане? Послание Совету Федерации получилось предельно насыщенным. Я даже и не знаю, с начала проще начинать, или с конца. Наверное, всё-таки с конца. Референдум! Изменения...

Срезал!

Ну? Кто еще "хочет комиссарского тела"?...Хотели "транзита власти"? Пожалуйте в транзитный коридор. Второе: предлагаю на конституционном уровне закрепить обязательные требования к лицам, которые ...

Правительство России ушло в отставку (ОБНОВЛЯЕТСЯ)

Правительство России подало в отставку. Об этом сообщает ТАСС со ссылкой на премьер-министра Дмитрия Медведева. Президент России Владимир Путин поручил уходящему правительству исполнять свои об...

Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

0 новых комментариев

    Загрузка...

    Генезис Вселенной

    Согласно эзотерическим знаниям, Космос рождается к бытию, существует определенное время, а затем снова растворяется в небытии. В древних сказаниях Индии, период существования Космоса назван «Веком Брамы» или «Великой Манвантарой». Для написания числа, указывающего время в наших годах, существования Вселенной, требуется пятнадцать цифр. И хотя цифра огро...
    105

    Квантовая реальность или как я выгляжу на самом деле.

    Квантовая реальность — Ваша жизнь становится тем, во что Вы больше всего верите! Лауреаты Нобелевской премии в области физики доказали, что, вне всяких сомнений, физический мир – это единый океан энергии, который возникает и спустя миллисекунды исчезает, пульсируя снова и снова. Нет ничего сплошного и твердого. Таков мир квантовой физики.Доказано, что т...
    305
    Sage 16 января 20:12

    Изменение установки программы «Невозможно» на «Возможно всё»

    Так ли много мы о себе знаем, когда думаем или говорим себе: «Это для меня невозможно»? Скорее всего, в этом случае мы просто послушно следуем шаблону — установленной в нашей матрице программе, которая закрывает от нас либо сильно ограничивает наши возможности. Но установки нежелательных программ — и сегодня мы это знаем — вполне поддаются изменению.Вед...
    266
    Sage 16 января 18:18

    Жизнь с Нуля! Три принципа Перезагрузки.

    В ближайшем будущем из-за развития искусственного интеллекта, автоматизации и роботизации огромное число людей с хорошим образованием останутся не у дел и без работы. Вероятно, выиграют только те, кто вовремя сможет понять это и начнет меняться.Для того, чтобы двигаться вперед на качественно новом уровне, надо сначала что-то изменить в себе. Движение — ...
    265
    Sage 16 января 17:01

    Загадки Киммерийской цивилизации до сих пор не разгаданы.

    Киммерийский народ является одним из древнейших народов Восточной Европы и первым племенем нашего региона название, которого сохранилось, в самых ранних письменных источниках. Загадки Киммерийской цивилизации до сих пор не разгаданы и оставляют массу сложных вопросов для историков и археологов, связанных с их происхождением и историей.Прародиной киммери...
    1430
    Sage 16 января 15:41

    Двадцатые: гонка генного оружия?

    Перед наступлением 2020 года появилось немало прогнозов развития новых технологий в двадцатых годах. Как правило, они все касались проблем искусственного интеллекта (ИИ) и информационных технологий в целом (IT). Но практически нет публикаций о технологическом пакете BEGEN. Эту аббревиатуру ввёл в научный оборот гуру биотехнологий Дж. Метцль. Она расшифр...
    535
    Sage 16 января 09:30

    "В Велюве, возможно, когда-то жили сотни тысяч русских и украинцев". Volkskrant.

    Так называется статья, которая вышла в голландском издательстве Volkskrant в августе 2019 года. Было озвучено сенсационное заявление голландских ученых, занимающихся исследованием древних захоронений.Veluwe — это местность в провинции Гердерланд, общей площадью 91 200 гектаров. Ученый-археолог из Лейдена Квентин Буржуа, изучая этот регион вместе со свое...
    833
    Sage 16 января 09:01

    Древнеримский Пантеон - Храм всех богов

    Казалось бы, за сколько лет существования древнейшего Храма всех богов – Пантеона не должно остаться никаких тайн и загадок, но чем больше времени проходит, тем больше вопросов возникает. И все попытки определить хотя бы возраст сооружения или понять способ строительства уникального купола, аналога которому так больше землянам и не удалось создать, до с...
    750
    Sage 15 января 16:43

    Секреты допотопных цивилизаций. Почему так ценилось золото?

    Не только Великие Пирамиды Гизы, но и многие другие мегалитические сооружения, построенные древними допотопными цивилизациями, поражают размахом и высокими технологиями, до сих пор недоступными нашей науке. Каким образом поднимались, переносились и укладывались на значительной высоте эти гигантские каменные блоки весо...
    2789

    Принятие самого себя или парадокс психотерапии

    Сегодня я хочу рассказать вам одну тайну, которую знают только психотерапевты и те их клиенты, которые успешно движутся по направлению к обретению себя в новом статусе – в статусе счастливой, гармоничной личности, у которой всё что бы ни задумал, всё получается так, как хотел...Я сказала, что эта тайна известна тeм, кто общается с психотерапевтами или ч...
    1885
    Sage 14 января 15:51

    Древний город на Анабарском плато?

    Многие люди слышали про невероятное плато Путорана, которое находится в Сибири. Однако мало кому известно Анабарское плато, которое находится рядом с ним. Геологи считают, что это одна из древнейших структур, возраст которой больше 3 миллиардов лет. Оба этих огромных плато труднодоступны и поэтому мало изучены — практически только геологи их и исследова...
    2199
    Sage 14 января 14:08

    Таких январей ещё не бывало никогда

    В Европейскую Россию пробился очередной атлантический циклон. На погоду этот вихрь начал влиять ещё в воскресенье. Сильные снегопады прошли на севере и северо-западе Русской равнины: на Кольском полуострове, в Поморье, Вологодской, Ленинградской и Новгородской областях, а также в Республике Коми. В Архангельске образовался гололёд – толщина наледи дости...
    457
    Sage 13 января 16:19

    Подлинное назначение северных лабиринтов.

    Лабиринты русского Севера являются артефактами очень древней арктической цивилизации Арктиды-Орианы-Гипербореи. Какие только гипотезы не строили современные ученые в отношении этих каменных сооружений. Однако, подлинным знанием об их предназначении владеют ныне только хранители древней орианской традиции.Вот, например, что поведал российскому путешестве...
    609
    Sage 13 января 11:49

    Почему на Руси запретили гусли.

    Заместитель директора по науке Вологодского областного научно-методического центра народного творчества, кандидат исторических наук, этнограф. Член научно-общественного движения «Северная Традиция». Более 20 лет занимается исследованиями Гипербореи, по крупицам собирая информацию, восстанавливая облик удивительной страны, не менее легендарной, чем знаме...
    912
    Sage 10 января 18:27

    Остатки древних цивилизаций: вертикальные пещеры и входы во внутреннюю Землю.

    Думаю, многие помнят карстовые воронки.Какие только теории не были озвучены по поводу их появления. В основном ученые сходятся к природному газу или пустотам. Но так ли это?Посмотрим на то, как выглядят некоторые более древние артефакты подобного типа, которые принято считать природными образованиями: Для начала вспомним некоторые моменты ...
    3416
    Sage 10 января 16:37

    Волны Шумана и электромагнитный смог Кибардина.

    Не многие люди знают, что все живое на Земле находится под непрерывным воздействием стоячих электромагнитных волн низких и сверхнизких частот между поверхностью Земли и ионосферой. Это собственные электромагнитные частоты планеты Земля. Одна из них, основная, равна в среднем 7,8 герца.Первым, кто открыл особые низкие и сверхнизкие частоты колебаний ...
    574
    Sage 9 января 18:30

    Древние ассирийские письмена задокументировали сильнейшие солнечные бури 2700 лет назад.

    Древняя Ассирия — одно из самых древних государств нашей планеты, которое по праву может считаться самой первой мировой империей в истории человечества. Согласно статье, опубликованной порталом newsweek.com, в древних ассирийских клинописных табличках было обнаружено присутствие намеков на необычную солнечную активность, которая представляла из себя три...
    1972
    Sage 9 января 18:13

    Китайцы: товарищи из КПК собрались отредактировать Библию и Коран.

    Ситуация с основными мировыми религиями в Поднебесной общеизвестна, однако теперь, похоже, Китай превзошёл самого себя и заявил, что все «классические религиозные книги» будут «переоценены». Китайские коммунисты намерены переписать исламские и христианские священные писания так, чтобы фигурирующие там «экстремистские мысли» и «еретические идеи» не разру...
    997

    В отключке. Что происходит с мозгом йогов и шаманов

    Йоги лучше управляют эмоциями, менее подвержены стрессу, дольше сохраняют мыслительные способности. Медитация, как и шаманский транс, включают в мозге нейронную сеть, вводящую человека в состояние отрешенности и озарений. К такому выводу ученые пришли, анализируя экспериментальные данные.Как мозг уходит в себяЙога, зародившаяся в Индии более двух тысяч ...
    504
    Sage 9 января 16:56

    Люк на голове сфинкса - одна из деталей в Египте, которую сложно объяснить официальной историей.

    Сфинкс представляет много загадок: в прошлом он мог иметь крылья, выглядеть немного иначе, но в этой статье я хотел порассуждать о люке на голове сфинкса о котором стало известно только при появлении возможности фотографировать сверху.Почти каждый человек знает египетского сфинкса, как цельную древнюю статую, но люк ставит под сомнение версию цельности ...
    3220
    Служба поддержи

    Яндекс.Метрика