Игорь Ашманов оценил плоды бездумной цифровизации

Каждый пятый звонок в России — звонок мошенников. Ежедневно они крадут у нас миллиард рублей. И это не просто криминальный бизнес, это военная операция против нашей страны.

О том, можно ли разбомбить мошеннические колл-центры на Украине, о вытеснении западных цифровых сервисов и угрозах, связанных с повальным распространением искусственного интеллекта (ИИ), aif.ru рассказал известный специалист в сфере информтехнологий, член Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ), глава аналитической компании «Крибрум» Игорь Ашманов

Мошенники — на шаг впереди

—Игорь Станиславович, хочу поделиться с вами реальной историей. Недавно пожилого коллегу моей жены жулики заставили влезть в долги и продать квартиру. Ему позвонили якобы из онкоцентра, в котором он наблюдался, сказали, что у него плохие анализы и срочно необходимо лечение. Но деньги попросили передать, минуя кассу — мол, если оформлять все официально, то долго придется ждать, «вы не доживете». И одинокий пенсионер с испугу потерял всё, что имел, ютится теперь у сестры. Уловки мошенников становятся всё изощрённее?

—Да, ведь это огромная индустрия, за которой стоят неглупые люди. По оценкам, в колл-центрах на территории Украины (Киев, Запорожье, Днепропетровск — последний вообще называют столицей мошеннического бизнеса) работают от 50 до 100 тысяч человек. Там есть детальное разделение труда. Кто-то непосредственно звонит жертвам, кто-то рекрутирует новых «сотрудников» (прямо на сайтах объявлений можно найти такую работу, никто не стесняется), кто-то обеспечивает эту армию всем необходимым, кто-то придумывает стратегию, следит за горячими инфоповодами и придумывает новые схемы «разводки». И мошенники всегда будут на шаг впереди тех, кто пытается с ними бороться. Да и как у нас борются? Предлагают, например, развивать «цифровую грамотность». Но это бесполезно.

— Почему?

— Потому что все эти советы о том, как реагировать на звонки незнакомцев, не работают. Мошенники с легкостью разводят даже докторов физических, математических наук, специалистов по информационной безопасности, депутатов, сотрудников спецслужб — то есть людей, которые, казалось бы, вообще не должны клевать на эту удочку. Эти люди прекрасно знают схемы обмана, но сами на них попадаются. Я лично наблюдал ситуацию, когда наш специалист по информбезопасности получил такой звонок якобы из банка. Говорю ему: бросай трубку, тебя разводят. А он от меня отмахивается — мол, не мешай, отойди, это другое. Пришлось просто физически отнять у него телефон. Мошенник потом перезванивал несколько раз, требовал передать трубку жертве…

— Можно подумать, что жулики применяют какую-то магию, если даже опытные люди попадаются в их сети.

— Магия тут не при чем. Причина в другом. Мозг современного человека, который 5–7 часов в день смотрит в смартфон, потребляя в основном не нужную ему, но очень яркую и кричащую информацию, получает в минуту десятки, а в час — тысячи острых раздражителей. И чтобы защититься от этого потока, мозг включает своего рода режим торможения. Подобные опыты проводились над собаками: животное со всех сторон пугали громкими звуками, яркими вспышками и т. д. Через некоторое время собака просто ложилась на землю и впадала в ступор, ни на что больше не реагируя. Наш мозг, конечно, не отключается совсем, но включает своеобразную «пелену», которая гасит раздражители. Человек становится забывчивым, теряет способность думать, впадает в транс. Подобное состояние вызывают гипнотизеры на своих сеансах, так что из подопытных можно веревки вить. Здесь та же история. Многие из нас еще до звонка мошенника пребывают в состоянии гипноза. Посмотрите на людей в транспорте — вы увидите толпы зомби, которые непрерывно смотрят в экраны гаджетов, не замечая ничего вокруг. В таком состоянии они идут через переход, едят, даже ведут машину. Мошенник веером рассылает первый контакт, быстро находит такого зомби и с помощью правильно подобранных тревожных шокирующих фраз перехватывает его внимание. И тот, не выходя из транса, начинает исполнять всё, что ему говорят.

Вторая причина — у нас до сих пор никого не наказывали за утечку сотен миллионов записей персональных данных. Именно с их помощью мошенники втираются в доверие. Когда к человеку обращаются по имени-отчеству, рассказывают ему такие подробности, о которых, по идее, посторонние знать не должны — скажем, те же медицинские диагнозы, у него возникает уверенность, что это «официальный» контакт.

И третья причина заключается в том, что на территории России у украинских мошенников немало пособников. Звонки, поступающие с помощью IP-телефонии, т. е. через интернет, они преобразуют и «приземляют» в сотовую сеть. Для этого используются различные шлюзы, в том числе так называемые сим-боксы, в которые воткнуты тысячи сим-карт. Я уверен, что при таком количестве звонков всё это не может происходить без ведома мобильных операторов. 

— А о каком количестве идет речь?

— По подсчетам Сбербанка, порядка 20 млн звонков в день. Я слышал и другую, относительную оценку: до 20% всех мобильных звонков в стране — звонки мошенников. И даже если эти сим-карты добываются через какие-то мелкие фирмы и звонки маршрутизируют через мелких партнёров в регионах, такой объем трафика просто невозможно не видеть в центральном офисе крупного оператора. И когда эти компании рассказывают нам, что «наша главная задача — повышение цифровой грамотности населения» — это, извините, попытка перекинуть дохлую кошку из своего огорода в чужой. Потому что и утечками данных, и вот этим пособничеством они на самом деле помогают воровать деньги населения. А потом говорят, что граждане сами виноваты, и что надо лучше их образовывать.

— Уже месяц действует закон о противодействии телефонным мошенникам. Усложнил ли он им жизнь?

— Есть сведения, что количество криминальных звонков в первом полугодии снижается. Не знаю, так ли это. Весной на банковском форуме по безопасности министр цифрового развития заявил, что их цель — добиться того, чтобы количество украденных у россиян денег в этом году хотя бы перестало расти. Но я предполагаю, что мошенники, столкнувшись с препятствиями, просто найдут новые каналы заработка. Станет сложнее звонить — они мигрируют в мессенджеры и т. д. Сейчас чуть ли не половина разводок — уже в Telegram и WhatsApp.

Надо не по хвостам бить, а устранять первопричины: наказывать за утечку данных, разбираться с мобильными операторами, вводить ответственность банков за переводы мошенникам, запрещать госорганам и системообразующим сервисам использовать Telegram и WhatsApp для общения с населением.

В конце концов, что нам мешает разбомбить эти контакт-центры в рамках СВО? Ведь наверняка их координаты хорошо известны. Кто-то скажет: нельзя, там же гражданские люди сидят. А, по-моему, там сидят прямые враги, которые отнимают у наших граждан миллиард рублей каждый день — и вербуют террористов на нашей территории. Я бы стрелял по ним без раздумий. Тем более что это не какой-то частный бизнес, это государственная военная операция, управляемая СБУ.

На войне как на войне

— В Госдуме заявили, что запрет на ввоз айфонов в Россию могут ввести уже в следующем году, если Apple будет препятствовать установке на них российского магазина приложений. Переходим к решительному наступлению на глобальных цифровых гигантов?

— Вообще-то решение о том, что на всех телефонах в России должны предустанавливаться отечественные приложения из RuStore, принято давно. Просто, видимо, боялись замахнуться на Apple. У нас же иметь айфон до сих пор считается престижным, и большинство чиновников им щеголяют, несмотря на то, что им-то как раз запретили этим гаджетом пользоваться. Я сам видел, что некоторые носят по два аппарата — айфон и еще один, для служебного пользования… Поэтому говорить о какой-то решительности в борьбе с западным присутствием я бы не стал. Притом что мы с Америкой фактически воюем, и они этого особо не скрывают. Недавно технических директоров OpenAI и других ведущих компаний, занимающихся искусственным интеллектом, призвали в Пентагон, сформировали из них так называемый Отряд 201, всем присвоили воинское звание подполковника. То есть маски сброшены, ИИ официально признан военной технологией. А мы всё рассуждаем — пускать нам эти технологии к себе, или еще полгодика подождать?

— Но вот недавно президент призвал «душить» западные сервисы, которые еще не ушли из России и которые сами «пытаются нас душить». А вы как считаете: у нас вообще не должно остаться никаких иностранных мессенджеров, соцсетей и т. п.? Нужен полный цифровой суверенитет?

— Я думаю, что да. Когда мы говорим про «железо» — чипы, платформы для мобильных телефонов и т. д. — я еще могу понять трудности импортозамещения. Здесь можно и нужно работать с Китаем. Но когда речь идет о программном обеспечении — у нас есть замена для всего. Тех же отечественных мессенджеров ещё в прошлом году насчитывалось 29, многие из них были разработаны на государственные деньги. Свои мессенджеры делают даже отдельные ведомства — например, Росатом. Вообще, в Реестре отечественного ПО Минцифры — под 30 тысяч отечественных программ.

— Но в реальности большинство граждан продолжают использовать Telegram и WhatsApp.

— Да, но эта же реальность объясняется не тем, что данные продукты гораздо лучше всех остальных, а сложившейся базой установок. Есть и вполне приличные, мощные, «развесистые» российские мессенджеры. И мне совершенно непонятно, с какой стати сотрудник госуслуг должен продолжать общаться с гражданами через Telegram. Здесь нужна только государственная воля, а технические возможности для того, чтобы в этом секторе использовались национальные продукты, имеются.

ИИ оглупляет за три месяца

— Вы критикуете цифровизацию, но ведь она — главный символ прогресса сегодня…

— А в чем вы видите собственно прогресс? В том, что раньше вор мог украсть у вас кошелек с сотней рублей, а сегодня может украсть сразу миллион с вашего счета в банке? Причем не выходя из дома и даже сидя в другой стране… Что это за прогресс, если он работает на врага и на криминал?

— Да, это печальные издержки — так же, как с появлением автомобилей появились и жертвы автокатастроф. Но ведь не возвращать же из-за этого на дороги лошадей? То же и с цифровыми сервисами — тем, кто к ним привык, не хочется снова переходить на наличные, ходить в банк и стоять там в очереди, чтобы заплатить за коммуналку, вместо того, чтобы сделать это парой кликов в телефоне… Я уже не говорю про покупки на маркетплейсах, оплату любых билетов онлайн и прочие блага.

— Да, это главный и практически единственный аргумент цифровизаторов — «удобно, удобно, а также удобно». Хорошо, ну вот вы сэкономили время на походе в банк. А на что вы его потратите? На то, чтобы лишний час просидеть в смартфоне и потреблять там бесполезный контент, не так ли? И в чем ваша выгода от прогресса? Здесь время выгадали, а там убили… К тому же у цифрового «прогресса» есть серьезные и очень опасные последствия.

— Какие?

— Расскажу вам такую историю. Недавно мы с дочкой сидели в кафе, а за соседним столиком трое молодых парней занимались тем, что азартно давали промты (текстовые запросы) в чат GPT. Генерировали сообщения. Оказалось, что один из них таким образом переписывался с девушкой, потому что своего ума для сочинения сообщений ему, видимо, не хватает. Интересно, что он будет делать, когда встретится с ней в реальном мире? Может, сразу под юбку полезет, если двух слов связать не умеет?

И это безумие, когда нейросетям начинают поручать всё что угодно, активно распространяется. Тут есть два аспекта. Первый — когнитивная травма. Исследования показали, что 3–4 месяца использования ИИ для решения интеллектуальных задач полностью отбивают у человека способность самому решать эти задачи. Проще говоря, он глупеет. Это как если здоровый человек возьмет костыль и начнёт ходить с его помощью, то через некоторое время он без костыля уже не сможет обходиться — у него атрофируются мышцы и связки на той ноге, которую он «берёг». Восстанавливать «двигательный стереотип» мозга очень трудно. Не у всех получится.

Приведу еще один, личный пример цифровой травматизации. Однажды я решил, что у меня уже началась деменция — я начал часто путать слова. Хочу, например, сказать «попросить», а произношу «повторить». Слово с тем же началом, но с другим смыслом. Подумал, что надо попить каких-нибудь БАДов для улучшения работы мозга. А потом пришла догадка, что это может быть связано с тем, что я часто использую декрементный поиск, где по первым буквам вам восстанавливают слово для запроса. То же самое делает функция Т9 в смартфоне — вы начинаете набирать слово, а дальше вам предлагается выбрать нужное из нескольких, которые одинаково начинаются. Я понял, что мой мозг просто перенял эту манеру электронных устройств. То есть произошла «инъекция» механической практики в сознание. Тогда я взял за правило больше этими функциями не пользоваться. И через две недели путать слова перестал.

Так вот, чат GPT — это, по сути, очень большой Т9. Он тоже достраивает текст, только не на нескольких буквах, а на огромном текстовом окне и на гигантском объёме материалов, выкачанном из Сети. И мозг человека, который часто пользуется генеративным ИИ, заражается и начинает делать то же самое — не мыслить, а достраивать тексты, производить гладкий текстовый шлак.

Помимо когнитивных проблем, есть еще и проблема безопасности. Знаю, например, что в одной из компаний — мобильных операторов — набрали «продвинутых» топ-менеджеров, которые велели своим секретаршам организовывать им всю почту с помощью чата GPT. Это значит, что вся служебная переписка этого оператора улетает прямиком в США. А ведь оператор — это критическая инфраструктура. Так же, как если чиновник заводит почтовый ящик на почте Гугла, на Gmail, все его письма читают в американских спецслужбах, потому что владеющий этим сервисом Гугл просто по закону обязан передавать им весь поток информации. АНБ-шный кластер под Чикаго — это многие квадратные километры серверов, так что мощностей для обработки данных со всего мира хватает. Американская компания Anomaly 6, занимающаяся электронной разведкой, публично хвалится, что «ведет» примерно 1,5 млрд смартфонов в мире с помощью программного обеспечения, внедренного в их приложения. Понятно, что все эти миллиарды «обычных» пользователей их прямо сейчас не интересуют. Пока. Но если это какой-то важный чиновник или знаменитость, влиятельная личность, то за ним следят ежесекундно (и таких «ведомых» в каждой стране — минимум несколько миллионов). И вся информация стекается в гигантскую базу, индексируется, обрабатывается и классифицируется искусственным интеллектом. И когда, например, влиятельный человек в чем-то нехорошем засветится, данные по нему можно будет вытащить и применить. На каждого есть досье.

При этом западные нейросети у нас растут, как бурьян, внедряется что попало и кем попало. Увидели в Telegram-канале ссылочку, скачали, установили в организации — и готово. Ни о надёжности, ни о безопасности никто не задумывается. Потому что начальство требует «процент внедрения ИИ». По сути, у нас сейчас происходит вторая цифровая колонизация — первая была в 90-е, когда везде и всюду у нас влезали Microsoft и Oracle.

— По-вашему, что точно нельзя отдавать на откуп ИИ?

— Принятие автономных решений, от которых зависят благополучие и здоровье людей. Управление судьбами, назначение оценок человеку программами. Например, по всей стране внедряется так называемый банковский скоринг. Когда вы пытаетесь взять кредит, вашу заявку рассматривает робот. Он может вам отказать без объяснения причин, и оспорить его решение невозможно. Потребовать общения с человеком — тоже. Критерии этого решения абсолютно непрозрачны. Правила написаны какими-то программистами, они не объявлены.

При этом отказ попадет в бюро кредитных историй, и другие банки тоже решат: раз этот большой уважаемый банк вам отказал, значит, неспроста. Для их роботов это уже будет негативным сигналом, и они вам тоже, скорее всего, откажут. И вы из-за этого не сможете купить квартиру или машину, сыграть свадьбу или сделать ремонт…

А если искусственный интеллект повсеместно внедрят в судебную систему и здравоохранение, и он начнет нас судить и лечить? Да, нам говорят — не волнуйтесь, за врачом останется последнее слово, ИИ ему только подсказывает. Но опыт показывает: после пары сотен диагнозов, предложенных ИИ, врач перестает в них вникать и просто нажимает кнопку «одобрить». Ему же начальство объяснило, что эта штука работает лучше него, так зачем же ему тратить свои силы и время?

Чиновник, вместо того, чтобы отвечать на обращения граждан, тоже заводит какой-нибудь тупой чат-бот, который только отпугивает людей, — но зато «разгружает» чиновника, изолирует его от неприятного населения. Вы же наверняка пытались дозвониться в какую-нибудь организацию и натыкались на подобных чат-ботов.

— Которые помочь ничем не могут и только отнимают время? Было, и не раз.

— Доходит до того, что люди уже друг другу лайфхаки передают: вот в этом банке чат-бот надо изо всех сил обматерить, чтобы он тебе действительно помог. А в этом — пять раз попросить соединить с оператором…

«Цифровые дворяне» и люди-векторы

— Слушаю вас и вспоминаю английских луддитов, которые в начале 19 века выступали против внедрения машин в производство. Исторически же они оказались неправы — что бы люди без машин сегодня делали? Может быть, вы тоже сгущаете краски?

— История с луддитами сильно мифологизирована. Да, они ломали машины. Но почему? Для них, в отличие от владельцев фабрик, внедрение этих машин не было благом. Они жили в местности, где никакой другой работы не было. Их просто вышвыривали с фабрики, им оставалось только идти в работные дома или бродяжничать. А у них же семьи, дети. Так что луддиты протестовали не против технологий, а против социальной несправедливости, это был социальный протест. И ненавидели они не машины, а их собственников, которым было наплевать на человеческие судьбы.

Разработчики стратегий развития ИИ утверждают, что искусственный интеллект сильно повысит производительность труда. Прибыльность производств вырастет, и это якобы «позволит платить более высокие зарплаты» (это реальная цитата, не шутка). Ну и кому будут платить эти высокие зарплаты? Работникам, которых из-за внедрения ИИ уволят? Или приводят еще один чудный аргумент: мол, все развитые страны уже давно «там», у них всё уже прозрачно, чего же нам отставать? Всё равно все персональные данные уже утекли — расслабьтесь, «прогресс не остановить»… Можете называть меня луддитом, но я не вижу здесь никакого прогресса.

— Так что же делать — отменять цифровизацию?

— Не отменять, а проводить альтернативную цифровизацию. Такую, которая обеспечит наш суверенитет в этой сфере и защиту прав граждан, а не станет инструментом в руках чужих разведок и преступных сообществ. Такую, которая будет учитывать права человека и не допустит появления в обществе нового привилегированного класса, «цифровых дворян», у которых есть доступ к данным и цифровым сервисам, и для которых все остальные люди — просто векторы в компьютерной модели, с которыми можно делать всё что угодно. Цифровизацию в целом и разработку, внедрение и использование ИИ в частности давно пора регулировать. И все «развитые» страны этим уже всерьёз занялись.

Виталий Цепляев