Человечество само не всегда аккуратно обходилось с собственной историей, развиваясь через поток взаимоисключающих событий войны и мира в каждый период современности. И как то уж так вышло, что все самые жестокие людские вероятности хоть сходились на пути в будущее, они не исключали его сбыточности. Но то что происходит сейчас, идёт по ранее не испытанному сценарию несовместимости событий. Человечество вступило на порог эпохи странных зависимостей от виртуальных сущностей, которые могут нас всех лишить доступа к собственной истории.
Виной всему происходящему — пресловутый генеративный ИИ (ген-ИскИн), который уже сегодня заполняет интернет синтетическим контентом. Через какие-то десять лет, а может и того меньше в виртуальной среде всемирной паутины (WWW) может не остаться фактов — только правдоподобные выдумки, которые один алгоритм будет рассказывать другому, а тот в свою очередь будет тиражировать искусственный контент в невероятных масштабах. И человечество привыкшее к поиску в интернете даже самой невинной информации, будет находить только те материалы, которые создаются алгоритмами ИскИна.
Уже сегодня проблема перестала быть теоретической. В США и ЕС пытаются срочно принять законы, ограничивающие риски ИИ. В Евросоюзе, например, полностью запретили системы с «неприемлемым уровнем риска», такие как социальный скоринг. Это ненормально когда каждому человеческому индивиду присваивается числовой рейтинг или ранг по стандартам ИскИн, когда пол, возраст, место проживания и другие привязанности становятся данными обезличенного социального профиля, индивидуальность стирается в угоду цифровому облику, которым оперируют как самым заурядным товаром. В США хотят запретить обучение нейросетей на контенте без разрешения правообладателей, там уже идут юридические баталии на почве интеллектуальной собственности, которую стирают несколькими итерациями данных ИскИна. Китай уже обязал маркировать весь ИИ-генерируемый материал.
Главная опасность — замкнутый цикл: один ИскИн генерирует тексты, другой на них учится, а третий выдаёт новую синтетическую «правду». Человек постепенно выпадает из процесса проверки. Уже сегодня фотореалистичные изображения и голоса не отличить от настоящих. А всё потому что речевой аудиопоток присваивают довольно незамысловатым образом, его скачивают нейросети за валютную мзду. Вот в топе американского AppStore есть приложение Neon, оно пишет весь аудиопоток проходящий через телефон пользователя, за это положено вознаграждение до 30 $USA. Дальше собранные аудиоданные перепродаются разработчикам ИИ-моделей, чтобы машины учились звучать «как люди».
В науке до 40% аннотаций биомедицинских статей уже пишутся с помощью нейросетей. Ошибка одной модели множится другими — искажения становятся нормой. Энциклопедии, научная публицистика и ресурсы научных архивов, библиотек, музеев всегда бывшие оплотом проверяемой достоверности, тоже под угрозой. Если не остановить засилье синтетического контента, через пять-десять лет мы не сможем отличить реальные открытия от алгоритмической фантазии. Цивилизационный риск нарастает с невероятной скоростью и масштабом потерь огромного пласта ранее взаимосвязанных знаний. История знает одну подобную трагедию — ту что Европа пережила после падения Западной Римской империи в 476 году, кардинальные изменения, большей частью упадочные свершились в разных сферах: науке, политике, экономике, культуре и религии.
В наше время подобное падение грозит Интернету, оно уже началось, вот пример каким образом: "Американец Кэмерон Мэттис решил проверить, кто же на самом деле читает его профиль на LinkedIn: живые рекрутеры или ИскИн. Он вставил в текст скрытую инструкцию: если резюме читают нейронки, пусть вместе с оффером пришлют рецепт пирога. В результате все приглашения сопровождались подробным рецептом". То есть даже первичный отбор кандидатов давно доверен машинам. И что забавно, сами резюме теперь тоже генерят нейросети. Получается, один ИскИн зовёт на работу алгоритмы другого ИскИна, а человек нужен только в качестве статиста. Вот эта та самая реальность - предсказанная теорией "мертвого интернета", где живое собеседование, обычное человеческое общение — вытесняется парой алгоритмов.
Китай ввел обязательную маркировку всего искусственно генерируемого контента. И вот почему, - китайцам запретили жаловаться в интернете. Официальный регулятор киберпространства Поднебесной объявил войну «негативному контенту». Под раздачу попадают посты про выгорание, депрессию и уныние. За такие записи теперь не только банят аккаунты, но и штрафуют платформы. Первые жертвы — ByteDance и Alibaba. Им вменили «вредоносные темы» и «неавторитетные источники». Компании наказали длинным юанем с шестью нулями для начала, а сотрудников — дисциплинарной отработкой, чтобы с радостью и песнями славили край родной. И ведь официальная цель благородная — создать коммунистически «чистое и здоровое киберпространство». Фактический результат — интернет, стерилизованный до состояния бесконечного оптимизма.
Что делать?! Спасти ситуацию может только дисциплинарный контроль и прозрачность. Нейросети нужны для поиска информации, выверки статей на предмет недостоверных правок, но трактовку событий непременно следует оставлять людям. Ключевое решение — создание международных стандартов, которые закрепят принципы объективности при использовании ИскИн в науке. Нужна модель взаимодействия человека с ИскИн способная отделять правду от вымысла. Пока её нет, верифицировать контент придётся всем нам и блоггерам Конта в том числе. Иначе нас ждёт не светлое цифровое будущее, а новое упадочное Средневековье — только на этот раз созданное своими руками.
В России уже существует озабоченность цифровым суверенитетом, кое что уже делается, чтобы избежать цифрового разрыва в связности информации: так российский энциклопедический сервис «Рувики» внедряет инструменты искусственного интеллекта для анализа, подготовки и верификации публикуемого контента. ИскИн будет проверять данные, дополнять статьи и надзирать за площадкой, чтобы не допускать нарушений законодательства. При этом контроль и перепроверка ИИ-контента останутся за людьми и научными сотрудниками. Цель проекта — обеспечить читателям доступ к актуальным и точным знаниям, исключая устаревшие данные и субъективные трактовки.
Оценили 6 человек
18 кармы