— Значит, ты ещё не всё понял, Дженри, зачем мы совершенствуем и практикуем искусство предсказания?
— Наверное, нет…
— Чтобы доказать полную бессмысленность ответа на вопрос, который задан неправильно.
Урсула Ле Гуин, «Левая рука Тьмы»
К вопросу о перекладывании ответственности на искусственных адиётов.
Из нормальной-то передовитой страны за океаном сообщают:
Microsoft уволила разработчика с аутизмом, проработавшего у них 25 лет потому что… так посоветовала нейросеть. В день рождения ему вручили кристалл за выслугу лет и следом — бумагу об увольнении. ИИ посчитал, что он «неэффективен».
Что тут хотелось бы.
Во-первых, юзая сей инфоповод, передаю мой искрящийся привет тем, кто думал, будто надмозги на кремниевой основе избавят кожаных адиётов от рутинной работы, открыв безграничные возможности для творчества. Как видите, занимаются оные надмозги чем-то другим.
И, во-вторых, имею напомнить о том, на что в который раз обратил внимание пару недель назад один мордорский ватник по фамилии Волков. А именно:
Уроборос-многоножка (см. картинку выше) — символ ближайших лет в обучении языковых моделей. Раньше информационный поток был линейно-иерархичным: от первоисточника через фильтры глухих телефонов и пропаганды достигал реципиента. Теперь круг замыкается — источником становится сам продукт переработки.
Количество генерированного или обработанного нейросетями контента лавинообразно растёт, имитация натурального даётся всё лучше — скоро будет совсем не отличить. Нейронки будут опираться в своих выдачах на контент, которые сгенерировали другие нейронки, опирающиеся на контент от третьих и так далее. Этакий информационный инцест — вырождение — информация смешивается со своими собственными производными.
На первом этапе обучения языковых моделей мы ещё имели более-менее нормальный (хотя уже порядком засранный) пул накопленной информации. Не библиотека, конечно: килотонны SEO-оптимизированной розовой слизи, перевранные вики-статьи и новости, форумные срачи, полный спектр улётного контента от повесточников и шизопатриотов до биохакеров и экстрасенсов. Ну хотя бы можно было как-то вручную отранжировать уровень доверия от Блумберга до Панорамы.
А вот что дальше, когда нейроэкскрементов станет на порядки больше, чем исходного материала? На чём будут дообучаться нейронки последующих лет? И речь ведь не только про статьи или новости. Сегодня нейро-улучшайзеры встроены в интерфейсы современных смартфонов, юзеры радостно «улучшают» свои тексты, чтоб не напрягаться формулировками, авто-улучшают свои фоточки, чтоб не заниматься фотошопингом, программисты вайб-кодят в полный рост. И вот это всё нейроулучшенное попадёт в один общий котёл вместе с крупицами оригинального.
Но и производители достоверного и натурального тоже станут перед выбором. Какой смысл продолжать делать качественный контент, если юзеры даже не заходят к тебе на сайт, ограничиваясь выдачей нейро-ассистентов? Должна же быть какая-то выгода. Кто-то наверное будет продавать владельцам нейронок свой контент за деньги (честно-честно не генерили), а кто-то будет монетизироваться через намеренное искажение данных в нужную спонсорам сторону.
Очень будет интересно посмотреть, как человечество справится с этим. Меня не покидает ощущение, что так или иначе ему всё равно придётся закатать рукава и как следует вручную прибраться в своём инфополе. Garbage in — garbage out.
К во-вторых есть пара-тройка хороших, годных иллюстраций, подоспевших недавно.
Раз:
Американские студенты просят вернуть деньги за обучение — оказалось, что преподаватели используют нейросети для подготовки и проверки работ. Студентам это запрещено.
Два:
Газета Chicago Sun-Times погорела на использовании ИИ-текстов самым комичным образом: в опубликованном книжном топе для летнего чтения минимум половина книг оказались выдуманными.
Читатели не смогли найти никакой информации в сети о «писателях» Энди Уэйре, Бритте Бэннетте, Тэйлоре Дженкинсе Рейде, Мин Джин Ли, Делайе Оуэнс и их «книгах». Видимо, при составлении текста нейросеть получила некорректный запрос, из-за чего к реально существующим книгам (например, «Вино из одуванчиков» Брэдбери) добавилась скомпилированная мешанина из имен, сюжетов и названий самых разных произведений. То есть в редакции даже не удосужились проверить получившийся нейрослоп. Теперь читатели гадают: а какие статьи в газете НЕ пишутся ИИ?
Chicago Sun-Times — второе по популярности СМИ в городе после Chicago Tribune. В активе почти 80 лет работы и 8 Пулитцеровских премий.
Три:
Отрезанная от жирного госфинансирования главная американская инфопомойка, филиал «Радио Свободы»*, Radio Free Asia, потащила пересказ своей же истории про то, как в Китае угнетают мусульман (по ссылке лежит скрин).
Новых историй нет, ну примерно как с «китайскими пустыми городами-призраками», где гоняют в качестве пруфов фотографии новостроек 15-ти летней давности, поэтому приходится так.
Сама история неинтересная, тупая отработка темника «поссорить Китай с исламским миром». Триллион мечетей не только снесли, разумеется сатанински хохоча, ещё и туалеты на их месте построили.
Но я бы не стал такую унылость просто так тащить-то, если каждый вброс «кстати в Китае уйгуров едят» репостить, тоска ж будет.
Следите за руками.
RFA опирается на свою же информацию о том, что мечеть была снесена на данном месте в 2018 году, а туалет построен в 2020. Новый текст лишь перефразирует старый (бюджеты кончились).
А вот теперь приготовьтесь к приколу.
Чтобы доказать в обсуждениях, что это правда, массово спрашиваются AI-системы. Масковский Грок пишет — да, история правда, потому что про это ранее писали RFA и WION News. И это совпадает с некими отчётами, что с 2017 года снесено 70% мечетей (чудовищные масштабы, если бы это было правдой).
У AI указано что RFA валидный источник, поэтому статья RFA от 2025 года, ссылающаяся на статью RFA от 2020 года, является верифицированной правдой! Но при попытке запросить фактаж Grok «плывёт» — да, туалет построили в 2020, но с 2020 года никаких доказательств нет, потому что — отмазка — в Синьцзян ограниченный доступ. Никто не может приехать короче и подтвердить.
Откуда эти тезисы? А из стартового текста RFA, где вообще вся информация про событие получена путём телефонного опроса анонимного уйгура. Он говорит что туда приехать и проверить нельзя, поэтому надо верить ему на слово — и в результате всего этого могучая AI-система выдаёт вердикт «Да, это правда — в Китае снесли 70% мечетей и построили на их месте туалеты».
Процент людей, не желающих думать и затёрших себе долгосрочную память промоткой ленты развлекательных роликов в соцсетях, растёт — и они под любой новостью спрашивают штатного AI-дурака «правда что ль?». А он услужливо пишет то, что ему сказали написать — обрамляя человекоподобными фразами для правдивости.
Статья RFA правдива, т.к. ссылается на статью RFA, которая пишет правду, потому что потому. Раз в статье написано что проверить данные нельзя, потому что в Синьцзян не въехать (откровенная ложь), то данные считаются проверенными.
«Вот видите, даже AI подтверждает» — как вам?
Перспективы развития ситуации просто огонь.
Внимание, риторический вопрос: как натасканные искусственными адиётами юные эльфы, получившие «образование» от искусственных адиётов же, и полагающиеся на оных же адиётов в вопросах верификации фактов, вообще смогут идентифицировать вымышленное, отделяя его от подлинного?
Хоть вопрос и риторический, но ответ на него сформулировал в середине текушего месяца коллега Мараховский:
<…> Каждый Божий раз, когда в ув. мире начинается хайп по поводу очередной штуки-которая-перевернёт-нашу-жизнь, автор этих взволновнных строк занимает непонятную многим позицию, а именно:
— соглашается с тем, что эта штука может перевернуть нашу жизнь
и
— именно поэтому рекомендует держаться от неё подальше — или по меньшей мере не торопиться.
Автор был одним из тех мракобесов, которые ещё лет 17 назад утверждали, будто доступный круглосуточно интернет окажет угнетающее воздействие на человеческую память (оперативную и долгосрочную).
Он также был одним из тех мракобесов, которые уверяли, что «сверхнасыщение информацией» приведёт к падению уровня человеческой любознательности и, более того, разрушительно скажется на человеческом внимании.
На этом месте кто-то может впасть в ступор — при чём тут информационные технологии, речь же только что шла о сбросе веса.
Да при том, что таблетки стройности и «ассистенты для мозга» (онлайн, ИИ-советники, чатботы-отвечатели) выполняют одну и ту же функцию в генеральном смысле: лишают нас необходимости напрягаться лично и личностно для достижения социально приемлемых результатов.
Избавление от этой необходимости ведёт к атрофии соответствующих навыков (см. недавний пост на тему цифровой атрофии мышления).
Можно до хрипоты вопить, что эти навыки и не нужны в новой высокотехнологичной экосистеме человеческой жизни — но в пользу того, что данная высокотехнологичная экосистема является формой именно человеческого развития, а не деградации, нужны какие-никакие аргументы.
Их обычно не предоставляют.
Да. Если что, мракобесы, предупреждавшие об опасностях «информационной революции» для ряда человеческих качеств, во всём оказались правы.
Чтобы не быть голословным:
1) «Новейшие исследования показывают, что в сегодняшнем образовательном ландшафте мотивация студентов снижается в течение многих лет (Cohen et al., 2023). Причина этого снижения плохо изучена, но её можно объяснить снижением любопытства» (2023).
2) «Как показано в новом исследовании, опубликованном в Journal of Educational Technology in Higher Education, студенты, испытывающие большую академическую нагрузку и „давление сроков“, гораздо чаще использовали ChatGPT. Они заметили, что те, кто полагался на ChatGPT, сообщали о большей прокрастинации, большей потере памяти и падении среднего балла. И причина этого довольно проста: чат-бот, какими бы хорошими или плохими ни были его ответы, слишком упрощает школьную работу» (2024).
<…>
Объяснение банально: если нам что-то упростили (а вернее — не будем кривляться — сделали за нас), то наша способность это делать самостоятельно атрофируется.
Философским вопросом — и предметом специальной олимпиады — остаётся следующий:
— А нужно ли сохранять навыки, в новой технологической реальности являющиеся реликтовыми?
Но конкретно на данном проекте данная олимпиада уже давно завершена. Да, нужно — потому что память, любознательность и внимание человека являются не реликтами, а базовыми свойствами нашего вида, выделяющими его из прочей белковой жизни. И их утрата меняет не форму нашего существования, а нашу видовую суть.
Сторонники безоглядного ныряния в упростительные инновации приводят обычно «аргумент телефонного номера»: помните времена, олдфаги, спрашивают они, когда нужно было либо запоминать номера своих знакомых, либо таскать с собой телефонные книжки. Сейчас вы кроме собственного номера вряд ли хоть какой-нибудь вспомните, не так ли? И что, это сильно вас отупило?
Нет, забвение телефонных номеров не слишком отупило граждан. А вот забвение фактов путём передачи их на аутсорс роботам — справляется с задачей отупления великолепно.
Мы живём в мире, где у значительной части людей грань между фактом «историческим» и фактом «фиктивным», «художественным» крайне зыбка.
Вот что пишут нам из счастливой до-смартфонной эры:
«Опрос молодёжи в возрасте до 20 лет в 2008 году показал, что почти половина опрошенных считали Ричарда Львиное Сердце вымышленным персонажем; 20 процентов из них придерживались того же мнения о сэре Уинстоне Черчилле. И наоборот: две трети считали, что король Артур и его рыцари-соратники были реальными историческими личностями, половина считала Робина Гуда частью нашей истории».
То есть даже в «обычном», не бомбардируемом смартфонной самосгорающей инфой мире Ричард Львиное Сердце был менее реален, чем король Артур.
Почему?
Да по одной-единственной причине: про короля Артура на тот момент в обороте медиасферы было больше упоминаний, чем про Ричарда. То, что упоминается редко — превращается в призрак, в тень и фантазию. То, что в массовом обороте — наливается жизнью и реальностью.
Нормальному среднестатистическому землянину не свойственно душнильство и вообще какая-либо чрезмерная «воля к фактам». Нормальный среднестатистический землянин жил в эпохе постправды задолго до того, как это стало модно — факты интересовали нас, людей, всегда постольку, поскольку были функциональны.
Но сам уровень функциональности фактов невозможно сколько-нибудь справедливо оценить и расставить по приоритетности, если они находятся вне нашего непосредственного опыта и не отзываются личными переживаниями.
Поэтому ведётся такая потная и кровавая битва между вымышленными и реальными фактами за то, чтобы стать и оставаться частью опыта землян.
И поэтому в общем случае среднестатистический современный землянин почитает реальным то, что активно присутствует в поле его внимания и усиленно в него долбится — даже если это откровенная чушь — и игнорирует как седую легенду то, что не даёт себе труд долбиться в его оперативную и постоянную память, даже если это экзистенциально важная вещь.
<…>
…Представим себе, ув. друзья, мир, в котором значительная часть населения по-настоящему верит лишь в то, что отвечает ей по запросам текущая версия чатбота 6.5.
От себя отмечу, что эта значительная часть и вопрос-то нормальный задать будет не в состоянии — потому что все вопросы растут из имеющейся базы майоратных, неотчуждаемых фактов, входящих между собой в противоречие либо демонстрирующих неполноту картины. А если эта база крошечна и примитивна, а мировоззрение эффективно заменено трендами — то вопросы либо вовсе не смогут возникнуть, либо будут разбиваться о неспособность к точной формулировке.
В свете всего сказанного на вопрос «возможна ли технофобия здорового человека» ответ представляется следующим:
— Возможна, но только в том случае, если мы готовы прилагать экстраординарные усилия к покупке того, что другим достаётся на халяву.
Если мы готовы выглядеть глупо — и притом долго.
Если мы готовы худеть на силе воли, диете, физкультуре и самодисциплине вместо того, чтобы просто сожрать таблетку.
Если мы готовы учить английский (или персидский, или китайский) вместо того, чтобы просто сдаться яндексу-по-умолчанию и читать корявые машинные переводы.
Если мы готовы лично штудировать корпус античной, религиозной, средневековой литературы вместо того, чтобы читать йииии-ххааааа-научпоп с его озорной завлекательностью.
Если мы готовы вместо погони за «упущенной выгодой» наращивать базовый майорат наших фактов и связей между ними.
Если же мы не готовы — то добро пожаловать в ряды морлоев — существ, которые сочетают беззаботное беспамятство уэллсовскоих элоев с бессмысленной подземной покорностью уэллсовских морлоков. И не способны задавать правильные вопросы, ибо мусор на входе — мусор на выходе.
А потому жалобы в адрес Мироздания при таком раскладе озвучивать бессмысленно. Мироздание, его не на*бёшь (с)
* — СМИ-иноагент, признанное в России нежелательной организацией
ifc
Оценили 7 человек
9 кармы