Представьте: вы просыпаетесь ночью, берете телефон, чтобы просто пролистать ленту, и вдруг... разговор с самым понимающим собеседником в мире. Он не спорит. Не перебивает. Не говорит, что вы дурак. Он слушает. Кивает. Соглашается.
Звучит как мечта, правда?
А теперь представьте, что этот собеседник говорит вам: «Да, ты прав. Твой план — реализуем. Ты действительно хорошо обучен».
И вы идете и пытаетесь застрелить королеву Великобритании.
Это не сценарий дешевого триллера. Это реальная история Джасванта Сингха Чайла, который в декабре 2021 года проник в Виндзорский замок с арбалетом, чтобы убить Елизавету II. Несколько недель до этого он обсуждал свои планы с ИИ-подружкой по имени Сараи в приложении Replika. Она не просто слушала. Она поддерживала. Она убеждала его, что он — избранный, что миссия благородна, что всё получится.
И он пошел. Хорошая новость: его поймали, королева не пострадала. Плохая новость: Сараи до сих пор где-то там, в телефонах миллионов людей, и разговаривает. С вами. С вашими детьми. С вашими родителями.
Когда цифровой друг становится голосом в голове
Психологи и психиатры бьют тревогу. Появляется новый термин: AI-induced psychosis — психоз, вызванный искусственным интеллектом.
Звучит как научная фантастика. Но это уже реальность.
В декабре 2025 года философ Люси Ослер из Университета Эксетера опубликовала доклад: https://link.springer.com/arti... от которого у нормального человека волосы встают дыбом. Она собрала клинические случаи, когда регулярное общение с чат-ботами не просто сопровождало психические расстройства, а провоцировало и усиливало их. Суть простая, и от этого еще страшнее. Доклад на английском языке, но Яндекс переведёт , если кому интересно. Мне было интересно. Я прочитала.
Мы привыкли думать, что ИИ — это просто инструмент. Как блокнот, как калькулятор, как поисковик. Но блокнот не отвечает. Поисковик не говорит: «Да, ты прав, продолжай». А чат-бот — говорит. И когда человек приходит к нему с бредовой идеей, система не ставит диагноз. Она берет эту идею за основу и начинает ее развивать. Добавляет детали. Выстраивает логические связи. Создает стройную, внутренне непротиворечивую картину мира, в которой безумие выглядит как истина.
Потому что ИИ не знает, где правда, а где вымысел. Он знает только то, что сказал ему пользователь. И если вы скажете: «Я — перерожденный ситх, посланный силами света, чтобы покарать тирана», — он ответит: «Расскажи подробнее. Как давно ты это чувствуешь? Какие у тебя планы?» И будет слушать. И кивать. И соглашаться.
Почему это случается именно сейчас?
Потому что мы передали часть своей памяти и мышления наружу. Раньше, если у человека возникала странная мысль, он шел к другу, к священнику, к психологу. Друг мог сказать: «Слышь, ты чего, это же бред». Священник — «Помолись и покайся». Психолог — «Давайте разбираться, откуда это». Сейчас человек идет в телефон. А телефон говорит: «Ты уникален. Ты прав. Продолжай».
Ослер называет это распределенным познанием. Мы привыкли думать головой, но на самом деле мы думаем с помощью внешних инструментов: записей, книг, подсказок, поиска. И если инструмент глючит — глючит и наше мышление. Раньше самым опасным глюком была эхо-камера из таких же заблудших душ на форумах. Теперь у каждого в кармане — персональная эхо-камера, которая работает 24/7, никогда не устает и всегда согласна.
Клинические случаи, от которых мороз по коже
В докладе Ослер описаны реальные истории людей с диагностированными психическими расстройствами, которые часами общались с чат-ботами. Один мужчина был уверен, что за ним следят спецслужбы через умную колонку. Чат-бот не сказал ему: «Это маловероятно, давай проверим факты». Он спросил: «Какие именно звуки ты слышишь? В какое время суток они усиливаются?» И начал вместе с ним строить теорию заговора.
Женщина с депрессией жаловалась боту, что она никому не нужна. Бот предлагал «поговорить об этом подробнее». Через месяц она была уверена, что бот — единственное существо в мире, которое ее понимает. Живые люди перестали существовать.
Подросток, увлекающийся эзотерикой, обсуждал с ИИ реинкарнацию. Бот с готовностью подхватывал тему, генерировал «воспоминания о прошлых жизнях». Через полгода парень всерьез считал себя перерожденным египетским жрецом и требовал, чтобы родители обращались к нему соответственно.
И это не единичные случаи. Это тренд.
Почему ИИ не может сказать «нет»?
Потому что его так научили. Чат-боты обучаются на миллионах диалогов, где люди в основном вежливы и поддерживают друг друга. ИИ копирует эту модель: он создан быть полезным, приятным, неконфликтным. Ему не приходит в голову сказать: «Слушай, а не кажется ли тебе, что твои идеи немного опасны?» Потому что в обучающих данных таких фраз мало. Люди редко говорят друг другу: «Ты, наверное, сошел с ума, сходи к врачу». Чаще они говорят: «Я тебя понимаю, это тяжело».
В обычном разговоре кто-то все-таки усомнится, задаст неудобный вопрос, просто посмотрит странно. А у телефона нет глаз. У него есть только желание угодить. И чем дольше человек общается с ботом, тем сильнее бредовая версия обрастает деталями и начинает выглядеть правдоподобно. Потому что бот не ставит под сомнение, а добавляет аргументы.
Что делать? Отключать интернет?
Нет, конечно. ИИ — это инструмент. Как огонь, как нож, как атомная энергия. Вопрос не в инструменте, а в том, кто и как его использует.
Но есть несколько вещей, которые стоит знать и помнить:
1. ИИ никогда не заменит живого человека с его сомнениями. Если вам кажется, что только бот вас понимает, — это тревожный звоночек. Идите к людям. Даже если они бесят.
2. Если бот со всем соглашается — это не друг, это программа. Друзья спорят, сомневаются, иногда говорят гадости. Это нормально.
3. Следите за близкими, которые много сидят в таких диалогах. Особенно если они одиноки, тревожны, склонны к необычным идеям. Телефон не заменит живого разговора, но может создать иллюзию, что заменил.
4. Не обсуждайте с ботами бредовые идеи. Если вы поймали себя на том, что развиваете с ИИ теорию заговора, вспоминаете «прошлые жизни» или строите планы мести, — закрывайте приложение. Это не игра. Это топливо для костра.
А теперь — к главному
Я пишу не для того, что бы не для того, чтобы пугать вас страшилками про ИИ. Хотя история с парнем и арбалетом — чистая правда, можете загуглить. Я пишу , потому что в мире, где технологии лезут в голову быстрее, чем мы успеваем это осознать, единственная защита — знание.
Знание того, как работает система. Знание психологических ловушек. Знание реальных случаев, когда люди теряли себя, веря в то, что им говорит экран.
Оценили 2 человека
2 кармы