Искусственный интеллект: человек отменяется?

Представим, что точка сингулярности наступила и момент слияния человека и машины запустил новый симбиотический разум (не сознание).

Согласно представлением ряда ученых, техническая сингулярность – это точка отсчета нового времени, когда технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию. Только представьте себе подобную ситуацию. Взаимодействие всех объектов ноосферы (роботы, боты, машины и подключенные к этой системе с помощью наночипов люди – это не шутка, подобными разработками занимаются ученые в рамках Национальной Технологической Инициативы при Правительстве РФ, Курчатовский институт и много-много других институтов и государственных учреждений в РФ) окажется столь сложным для понимания обычным человеком, что может вообще не восприниматься (выпадение людей из этой, уже самостоятельной реальности шестого технологического уклада). Точка сингулярности, согласно расчетам ученых, наступит после создания искусственного интеллекта (ИИ), самовоспроизводящихся машин и скачкообразного увеличения возможностей человеческого мозга за счет биотехнологий (переделка определенной части людей и их интеграция с машиной). Конечно, не все будут подлежать «upgrade». Большая часть населения планеты окажется за чертой прогресса и, возможно, просто не будет понимать происходящее, не имея в своем лексиконе слов-определений для новой реальности. Сознание этих людей будет воспринимать объекты машинного мира, как пятна Роршаха, идентифицируя их с чем-то сверхъестественным, например, с приземлением инопланетян.

Как я уже говорила в предыдущей статье, новый мир приведет к изменению социальных ролей и первое, что окажется невостребованным – это женщина. Ее роль матери и хранительницы домашнего очага в условиях «умного дома» и при наличии роботов-воспитателей, возможностей искусственного клонирования человека окажется невостребованной и абсурдной. Это приведет к изменению морали общества в сторону андрогинности. Появятся новые представления о том, что «хорошо» и что «плохо». Необходимость в молитве также уйдет в прошлое, так как биотехнологии смогут решать многие старые проблемы: изменять геном зародыша еще в утробе (или пробирке) и корректировать все возможные генетические патологии и наследственные заболевания? как и саму личность человека в каком угодно направлении изменений. Боль уйдет в прошлое, ее не будет вообще (средства анестезии позволят избегать этого состояния), а с болью уйдет и вера и надежда (вера тесно связана с болью и надеждой на преодоление и выход). Не будет необходимости в эмоциональной привязанности, так как общение в социальных сетях с ботами заменит любой непосредственный контакт, а "возможности" сознания в машинном мире и виртуальная «красочность» окажутся притягательнее банального общения, которое если и будет иметь место, то только вокруг дополненной реальности. Холодность станет особенностью человека, облегчив коммуникацию «машина-человек-машина». Открытость, о которой сейчас так много говорят, станет законом как для сообществ, так и для индивидуальной личности. Все, подключенные к матрице через экзокортекс или чип, чтобы не навредить этой матрице, управляемой ИИ, должны будут проходить процедуру психокоррекции (помните, как в «Мертвом сезоне»). Это нужно для того, чтобы создавалось впечатление идеального мира, иначе возникнет сбой. Да и не нужны машине ваши подлинные чувства. 

Но безопасность виртуального глобального распределенного разума не будет никогда достигнута, внуренние противоречия человека будут восприняты машиной, как алгоритм и ее мышления, что отразится и на самих людях. Избавиться процедурами психокоррекции и нейронного программирования от поврежденной грехом природы человека не удасться никогда, как, впрочем, и создать во вселенной изолированное от воли Творца пространство. А ведь, по сути, все это напоминает акт творения нового человека в новом мире машин-поводырей без истинного Творца. Техногенная мораль без Бога окажется пластичной и изменчивой. Она будет служить стабильности этой хрупкой, вырванной из эволюционных законов вселенной, матрицы ИИ. Ее прикладной характер очевидно проступает уже сейчас. Пожалуй, главная заповедь будет звучать так: «То, что поддерживает стабильность системы, есть абсолютное благо, даже если это благо уничтожает уникальную личность человека». 

Представьте, что наступил 2045 год (точка запланированной сингулярности). Необходимым условием стабильности является полная прозрачность и полный контроль (если систему грохнуть, то последствия для подсевшего на алгоритмы ИИ мира будут катастрофичны: аварии, взрывы, аннулирование виртуальных счетов и прав собственности, зарегистрированных в сети). А кто вам сказал, что система хочет блага человеку? Необходимым условием прозрачности и стабильности системы служит контроль ваших мыслей или их полное моделирование в соответствии с задачами ИИ. В ваш мозг залезут, его сканируют и санируют все опасные мысли и эмоции, а потом будут управлять мыслями (в карте будущих профессий АСИ есть одна интересная специальность - модератор измененных состояний сознания). Примерно так работает экзокортекс, но, естественно, без модератора, вкладывающего в ваше измененное сознание необходимое системе описание реальности, не обойтись. Человек отменяется?