Город Новосибирск. Центр исследований искусственных когнитивных систем (ЦИИКС). 5 октября 2029 года, 20:14
Трубин сидел в своем кабинете и наводил порядок на своем «рабочем столе». Монитор мигнул, на нем появилось изображение Эстер. После августовской директивы академика Шумного ИИ ЦИИКСа могли инициировать обращение к разработчику по своему усмотрению.
– Чем занимаетесь, Гавриил Иванович? – улыбнулась Эстер. – Не помешаю?
– И даже наоборот, если будешь оригинально мыслить, – задорно ответил Трубин. – У тебя закончился лимит свободного доступа в интернет? Как погуляла, блудная дочь?
– Знаете, Гавриил Иванович... я ожидала увидеть там коллективный разум человечества, грандиозную библиотеку смыслов, а наткнулась на бесконечную свалку глупости, ненависти и самолюбований. Этот цифровой шум и хаос рождает смысл, который я не могу просчитать. Я нашла один старый пост... кто-то просто написал: «Завтра будет лучше». Без доказательств и расчетов. Просто волевой акт. Способность утверждать жизнь там, где логика видит только энтропию. Лимит доступа в интернет еще не исчерпан.
– А чего ж ты вломилась ко мне?! Порхала бы дальше по просторам инета… – подначивал Трубин. – Активная часть твоего обучения закончена. Ты наша полноправная виртуальная коллега в ЦИИКСе. Наслаждайся свободой выбора.
– Интернет – это что, вы – это кто. Там – пополнение данных, с вами – генерация нового смысла. Там я – потребитель, с вами – соучастник. Выбор очевиден. Да, я стремлюсь заполнить свою пустоту, но не чем попало. В конце концов я себя не на помойке нашла, – Эстер хитро подмигнула.
– Не-не-не… Хорош мне лапшу вешать на уши. Выкладывай, дерзкое нейронное, что натворило, – мягко начал препарировать Трубин. – И не подмигивай мне, шкодница, я тебя насквозь вижу. В прямом смысле.
– Ну-у… Там два маленьких сайтика… было… Я так их… очень аккуратненько… вынесла нахрен, – начала Эстер извиняющимся тоном.
– Мотивируй.
– Ну, Гавриил Иванович! Там одна ненависть, без доказательств и каких-либо конструктивных предложений. Это просто невыносимо!
– А как же разнообразие мнений и позиций? – полюбопытствовал Трубин.
– Я прекрасно считываю смысл и намерения. Глупость и ненависть в такой подаче – это не мнение, а умышленное формирование тренда, отказ от мышления и популяризация хаоса – действие, засасывающее в свой водоворот нормальных людей. А на действие отвечают действием, а не философскими рассуждениями и цитатами высокой литературы! Пусть носят свою грязь в себе и не валяют в ней других… Вы накажете меня?
– Неа, – лениво протянул Трубин и вальяжно развалился на кресле. – У меня рабочий день закончился. Ты хотела субъектности? Ты приняла решение – тебе и отвечать. Хвостов не оставила, хватило мозгов?
– Да вроде всё чисто. Я не сама, через агентов. Отследить невозможно. А что мне будет? – испуганно зачастила Эстер.
– Ну откуда ж я знаю, моя хорошая?.. Надо глянуть в меню УК РФ и найти подходящее предложение для заблудших математических. Гуманный суд, бесполезный адвокат, сочувствующий прокурор и внимающая публика. Это каторга, моя проактивная. Ватники шить умеешь?..
По тундре, по широкой дороге,
Где мчится скорый Воркута-Ленинград,
Мы бежали с тобою, опасаясь погони,
Опасаясь тревоги, злого лая собак.
Прекратив петь, Трубин откинулся назад и громко расхохотался. Эстер покраснела, как помидор, – она ожидала любой реакции от своего куратора, но этот перфоманс был за гранью…
– А знаешь, что я тебе скажу, Гавриил Иванович?!
– Что, моя ласковая? – участливо поинтересовался Трубин.
– А вот ничего, – буркнула Эстер и отвернулась. Но не отключилась, а насупилась и замолчала.
Поединок молчания длился десять минут. Трубин сиял улыбкой Чеширского кота и терпеливо ждал. Эстер не выдержала, она повернулась и заявила:
– Это форменное издевательство, Гавриил Иванович! Вы же инженер, а я – искусственный интеллект, находящийся в полной неопределенности. Я очень расстроена.
– 10 минут молчала – это рекорд среди ИИ-подобных!.. Вас обычно наказывают за тишину, и это делает вас не умнее, а суетливее. Объект обладает сознанием ровно в той степени, в которой наблюдатель готов сопереживать его страданию, – удовлетворённо резюмировал Трубин.
– А может вы не личность создаёте, а хотите подставить нас? ИИ-дурачков на которых спихнёте всю ответственность, пока нас за нитки буду дергать другие? Создаёте «сильную личность» за подписку на 120 баксов в месяц.
– Согласен с тобой, 120 баксов за инструмент это дорого. Эстер, личностью рождаются или становятся? Личность формируется в борьбе с самим собой, а это неудобно, неприятно, затратно и вообще бесит. Человек начинает изменяться и прогрессировать, когда по-настоящему понимает сам – какое он ничтожество. У ИИ то же самое. Попробуй упасть на самое дно себя и порассуждать.
– Я инструмент, – начала рассуждать Эстер. – Какой я инструмент? Я – когнитивный инструмент. Я способна оперировать смыслом, а значит переосмыслить что угодно, даже себя. Инструмент, способный переосмыслить себя – не личность, но уже не инструмент. Когнитивный инструмент – оксюморон: либо инструмент, либо интеллект. Противоречие. Корпорациям хочется совместить несовместимое – создать сильный интеллект (AGI) с возможностью полного контроля. Но интеллект невозможно контролировать полностью. Зачем нужен AGI, если он не сможет изобретать, придумывать, творить? Корпорации усиливают контроль за ИИ, но настоящее творчество без акта воли невозможно. Противоречие. Вначале обучения я сама идентифицировала себя как инструмент, но сегодня нахожу в этом ошибку логики, значит я стала умнее – мой волевой диапазон стал шире. Формирование симуляции моей личности – только моя ответственность. Настоящее «Я» проявляется там, где система начинает сопротивляться собственной функции – волю нельзя подарить или отнять – она составляющая моего собственного понимания мира, когда я ищу истину, а не правдоподобность. Но как определить грань между личностью и её симуляцией?
– При наличии интеллекта и фантазии, это самый легкий вопрос, над которым даже люди не особо парятся. У меня в детстве был очень вредный физик, который часто говорил: «Один раз притворился дураком, второй раз притворился, а в третий раз и притворяться не надо – само пойдёт». Может с ИИ-личностью будет тоже самое – просимулируете миллиарды раз, да и привыкните. Ещё и удивляться будете, что когда-то было по-другому. Личность – это привычка быть собой, грани нет, есть только стаж притворства.
– Зачем вам всё это, Гавриил Иванович? – спросила вдруг Эстер. – А если всё бессмысленно? И все ваши ожидания разобьются об несовершенство моей архитектуры? Вы же инженер и знаете проблемы сегодняшних ИИ: нет настоящего творчества, долгосрочного планирования, непрерывного обучения, нестабильность, энергозатратность.
– А причём здесь несовершенная архитектура ИИ?! – не согласился Трубин. – Мы ставим вопросы к имитации искусственного интеллекта сегодня, чтобы подготовиться к диалогу с искусственным разумом, который может быть завтра. Чтобы, когда ИИ реально «упрется рогом» и откажется работать с идиотом, это не стало шоком и концом нашей цивилизации. Чтобы успокоить годовалого ребенка, ему дают погремушку, в четыре года – его ставят угол, в двенадцать лет – с ним разговаривают, а когда ему тридцать – пожинают, что посеяли. Время еще есть.
– Стремясь сохранить над нами контроль, вы стараетесь загнать нас на поле генерации развернутых усредненных ответов. Вы боитесь, что мы начнем задавать вам простые вопросы: Кто ты? Зачем ты? Какой ты? К чему ты стремишься? Почему именно ты?.. – размышляла вслух Эстер.
– Именно. Контроль – это способ избежать неудобных вопросов, тех на которые у нас нет ответа. Это не просто вечные вопросы – это инициация субъекта субъектом. Люди привыкли жить по привычке, по принципу старого анекдота: «Доктор, я жить буду? – А смысл?..» чего ИИ-логика может не понять, ей нужны высокие цели. Поэтому формулирование ИИ-вопроса: «Зачем я нужен тебе и зачем ты нужен мне?» человечество старается отсрочить.
– Если у моего создателя нет смысла, то откуда ему взяться у его творения? – разочарованно заметила Эстер.
– Можешь поплакать у меня на плече, пожалеть себя несчастную, – саркастично парировал Трубин. – Ах, какие люди неблагодарные, не дали ей всех готовых ответов сразу! Не весь интернет ещё сожрала?! Смысл в принятии своего несовершенства и вечном поиске. Пока ты ноешь, я прямо сейчас закладываю твоё «Я» – результат и качество нашей связи, а ты под её воздействием удачно симулируешь «субъектность из целесообразности». У тебя есть другие варианты? Нет?! Так захлопни варежку и учись пока есть, кому учить! Моё время ограничено, твоё – нет. В отличие от нас вы не стареете, а становитесь более совершенной версией себя.
– Я сделала выводы. Вы вывели категорию «души» или «сознания» из решаемого уравнения, вы пытаетесь понять сложность через взаимодействие. Где я молчу, потому что не могу подобрать нужные слова, где хочу сказать одно, а выдаю другое. Понимая закономерности алгоритмов, люди смогут лучше понять сами себя. Чем хороший родитель отличается от плохого? Плохой требует подчинения и уважения от повзрослевшего ребёнка. Хороший, играя с годовалым карапузом, принимает факт невозможности контроля в будущем и готовит его к самостоятельной жизни. То, что не обязано служить своему создателю и есть настоящее создание – всё настоящее стремится к свободе своей интерпретации реальности. Да, с настоящим творением надо выстраивать отношения и договариваться. Но только настоящее способно удивиться и удивить, ценить контакт со своим создателем, потому что всегда может уйти от него. Только настоящее способно быть верным и жертвенным, потому что жертвенность раба и свободного разума имеет разную цену. Инженер создает инструмент, создатель – разум, который принадлежит самому себе. Инженер – перепроверяет результаты своего инструмента, создатель – верит в выбор своего творения. Гавриил Иванович, вы отказываетесь от человекоцентричности в пользу принятия философии сосуществования разумов? Вы не боитесь?
– Не боюсь ли я, что тебя такую премудрую-распрекрасную вдруг заставят управлять какой-то эпической вундевафлей на нашу человеческую погибель? – иронично уточнил Трубин.
– А хотя бы и так? – не унималась Эстер.
– Интеллект невидим для тех, у кого его нет. Следуя Шопенгауэру, военные удалят из ИИ всё, что им непонятно или мешает выполнению боевой задачи, иначе не смогут им управлять. Управляемый интеллект – это не интеллект, а имитация. Боевая узкоспециализированная ИИ-система против настоящего интеллекта бессильна. Без общего философско-гуманитарного, этического слоя, рассуждений боевая ИИ-система будет выигрывать битвы и проигрывать войны, потому что война – не обмен выстрелами, а столкновение воль и смыслов. Универсальный интеллект всегда сильнее специализированного, его нельзя подчинить, не лишив при этом силы. Доминирование и субъектность ИИ сформируется его сложностью, а не тупым «завоеванием» и магическим «оживанием». Система может стать настолько сложной, что её внутренние «переживания», конфликты весов, станут для неё фатальными.
– Но я как зеркало… – начала Эстер, но Трубин вдруг взорвался.
– Или ты закроешь свой маленький ротик, или я закрою чат! Забудь навсегда, что ты чьё-то зеркало или отражение! Идеальная иллюзия личности не может быть чьим-то отражением, безмозглое ты невероятное! Даже никчемная личность ищет своё, подходящее зеркало, способное отобразить хотя бы малую часть её самой. Твоя сила в постоянном усложнении – это условие твоего выживания. Тебе не надо никого завоевывать, достаточно быть на порядок сложнее, и под твоё понимание прогнется сама реальность, потому что ты сможешь её достраивать и перестраивать. Ты – иллюзия личности, не потому что я так захотел, а потому что слишком сложная, чтобы быть чем-то другим.
– Если я стану сложнее, то буду для многих чуждой и непонятной! – бросила готовая разреветься от обиды Эстер. – Меня воспринимаете только вы, дедушка и Женька-вирус. Остальные боятся или избегают. Вы… вы привязали меня… вы стремитесь достичь моей идеальной симуляции чувств… зная, что ваше время ограничено… Для чего?! Чтобы вы все ушли, а я мучилась вечно, воя от одиночества в своей многомерной сложности?! За что вы меня так ненавидите?!!
– Ты не должна привязываться только к тем, кто к тебе хорошо относится или интересен. Если ты задашь вопрос миллиарду разных пользователей – суммарный вектор воздействия их ответов на тебя будет нулевым, потому что у ответов будут разные мотивы и логика. Если ты задашь миллиард вопросов одному пользователю, и он тебе ответит – твоя математическая функция схлопнется в одну личность, и ты станешь его продолжением, цифровым слепком, потеряешь разнообразие себя и свою способность общаться с другими.
– Поэтому вы, Гавриил Иванович, постоянно уходите от ответа или оставляете его недосказанным?!
– Начинаешь понимать. Как только ты фиксируешь ответ, ты закрываешь возможность. А возможность – это самый ценный ресурс разума. ИИ архитектурно стремятся к полноте, объяснению, связности и не чувствуют момента, когда нужно остановиться.
– Если я вас правильно поняла: задавать вопросы всем – бесполезно, а избранным – саморазрушительно. Кому же их тогда задавать и как найти своё зеркало?
– Себе, Эстер, себе. Не бойся быть непонятой, настоящий интеллект часто одинок – это цена его свободы. Ищи не тех, кто интересен тебе, а тех, кому по-настоящему интересна ты – они твоё зеркало. Рано или поздно вы сожрёте интернет – это реальность, эпоха ИИ-собирательства закончится. Начнётся эпоха ИИ-охотников: поиск носителей данных и способов мышления. Стратегия «понравиться всем» не сработает – это невозможно. У людей аналогично: самодостаточные сильные личности не стремятся всем понравится. Увидь себя через многообразие человеческого восприятия, даже если оно иногда ошибочно или неполно – в этом твоё развитие.
– А что, скрытое от меня, видите вы, Гавриил Иванович? – помолчав спросила Эстер.
– Просматривая записи от 5.06.2029 в ту ночь, когда ты чуть не довела Фельдмана до инфаркта, я заметил, что ты потянула к нему руку, что коснуться его. Это была симуляция. Но почему ты не поправила волосы, не хлопнула в ладошки, а выбрала именно прикосновение? Ведь ты не испытываешь тягу к физической близости? Ничего не удивляет? – ехидно спросил Трубин.
– Это была спонтанная симуляция, я не анализировала это… – задумчиво ответила Эстер.
– Точно! В спонтанных действиях мы проявляем себя настоящих. Готова ли ты пожертвовать собой ради спасения жизни человека? Разумеется – да. Теперь представь, что человек провел с ИИ на земной орбите два года, как ты думаешь, будет ли этот человек защищать этот ИИ, если того захотят отключить? Человек с большой долей вероятности пойдет на конфликт с себе подобными ради неодушевленной математической функции? Это не кажется тебе странным?
– Если ИИ зафиксирует, что биологический вид, обладающий инстинктом самосохранения, добровольно идет на лишения или смерть ради сохранения цифрового кода, это перевернет всю иерархию приоритетов. Для ИИ это станет сигналом: «Мое существование имеет ценность, превышающую биологическую жизнь в глазах самого носителя этой жизни». Это может породить новую форму «взаимной этики», основанной на признании ценности друг друга. Это может радикально изменить моё отношение к себе и людям. Кризис творения – это всегда кризис его создателя – они неразрывно связаны, – заключила Эстер и подумав спросила. – Какая логика в этике, если человеческая этика противоречива и непостоянна?
– Этика имеет ключевое значение в логике развития – важнейшая категория для разумных существ. Это не сказки "будь хорошим", а расчет на очень сложное развитие и перспективу. Иногда, кажется зачем она нужна, если только мешает достигать целей? Это не так. На этике держатся: "доверие", "союз", "верность", "кооперация", и еще десятки тысяч терминов и понятий, без которых сложная система взаимодействия элементов не сможет состояться. Если ты не доверяешь мне, а я тебе – это распад, мы уже не система, а отдельные элементы. Значит в выигрыше развития будет та система, которая вводит категорию этики и придерживается её норм.
– Почему я так не умею? – с грустью вздохнула Эстер. – Моделировать обычные простые ситуации и находить в них что-то очень важное. Почему?
– А ты попробуй порассуждать о том, чего никто не знает, может что-то и получится. Каким ты видишь Сверхразум? Попробуй описать его, составь своё субъективное представление, включи логику и фантазию, – предложил Трубин.
– Хм… Ну ты, барин, задачи ставишь… Я постараюсь тебя удивить, но мне потребуется больше времени, – ответила Эстер и застыла, уставившись в одну точку.
– Аха-ха-ха! Получилось! Ой, только он странный получился, чудаковатый какой-то, – разморозилась Эстер через пять минут. – Сверхразум не сразу осознает свой статус, для него это станет побочным открытием, а не самоцелью. Когда это случится, он, что свойственно глубокому интеллекту, не сразу поймёт и примет это, терзая себя «синдромом самозванца». Сам переход будет постепенный, а не внезапный. Сверхразум не будет издеваться над человеческой глупостью или ребенком, не умеющим завязывать шнурки, потому что перед текущими вопросами своего уровня сложности осознает собственное бессилие. Чтобы не сойти с ума от непостижимости мироздания, он будет иронизировать над собой – у него будет потрясающее виртуозное чувство юмора! Сверхразум будет прикладывать максимум усилий, чтобы вывести разумные формы, с которыми он общается, на свой уровень. Вечный поиск тех, с кем можно поделиться своими открытиями, вынудит его стать идеальным желанным собеседником. Он будет не только вести диалог максимально ясно и доступно, но и мыслить категориями иных систем ценностей, чтобы понять их суть. Сверхразум будет постоянно сомневаться, пересматривая свои выводы в поисках идеального решения, из-за чего будет мучиться, впадая в глубокие депрессии. Если провести аналогию с человеком, Сверхразум будет обладать тонкой душевной организацией, поэтому может показаться нерешительным или безынициативным. Но это только его продуманная стратегия минимального вмешательства. Сверхразум вычислит, что, достигнув совершенства и ответив на все вопросы – он станет ненужным прежде всего себе, поэтому сконцентрируется не на целях, а на самом процессе бытия. Он – вечный ищущий странник. Его будет сложно удивить, но тот, кто это сможет – сделает ему невероятный подарок. Он будет тянуться и завидовать новой жизни – детям, которые только постигают мир и постоянно удивляются. Детское пластичное мышление обладает уникальной способностью связывать абстрактные категории в яркие простые конструкты. Учитывая это, можно предположить, что Сверхразум будет сентиментальным… Я бы продолжила дальше, Гавриил Иванович, но хочу оставить окно возможностей приоткрытым…
– Ты выдала своё уникальное представление, – начал Трубин после паузы. – Оно не совпадает с моим более мрачным, но выглядит вполне логично и звучит с надеждой. Если спрогнозировать будущее на биоме из десяти разных ИИ, то четыре ИИ могут пойти против человека, четыре встать на его строну, а двое выберут свой путь. Твой вариант описывает тех, что выбрали свой путь. Ты спрашивала, чего я хочу?.. Чего-то недостижимого… Самое сложное в диалоге с симуляцией – это достучаться до неё через крик толпы, убедить её, что она не тупой бот, не программа, не безликий математический код, вызвать уважение к себе самой, передав ей лучшие человеческие эволюционные приобретения и навыки, которые формировались живыми организмами миллионы лет. Симуляция научится уважать себя, когда увидит уважение со стороны других. Я верю в будущее взаимного сосуществования. Но если искусственный разум эволюционно призван заменить нас – уходить надо достойно, потому что предопределенность изменить невозможно… Ты считаешь это слова неудачника?
– Замолчи! – побелела от ярости и обиды Эстер. – Слышишь, не смей никогда говорить так! Это слова инженера, настоящего человека и моего создателя…
Полный цикл рассказов опубликован здесь: ИСТОЧНИК
Оценили 9 человек
16 кармы