Смотреть оглавление книги "Цифра на марше!" и истории один, три, четыре, шесть
Эта история про те времена, которые, судя по всему, выйдут за выбранный нами горизонт событий. Даже оптимисты говорят о том, что описанные ниже события наступят не раньше 2045 года. И тем не менее об этом стоит поговорить по нескольким причинам.
Во-первых, масштаб данных событий все эксперты считают уникальным. Сравнивают его с зарождением человеческой цивилизации. Никакие сценарии социальных и техногенных катастроф в сравнение с технологической сингулярностью не идут. Не по негативным последствиям – человечество может уничтожить себя разными способами. А вот породить принципиально новую ветку эволюции разумной жизни, полностью непредсказуемую, это дорогого стоит.
Во-вторых, для разговора о более приземленных вещах нужно разобраться с понятиями. В следующей истории пойдет речь о слабом искусственном интеллекте (ИИ) и связанных с ним последствиях. Последствиях масштабных и впечатляющих. И самое главное для нас – имеющих самое прямое отношение к сфере образования. В данной истории мы поговорим о сильном ИИ, который по возможностям будет сравним с человеческим интеллектом. А также о том, что будет после его создания.
Специалисты выделяют три принципиально разные категории искусственного интеллекта:
• слабый ИИ, способный эффективно решать ограниченный класс задач (распознавать текст или речь, отличать на фото кошек от собак т.п.);
• сильный ИИ, сравнимый с человеческим интеллектом, способный самообучаться и решать новые классы задач, не предусмотренные разработчиками;
• сверхчеловеческий ИИ, который непредсказуемо превзойдет по своим возможностям человеческий интеллект.
Единства по поводу возможности создания сильного ИИ нет. Многие специалисты сомневаются, что это возможно в принципе. Многие уверены, что этого не избежать, что сильный ИИ – не за горами. Железных доказательств для сомнений одних и уверенности других нет. Есть более-менее правдоподобные обоснования.
Однако практически все сходятся в том, что после создания сильного ИИ (если это возможно), создание сверхчеловеческого ИИ неизбежно. Принципиальный порог сложности будет преодолен, остановить спектакль уже никто не сможет.
Как скептики, так и адепты сильного ИИ сходятся еще в одном. Если принципиальная возможность создания сильного ИИ существует – он будет создан. Человеческое любопытство и конкурентные преимущества, которое может дать сильный ИИ своим создателям, шансов избежать технологической сингулярности не оставят.
Термин «технологическая сингулярность» в своей знаменитой статье 1993 года ввел американский профессор математики, писатель-фантаст Вернор Виндж. Правда сам он дает отсылку на такие мысли одного из основателей кибернетики Джона фон Неймана:
Ускорение технологического прогресса и перемены в образе жизни людей свидетельствуют о приближении существенной сингулярности в истории рода человеческого, такой сингулярности, после которой дела людские в том виде, в котором они нам известны, продолжаться уже не смогут.
Это, на минуточку, 50-е годы.
Несколько слов о сингулярности как понятии. В переводе с латинского «сингулярный» – единственный, особенный. Иногда добавляют – уникальный. Соответственно сингулярность – это особое, единичное и уникальное событие, явление. Наиболее известный пример – момент зарождения Вселенной, Большой Взрыв. Космологическая сингулярность характеризует состояние Вселенной в начальный момент времени.
Единственность, особенность и уникальность не исчерпывают современное понимание сингулярности. Еще одной важнейшей характеристикой является непредсказуемость, принципиальная неопределенность. Явление, событие может быть уникальным, единственным в своем роде. Например, создание Джоконды. Но к сингулярности оно не имеет никакого отношения.
Речь не идет о той неопределенности, которая присутствует в VUCA-мире. Такая неопределенность – это просто невозможность определить, какой из известных сценариев развития событий произойдет. Неопределенность сингулярности вообще ничего не говорит о возможных сценариях или состояниях. Вещество в момент космологической сингулярности характеризуется бесконечной плотностью и бесконечной температурой, что противоречит всем известным законам и здравому смыслу.
Вводя термин «технологическая сингулярность», Вернор Виндж имел в виду следующее. Как только на Земле появится сверхчеловеческий интеллект, события начнут развиваться по сценарию, который мы не можем предсказать в принципе.
Еще одним критерием наступления технологической сингулярности считается первое создание сильного ИИ другим сильным ИИ. Как только это произойдет, ситуация также выйдет из-под контроля и станет полностью непредсказуемой. Моральные искусственные ограничения вроде трех законов робототехники Айзека Азимова, как обоснованно считает Виндж, не помогут. Стоит один раз из-за любопытства или по соображениям конкуренции от них отступить, и все пойдет по непредсказуемому сценарию.
При этом обычные люди, точнее люди с обычным интеллектом, влиять на события уже не смогут. Какую судьбу им назначит сверхчеловеческий разум – неизвестно. Виндж считает, что вряд ли она нас обрадует. Вот цитата из его статьи:
При всем моем безудержном технологическом оптимизме иногда я думаю, что мне спокойней было бы наблюдать эти переходные события с расстояния в тысячу лет… а не в двадцать.
В своей статье Виндж описывает несколько вариантов появления сверхразума:
• разумный компьютер, который сначала сравнится с человеком, а потом практически мгновенно его превзойдет (это сильный ИИ в современной трактовке, наиболее вероятный вариант);
• компьютерная сеть, которая в какой-то момент «осознает себя» как сущность, может стать сверхчеловеческим разумом (в настоящее время этот вариант пригоден в основном для сюжетов фантастических романов);
• киборг, в котором сочетание биологических и компьютерных технологий даст новое качество (маловероятный вариант, человеческий интеллект, дополненный наборами слабых ИИ, вряд ли способен стать сверхразумом);
• биологические исследования, например, в области генетики и нейрофизиологии, дадут средства качественного совершенствования природного человеческого интеллекта (наиболее благоприятный для человечества сценарий, если удастся преодолеть понятные социальные проблемы).
Итак, именно создание сильного ИИ является наиболее понятным направлением исследований. Насколько они далеки от реального практического результата? Мое мнение – пока еще очень далеки. Я не специалист и имею очень поверхностное представление о проблемах и достижениях в этой сфере. Но вот что интересно. С появлением первых ЭВМ футурологи (которых так еще и не называли) делали прогнозы о сроках создания искусственного разума. И каждый раз попадали пальцем в небо, а сроки приходилось переносить.
Вернор Виндж в своей статье 1993 года писал, что он сильно удивится, если сверхразум появится раньше 2005 и позже 2030 года. До 2030 года осталось 10 лет. Оптимисты сегодня называют 2045 год. Скорее всего – сроки опять придется переносить. И вряд ли мы все, обычные люди, по этому поводу расстроимся.
Есть, правда, несколько НО. Прошлые прогнозы заведомо делались без серьезных обоснований. Авторы нынешних прогнозов хорошо понимают, что для создания сильного ИИ нужно решить несколько проблем.
Во-первых, компьютерные вычислительные мощности должны сравниться с вычислительными мощностями человеческого мозга. Не буду приводить количественные оценки (они есть, например, в книге Клауса Швабе). Важно, что вычислительные мощности современных суперкомпьютеров уже можно сравнивать с нашим мозгом. Они пока занимают многие квадратные метры площади и расходуют огромное количество ресурсов и энергии. Но ведь современный смартфон по мощности тоже превосходит огромные шкафы первых ЭВМ. И квантовые вычисления – перспективная и набирающая обороты технология. Так что время, когда вычислительные мощности, сравнимые с человеческим мозгом, станут доступными, не так уж и далеко.
Во-вторых, нужно досконально разобраться, как функционирует человеческий мозг. Как при таком физическом объеме и при таком низком уровне энергопотребления он способен решать такое количество самых разнообразных задач. Такое понимание позволит перейти к моделированию его работы с помощью компьютерных технологий.
О том, что исследования в области функционирования мозга самое спонсируемое научное направление в мире, я уже писал в прошлой истории. Одна из задач таких исследований – выработка подходов, позволяющих улучшить функционирование мозга, как по качеству, так и по срокам. Но, возможно, главная задача – это как раз разработка модели, которую можно воплотить в жизнь технологическими средствами.
И вот здесь пока прорывных результатов нет. Ученые, участвующие в таких исследованиях, любят говорить, что человеческий мозг – самый сложный объект во Вселенной.
Однако цель понятна, продвижение к ней идет. Результатом будет либо модель для последующего воплощения, либо понимание, что модель невозможна. Например, по причине того, что человеческое сознание неведомыми пока способами подключено к информационному полю, выходящему за рамки материального мира. Не только эзотерические и религиозные учения, но и квантовая физика допускает такие возможности.
Что из всего вышесказанного можно связать со сферой образования, которую мы хотим уместным способом трансформировать в ближайшие 20 лет? Совсем немногое.
Во-первых, концепция технологической сингулярности должна стать объектом изучения в массовой школе. Есть такой спецкурс в некоторых университетах – «Концепции современного естествознания». Он на концептуальном уровне, без математической и иной специальной детализации, знакомит студентов с основными мировозренческими научными теориями, показывает их взаимосвязи. Отличная идея, которую очень правильно было бы перенести в школу. Технологическая сингулярность, искусственный интеллект и иные порождения цифрового мира должны найти свое отражение в таком спецкурсе.
Во-вторых, учеников неплохо было бы знакомить с более локальными проявлениями сингулярности в мире. Сингулярность часто связывают с процессами и явлениями, развивающимися по экспоненциальным законам. Историки считают, например, что по таким законам развивались и приходили к упадку великие империи.
В-третьих, страшилку «технологической сингулярности» хорошо было бы использовать для популяризации в молодежной среде тематики космических исследований. Вернор Виндж в своей статье рассматривал вариант космической экспансии как спасение человечества от наступающей технологической сингулярности. В 60-70 годы мальчишки и девчонки во многих странах мечтали стать космонавтами. Это была одна из самых романтических профессий. Сегодня, к сожалению, мечты у молодежи намного более приземленные.
В любом случае данная перспектива – это отдаленное будущее. Более приземленные угрозы и возможности человечеству стоит ждать от слабого искусственного интеллекта. О нем – следующая история.
Оценили 3 человека
3 кармы