В этом столетии Человечество сталкивается с тремя экзистенциальными угрозами, предупредил мировой сообщество историк Юваль Харари в Давосе 2020. Технологии разделят мир и элиты будут использовать «колонии данных».
Изображение: изображение Артуро Раго, Всемирный экономический форум
Когда мы вступаем в третье десятилетие XXI века, человечество сталкивается с таким количеством проблем и вопросов, что действительно трудно понять, на чем сосредоточиться. Поэтому я хотел бы использовать следующие двадцать минут, чтобы помочь нам сосредоточиться на всех проблемах, с которыми мы сталкиваемся. Три проблемы создают экзистенциальные проблемы существования для нашего вида. Эти три экзистенциальные проблемы - это ядерная война, экологический коллапс и технологические разрушения. Мы должны сосредоточиться на них.
Ядерная война и экологический коллапс - уже знакомые угрозы, поэтому позвольте мне потратить некоторое время на объяснение менее знакомой угрозы, создаваемой технологическим прорывом.
В Давосе мы так много слышим об огромных выгодах использования "технологий" - и эти обещания, безусловно, реальны. Но технологии могут разрушить человеческое общество и сам смысл человеческой жизни разными способами - от создания глобального бесполезного класса до роста колониализма данных и цифровых диктатур.
Технологии могут быть очень разрушительными.
Во-первых, мы можем столкнуться с потрясениями на социальном и экономическом уровне.
Автоматизация скоро уничтожит миллионы и миллионы рабочих мест, и, хотя новые рабочие места, безусловно, будут созданы, неясно, смогут ли люди достаточно быстро освоить необходимые новые навыки. Предположим, вам пятьдесят лет, и вы только что потеряли работу водителя. Есть новые рабочие места в сфере разработок программного обеспечения или в обучении йоги для инженеров - но как пятидесятилетний водитель грузовика сможет заново переосознать себя и принять себя в качестве инженера-программиста или учителя йоги? И люди должны будут делать это не раз, а снова и снова на протяжении всей своей жизни, потому что революция в области автоматизации не будет единственным переломным моментом. Скорее, это будет каскад все больших и больших разрушений, потому что ИИ далеко не полностью использует свой потенциал.
Старые рабочие места исчезнут, новые рабочие места появятся, но затем новые рабочие места быстро изменятся и исчезнут. Если в прошлом человеку приходилось бороться с эксплуатацией, то в XXI веке действительно большая борьба будет идти против бесполезности. И гораздо хуже станет быть ненужным и неуместным, чем быть эксплуатируемым.
Может ли автоматизация создать «бесполезный класс»?
Те, кто потерпят неудачу в борьбе с неуместностью, будут представлять собой новый «бесполезный класс» - людей, которые бесполезны не с точки зрения своих друзей и семьи, но бесполезны с точки зрения экономической и политической системы. И этот бесполезный класс будет отделен постоянно растущим отрывом от все более могущественной элиты.
Революция ИИ может создать беспрецедентное неравенство не только между классами, но и между странами.
В девятнадцатом веке несколько стран, таких как Великобритания и Япония, начали индустриализацию первыми, и они продолжили завоевывать и эксплуатировать большую часть мира. Если мы не будем осторожны, то же самое произойдет в двадцать первом веке с ИИ.
Мы уже находимся в разгаре гонки вооружений ИИ, и Китай и США лидируют в этой гонке, а большинство стран остаются далеко позади. Если мы не примем меры для распределения пользы и мощи ИИ между всеми людьми, ИИ, вероятно, создаст огромное богатство в нескольких высокотехнологичных центрах, тогда как другие страны либо обанкротятся, либо станут эксплуатируемыми колониями данных.
Сейчас мы не говорим о научно-фантастическом сценарии восстания роботов против людей. Мы говорим о гораздо более примитивном ИИ, которого, тем не менее, уже достаточно, чтобы нарушить глобальный баланс.
Подумайте, что будет с развивающейся экономикой, если в Калифорнии будет дешевле производить текстиль или автомобили, чем в Мексике? А что будет с политикой в вашей стране через двадцать лет, когда кто-нибудь в Сан-Франциско или Пекине будет знать всю подноготную медицинской и личной истории каждого политика, каждого судьи и каждого журналиста в вашей стране, включая все их сексуальные истории, все их психические слабости и все их коррупционные отношения? Будет ли она по-прежнему независимой страной или станет колонией данных?
Когда у вас есть достаточно данных, вам уже не нужно отправлять солдат, чтобы контролировать страну.
Наряду с неравенством, другой серьезной угрозой, с которой мы сталкиваемся, является рост цифровых диктатур, которые будут постоянно контролировать всех.
Эту опасность можно сформулировать в виде простого уравнения, которое, я думаю, может быть определяющим уравнением жизни в двадцать первом веке:
B x C x D = Ах!
Что это значит? Биологические знания, умноженные на вычислительную мощность, умноженную на данные, равны способности взламывать людей, Ах-ах.
Опасное уравнение.
Если вы знаете достаточно из биологии и обладаете достаточными вычислительными возможностями и данными, вы можете взломать мое тело, мой мозг и мою жизнь, и вы сможете понять меня лучше, чем я сам. Вы можете знать мой тип личности, мои политические взгляды, мои сексуальные предпочтения, мои психические слабости, мои самые глубокие страхи и надежды. И вы можете сделать это не только для меня, но и для всех. Для каждого.
Система, которая понимает нас лучше, чем мы сами понимаем, может предсказать наши чувства и решения, может манипулировать нашими чувствами и решениями и в конечном итоге может принимать решения за нас.
В прошлом многие правительства и тираны хотели сделать это, но никто не понимал биологию достаточно хорошо, и ни у кого не было достаточно вычислительной мощности и данных, чтобы взломать миллионы людей. Вскоре, по крайней мере, некоторые корпорации и правительства смогут систематически взламывать всех людей. Мы, люди, должны привыкнуть к мысли, что мы больше не таинственные души - мы теперь взломанные животные. Это то, что мы есть.
Способность взламывать людей может быть использована для хороших целей - например, для обеспечения гораздо лучшего здравоохранения. Но если эта власть попадет в руки Сталина двадцать первого века, результатом будет худший тоталитарный режим в истории человечества. И у нас уже есть ряд претендентов на роль Сталина XXI века.
Представьте себе Северную Корею через двадцать лет, когда каждый должен носить биометрический браслет, который постоянно контролирует ваше кровяное давление, частоту сердечных сокращений, активность вашего мозга двадцать четыре часа в сутки. Вы слушаете речь по радио великого лидера, и они знают, что вы на самом деле чувствуете. Вы можете хлопать в ладоши и улыбаться, но если вы злитесь, они знают, что завтра вы будете в ГУЛАГе.
И если мы допустим появление таких тотальных режимов наблюдения, не думайте, что богатые и влиятельные в таких местах, как Давос, будут в безопасности, просто спросите Джеффа Безоса. В сталинском СССР государство контролировало членов коммунистической элиты больше, чем кто-либо другой. То же самое будет и в отношении будущих режимов тотального наблюдения. Чем выше вы находитесь в иерархии - тем ближе за вами будут наблюдать.
Вы хотите, чтобы ваш генеральный директор или ваш президент знал, что вы на самом деле думаете о них?
Поэтому все люди, включая элиты, заинтересованы в том, чтобы не допустить возникновения таких цифровых диктатур.
Теперь, если мы действительно предотвратим установление цифровых диктатур, способность взламывать людей все же может подорвать сам смысл человеческой свободы. Потому что, поскольку люди будут полагаться на ИИ, чтобы принимать все больше и больше решений за нас, власть будет переходить от людей к алгоритмам, и это уже происходит.
Уже сегодня миллиарды людей доверяют алгоритму Facebook, чтобы сообщить нам, что новость, алгоритм Google сообщает нам, что является правдой, Netflix говорит нам, что смотреть, а алгоритмы Amazon и Alibaba говорят нам, что покупать.
В не столь отдаленном будущем подобные алгоритмы могут сказать нам, где работать и на ком жениться, а также решить, следует ли нам нанимать нас на работу, давать ли нам кредит, и должен ли центральный банк повышать процентную ставку.
И если вы спросите, почему вам не дали кредит, и почему вы не повысили процентную ставку в банке, ответ всегда будет одинаковым, потому что компьютер говорит «нет». А поскольку ограниченному человеческому мозгу не хватает достаточных биологических знаний, вычислительной мощности и данных - люди просто не смогут понять решения компьютера.
Таким образом, даже в предположительно свободных странах люди могут потерять контроль над своей жизнью и потерять способность понимать государственную политику.
Сколько людей уже понимают финансовую систему? Может быть, один процент, если быть очень щедрым. Через пару десятилетий число людей, способных понять финансовую систему, станет ровно нулю.
Теперь мы, люди, привыкли думать о жизни как о драме принятия решений. Каков будет смысл человеческой жизни, когда большинство решений будут приниматься алгоритмами? У нас даже нет философских моделей, чтобы понять такое существование.
Лучше или хуже?
Обычная сделка между философами и политиками заключается в том, что у философов есть много причудливых идей, а политики в основном объясняют, что им не хватает средств для реализации этих идей. Сейчас мы находимся в противоположной ситуации. Мы сталкиваемся с философским банкротством.
Двойная революция инфотехнологии и биотехнологии теперь дают политикам средства для создания рая или ада, но философы испытывают затруднения с концептуализацией того, как будут выглядеть новое небо и новый ад. И это очень опасная ситуация.
Если нам не удастся понять концепцию нового неба достаточно быстро, нас могут легко ввести в заблуждение наивные утопии. И если нам не удастся понять концепцию нового ада достаточно быстро, мы можем оказаться в ловушке без выхода.
Сможет ли философия идти в ногу с машинами?
Наконец, технологии могут разрушить не только нашу экономику, политику и философию, но и нашу биологию.
В ближайшие десятилетия ИИ и биотехнология дадут нам божественные способности реинжиниринга жизни и даже создания совершенно новых форм жизни. После четырех миллиардов лет органической жизни, сформированной естественным отбором, мы вступаем в новую эру неорганической жизни, сформированной разумным замыслом.
Наш разумный замысел станет новой движущей силой эволюции жизни, и, используя наши новые «божественные» силы творения, мы можем совершать ошибки в космическом масштабе. В частности, правительства, корпорации и армии, вероятно, будут использовать технологии для улучшения необходимых им человеческих навыков, таких как интеллект и дисциплина, при этом пренебрегая другими навыками людей, такими как сострадание, художественная чувствительность и духовность.
Результатом может стать раса людей, которые очень умны и дисциплинированы, но им не хватает сострадания, не хватает художественной чувствительности и духовной глубины. Конечно, это не пророчество. Это просто возможность. Технология никогда не бывает детерминированной.
Будущее не в камне.
В двадцатом веке люди использовали одну и ту же индустриальную технологию для создания самых разных обществ: фашистских диктатур, коммунистических режимов, либеральных демократий. То же самое произойдет в двадцать первом веке.
ИИ и биотехнологии, безусловно, преобразят мир, но мы можем использовать их для создания совершенно разных типов обществ. И если вы боитесь некоторых из упомянутых мной возможностей, вы все равно можете что-то с этим сделать. Но чтобы сделать что-то эффективное, нам нужно глобальное сотрудничество.
Все три экзистенциальные проблемы, с которыми мы сталкиваемся, являются глобальными проблемами, которые требуют глобальных решений.
Всякий раз, когда лидер говорит что-то вроде «Сначала моя страна!» мы должны напомнить этому лидеру, что ни одна нация не может предотвратить ядерную войну или остановить экологический коллапс сама по себе, и ни одна нация не может самостоятельно регулировать ИИ и биоинженерию.
Играйте на свой страх и риск.
Почти каждая страна скажет: «Эй, мы не хотим разрабатывать роботов-убийц или генетически конструировать человеческих детей. Мы хорошие ребята. Но мы не можем доверять нашим соперникам, чтобы они этого не делали. Поэтому мы должны сделать это в первую очередь ».
Если мы допустим, чтобы такая гонка вооружений развивалась в таких областях, как ИИ и биоинженерия, на самом деле не имеет значения, кто победит в гонке вооружений - проигравшим станет человечество.
Игра закончена.
К сожалению, именно тогда, когда глобальное сотрудничество является более необходимым, чем когда-либо прежде, некоторые из самых влиятельных лидеров и стран мира в настоящее время сознательно подрывают глобальное сотрудничество. Такие лидеры, как президент США, говорят нам, что между национализмом и глобализмом существует внутреннее противоречие, и что мы должны выбирать национализм и отвергать глобализм.
Но это опасная ошибка. Нет противоречия между национализмом и глобализмом. Потому что национализм не о ненависти к иностранцам. Национализм - это любовь к своим соотечественникам. А в двадцать первом веке, чтобы защитить безопасность и будущее своих соотечественников, вы должны сотрудничать с иностранцами.
Глобальные решения глобальных проблем.
Национализм и глобализм не являются взаимоисключающими.
Таким образом, в двадцать первом веке хорошие националисты должны быть также глобалистами. Теперь глобализм не означает создания глобального правительства, отказа от всех национальных традиций или открытия границы для неограниченной иммиграции. Скорее глобализм означает приверженность некоторым глобальным правилам.
Правила, которые не отрицают уникальность каждой нации, а лишь регулируют отношения между народами.
И хорошей моделью является чемпионат мира по футболу.
Чемпионат мира - это соревнование между народами, и люди часто проявляют жесткую преданность своей национальной команде. Но в то же время чемпионат мира также является удивительным проявлением глобальной гармонии. Франция не может играть в футбол против Хорватии, если французы и хорваты не договорились об одинаковых правилах игры. И это глобализм в действии.
Глобальные решения глобальных проблем.
Если вам нравится чемпионат мира - вы уже глобалист.
Теперь, надеюсь, страны смогут договориться о глобальных правилах не только для футбола, но и для того, как предотвратить экологический коллапс, как регулировать опасные технологии и как уменьшить глобальное неравенство. Как убедиться, например, что ИИ приносит пользу мексиканским текстильщикам, а не только американским разработчикам программного обеспечения. Сейчас, конечно, это будет намного сложнее, чем футбол, но не невозможно.
Мы уже избежали жестоких джунглей, в которых мы, люди, жили на протяжении всей истории. Тысячи лет люди жили по закону джунглей в условиях вездесущей войны. Закон джунглей гласил, что для каждых двух соседних стран существует вероятный сценарий, что они пойдут на войну друг против друга в следующем году. Согласно этому закону, мир означал только «временное отсутствие войны».
Когда между «Афинами и Спартой» или Францией и Германией был «мир», это означало, что сейчас они не воюют, но в следующем году они могли начать это делать. И тысячи лет люди полагали, что избежать этого закона невозможно.
Мы нарушили закон джунглей?
Но за последние несколько десятилетий человечеству удалось сделать невозможное, нарушить закон и избежать джунглей. Мы построили основанный на правилах либеральный глобальный порядок, который, несмотря на многие недостатки, тем не менее создал самую процветающую и самую мирную эпоху в истории человечества.
Само значение слова «мир» изменилось.
«Мир» больше не означает просто временное отсутствие войны. Мир сейчас означает неправдоподобность войны.
Есть много стран, которые вы просто не можете себе представить, что они вступят в войну друг с другом в следующем году, например, Франция и Германия. В некоторых частях света все еще существуют войны. Я родом с Ближнего Востока, так что поверьте мне, я это прекрасно знаю.
Причины смерти в 2016 году - ожирение, диабет и многое другое
Сейчас мы живем в мире, в котором война убивает меньше людей, чем самоубийство, и порох намного менее опасен для вашей жизни, чем сахар. Большинство стран - за некоторыми известными исключениями, как Россия - даже не фантазируют о завоевании и аннексии своих соседей. Вот почему большинство стран могут позволить себе потратить, возможно, только около двух процентов своего ВВП на оборону, затрачивая при этом гораздо больше средств на образование и здравоохранение. Это не джунгли.
К сожалению, мы настолько привыкли к этой замечательной ситуации, что считаем ее само собой разумеющимся, и поэтому мы становимся крайне небрежными. Вместо того чтобы делать все возможное для укрепления хрупкого мирового порядка, страны пренебрегают им и даже намеренно подрывают его.
Глобальный порядок теперь похож на дом, в котором все живут и никто не ремонтирует. Он может простоять еще несколько лет, но если мы продолжим в том же духе, он рухнет - и мы снова окажемся в джунглях вездесущей войны.
Мы забыли, что это такое, но поверьте мне как историку - вы не захотите возвращаться туда. Это намного, намного хуже, чем вы думаете.
Да, наш вид эволюционировал в этих джунглях и жил и даже процветал там тысячи лет, но если мы вернемся туда сейчас с новыми мощными технологиями XXI века, наш вид, вероятно, сам себя уничтожит.
Что останется?
Конечно, даже если мы исчезнем, это не будет концом света. Что-то переживет нас. Возможно, крысы в конечном итоге возьмут на себя главную роль и перестроят цивилизацию. Возможно, тогда крысы будут учиться на наших ошибках.
Но я очень надеюсь, что мы можем положиться на лидеров, собравшихся здесь, а не на крыс.
Спасибо.
израильский военный историк-медиевист, профессор исторического факультета Еврейского университета в Иерусалиме, автор международного бестселлера «Sapiens: Краткая история человечества». Юваль Ной Харари выступает в Давосе "Как выжить в 21 веке.".
Оценили 12 человек
25 кармы