Технология, которая может положить конец человечеству— и как это остановить

Оксфордский философ Ник Бостром говорит, что технология часто имеет непреднамеренные последствия, и что нам, возможно, придется выбирать между тоталитаризмом и уничтожением.

Если вы слышали о Бостроме, это, вероятно, для его статьи 2003 года "Аргумент симуляции", которая, наряду с Матрицей, поставила вопрос о том, можем ли мы все жить в компьютерной симуляции, популярной темой для разговоров о совместном проживании и интервью Элона Маска. Но с момента основания Института будущего человечества в Оксфордском университете в 2005 году, Бостром был сосредоточен на явно более мрачной области спекуляций: экзистенциальные риски для человечества. В своей книге 2014 года "Суперинтеллект" Бостром забил тревогу о рисках искусственного интеллекта. Его последняя статья, Гипотеза уязвимого мира расширяет угол зрения, чтобы посмотреть на другие способы, которыми технология может в конечном итоге опустошить цивилизацию, и как человечество может попытаться избежать этой судьбы. Но его видение тоталитарного будущего показывает, почему лекарство может быть хуже, чем причина.

Что такое гипотеза уязвимого мира?

Ник Бостром: Идея состоит в том, что мы можем представить историю человеческого творчества как процесс извлечения шаров из гигантской урны. Эти шары представляют различные идеи, технологии и методы, которые мы обнаружили на протяжении всей истории. К настоящему времени мы извлекли очень много из них, и по большей части они были полезны. Это белые шары. У некоторых были смешанные качества, серые шары различных оттенков. Но то, что мы не видели, - это черный шар, технология, которая по умолчанию опустошит цивилизацию, которая ее обнаружит. Гипотеза уязвимого мира заключается в том, что в урне есть черный шар, что существует некоторый уровень технологии, на котором цивилизация уничтожается по умолчанию.

Что может быть примером "черного шара”?

Похоже, что однажды мы демократизируем способность создавать оружие массового уничтожения с использованием синтетической биологии. Но в биологических науках нет почти такой же культуры безопасности, как в ядерной физике и ядерной инженерии. После Хиросимы ученые-ядерщики поняли, что то, что они делают, - это не всё развлечения и игры, и что им нужен надзор и более широкое чувство ответственности. Многие физики, участвовавшие в Манхэттенском проекте, стали активными участниками движения за ядерное разоружение и так далее. В сообществах бионаук нет ничего подобного. Так что это одна из областей, где мы могли бы увидеть возможные черные шары.

История изобилует иллюстрациями, как вытащенные наукой «белые шары», по прошествии минимального количества времени, оказывались имеющими совсем иной оттенок. Коротко, в стихах и красках можно посмотреть в работе «Немного истории о научных открытиях и их последствиях». https://cont.ws/@h5n1/2060128

Но коль скоро, уважаемый читатель видит эти строки, то очевидно, что черный шар ещё не попался гомо сапиенсам, несмотря на прикладываемые неимоверные усилия по извлечению новых и новых шаров.

Так неизбежно ли, что по мере развития технологий, когда мы продолжаем вытаскивать шары из урны, так сказать, мы, в конечном итоге, найдем черный? Можем ли мы что-нибудь с этим поделать?

Я не думаю, что это неизбежно. Во-первых, мы не знаем, содержит ли урна какие-либо черные шары. Если нам повезет, это не случится.

Если вы хотите иметь обобщающую способность стабилизировать цивилизацию, в случае, если мы должны вытащить черный шар, логически говоря, есть четыре возможных вещи, которые вы могли бы сделать. Одним из них было бы перестать вытаскивать шары из урны.

Как общее решение, это явно нехорошо. Мы не можем остановить технологическое развитие, и даже если бы мы это сделали, это могло бы стать величайшей катастрофой. Мы можем отказаться от работы по разработке более мощного биологического оружия. Я думаю, что это явно хорошая идея, но это не создаст общего решения.

Второй вариант - убедиться, что нет никого, кто использовал бы технологию для катастрофического зла, даже если бы у них был к ней доступ. Это также выглядит как ограниченное решение, потому, что реально вы не могли бы избавиться от каждого человека, который будет использовать разрушительную технологию. Так что остается два других варианта.

Одним из них является развитие потенциала для чрезвычайно эффективной превентивной полиции, для наблюдения за населением в режиме реального времени, чтобы, если бы кто-то начал использовать технологию черного шара, их можно было бы перехватить и остановить. Это также имеет много рисков и проблем, если вы говорите о навязчивой схеме наблюдения, но мы можем обсудить это впоследствии.

Просто чтобы поставить все на карту, четвертая возможность - это эффективные способы решения глобальных проблем координации, своего рода потенциал глобального управления, который предотвратит войны великих держав, гонки вооружений и уничтожение глобального достояния.

Насколько реализуем каждый из предложенных Ником Бостромом вариантов в сегодняшнем мире, раздробленном на куски, и имеющим глубочайшие внутренние противоречия в каждой своей части, каждый читатель решит сам. Но пожалуй, список предложенных им решений -исчерпывающий.

Я же, хочу обратить внимание читателя на отдельный вопрос, который меня очень волнует. Этот шар уже вытащен из корзины и его цвет подозрительно напоминает чёрный, несмотря на противоположные уверения авторов открытия. Риск заключается в спонтанном или намеренном включении неизученного ранее механизма взаимодействия в микромире нашего персонального суперорганизма - микробиоме, живущем в каждом из нас, и по сути, обеспечивающего возможность нашего биологического существования. В каждой отдельной бактерии нашего микробиома (превышающих по количеству клетки нашего собственного тела, как 10:1) есть спящие вирусы, встроенные в геном. Но некоторые вирусы, называемые ретровирусами, обладают способностью вставлять себя и в ДНК человека. ВИЧ, ответственный за СПИД, является примером этого.

В основном ретровирусы заражают клетки организма, которые называются соматическими линиями. Но иногда эти ретровирусы попадают в яйцеклетки, которые мы называем «зародышевой линией». После оплодотворения эти яйцеклетки порождают целиком тела, поэтому вирус теперь находится во всех клетках тела. Теперь его называют эндогенным ретровирусом. Со временем вирус становится частью нашего генома. Представьте себе удивление научного сообщества, когда мы начали крупные проекты по секвенированию, такие как проект человеческого генома. И мы понимаем, что до 8% нашего генома является вирусным по происхождению.

И здесь я возвращаюсь к исходному тезису этой работы, о том, почему очередное открытие в области микробиологии и генетики вполне может оказаться тем самым «черным шаром», который окончательно разрушит сложнейший и уравновешенный механизм микробиома и человека, как впрочем, оно имеет потенциальную возможность «разбудить» ретровирусы и в каждой клетке человека. Механизм этого открытия приведен ниже от имени исследователей.

Как конкурирующие внутри кишечного микробиома бактерии, пробуждают вирусы, убивающие другие бактерии

https://www.genengnews.com/top...

Исследования, проведенные исследователями из Медицинского института Говарда Хьюза (HHMI) и их коллегами, продемонстрировали, что некоторые кишечные бактерии обладают тем, что они называют «жуткой сверхспособностью», — способностью реанимировать спящие вирусы, скрывающиеся в других микробах. Это вирусное пробуждение, как показало исследование, вызвано молекулой под названием колибактин, которая может вызывать вирусы-убийцы из их сна, чтобы развязать полномасштабные инфекции, которые разрушают клетки, несущие вирус.

Ведущий исследователь Эмили Бальскус, имеющая научную степень доктора, и ее коллеги сообщили о своих исследованиях в журнале Nature, в статье под названием “Бактериальный токсин колибактин вызывает индукцию профага.” В своем отчете команда пришла к выводу: “...поскольку связи между виромом кишечника человека и болезнями продолжают устанавливаться, наши результаты закладывают основу для дальнейших исследований того, как продукция бактериального метаболита кишечника модулирует поведение фага и может влиять на болезнь человека”.

Микробы часто генерируют вредные соединения, чтобы атаковать друг друга в тесных пределах кишечника. Но среди этого химического оружия колибактин кажется необычным, предположила Бальскус, химический биолог из Гарвардского университета. “Он не убивает непосредственно целевые организмы, как мы обычно думаем о бактериальных токсинах, работающих в микробных сообществах”. Вместо этого новое исследование показывает, что колибактин настраивает микробные клетки так, чтобы активировать латентные и смертельные вирусы, спрятанные в геномах некоторых бактерий.

В 2006 году французская команда сообщила, что клетки млекопитающих, которые столкнулись с кишечной бактерией E. coli, получили смертельное повреждение своей ДНК. Исследователи связали это повреждение с кластером генов E. coli, кодирующих механизмы для построения сложной молекулы. Получившая название колибактин, молекула была чрезвычайно трудной для изучения. После многих попыток исследователи просто не могли изолировать его от кишечной палочки, создающей её.

Колибактин является одним из многих эфемерных соединений, которые, как подозревают ученые, производят микробы. Подобно невидимым частицам темной материи в космосе, эта “химическая темная материя” требует творческих средств для изучения. И, как далее отметили авторы, “Несмотря на свою важную биологическую активность, колибактин ускользнул от традиционной изоляции и структурного выяснения. Информация о его химической структуре в значительной степени была получена из биоинформационного анализа и биохимической характеристики”.

Ученые уже много лет знают, что колибактин может нанести ущерб человеческим клеткам. Исследования Бальскуса и многих других показали, что соединение повреждает ДНК, что может привести к колоректальному раку. В рамках своего исследования микробной химии кишечника Бальскус использует косвенные подходы для изучения этих неуловимых молекул. За последние 10 лет ее команда исследовала колибактин, изучая микробный механизм, который его производит. Она и ее коллеги собрали структуру колибактина и определили, что он повреждает ДНК, образуя ошибочные связи внутри двойной спирали.

Основываясь на этой работе, ученые в другом месте обнаружили окончательную связь с раком: отличительные отпечатки молекулы появляются в генах, которые, как известно, управляют ростом колоректальной опухоли. “Механистические исследования показали, что колибактин индуцирует межцепочечные перекрестные связи ДНК in vitro, вызывает остановку клеточного цикла в культуре эукариотических клеток и влияет на образование опухоли в мышиных моделях колоректального рака”, - отметила команда. “ ... исследования выявили мутационные сигнатуры, связанные с колибактином, в геномах рака, преимущественно колоректального рака”. Самое последнее исследование Бальскуса по колибактину началось с перепрофилирования лаборатории на другое заболевание - COVID-19. Как и многие другие, лаборатория Бальскуса должна была подвергнуться некоторым перестройкам, чтобы уменьшить физический контакт между исследователями. В рамках этой перестановки Джастин Сильпе, имеющий докторскую степень, и аспирант Джоэл Вонг впервые работали рядом друг с другом. Их обсуждения заставили их и Бальскуса задаться вопросом, как колибактин влияет на другие микробы в переполненном микрофлорой кишечнике. Как признали авторы в своей статье, “в отличие от его воздействия на эукариотические организмы, влияние колибактина на окружающее микробное сообщество остается в значительной степени неизвестным”.

Ранее они обнаружили, что воздействие бактерий, продуцирующих колибактин, на не-продуцентов, имело несущественный эффект, предполагая, что сама по себе молекула не особенно смертельна. Таким образом, в то время как предыдущие исследования показали, что производство колибактина вызывало сдвиги в составе микробного сообщества кишечника у мышей и ингибировало рост определенных стафилококков, они отметили, что «воздействие колибактина не влияло на рост подавляющего большинства (97%) проверенных видов бактерий…»

Когда исследователи вырастили продуцентов колибактина вместе с бактериями, несущими такие латентные вирусы, они увидели резкое увеличение количества вирусных частиц и снижение роста многих вирусосодержащих бактерий. Это говорит о том, что молекула вызвала всплеск активных инфекций, убивающих клетки. Команда показала, что колибактин действительно проникает в бактерии и повреждает ДНК. Это повреждение звучит как тревожный звонок для клеток, в которых пробуждаются вирусы. «Хотя могут существовать и другие функции колибактина, наше открытие, что он индуцирует профаги, обеспечивает один механизм, с помощью которого производство этого природного продукта и иммунитет к нему может дать конкурентное преимущество перед другими микроорганизмами», — далее отметила команда.

Оказалось, что многие микробы способны защитить себя от колибактина. Лаборатория Balskus идентифицировала ген устойчивости, кодирующий белок, который нейтрализует соединение в самых разных бактериях. «… мы идентифицируем бактерии, у которых есть гены устойчивости к колибактину, но отсутствуют гены биосинтеза колибактина», — написали ученые. «Многие из этих бактерий инфицированы предсказанными профагами, и мы показываем, что экспрессия их гомологов ClbS обеспечивает иммунитет от индукции, запускаемой колибактином».

Как заключили авторы, «раскрывая фаг-индуцирующую активность бактерий, продуцирующих колибактин, наши результаты раскрывают ранее неизвестный механизм, с помощью которого колибактин и потенциально другие природные продукты, повреждающие ДНК, могут формировать микробные сообщества». И хотя у колибактина явно есть опасная сторона, он может служить не только смертельным оружием, предположил Бальскус. Например, как повреждение ДНК, так и пробужденные вирусы также могут вызывать генетические изменения, а не гибель соседних бактерий, потенциально принося пользу производителям колибактина.

Новые открытия показывают, что рак может быть побочным ущербом, вызванным чем-то еще, что делают колибактин-продуцирующие бактерии. «Мы всегда подозревали, что бактерии создали этот токсин, чтобы каким-то образом воздействовать на другие бактерии», — сказала она. «С эволюционной точки зрения не имело смысла, что бы они создали его для нацеливания на клетки человека».

Затем Бальскус планирует исследовать, как соединение изменяет сообщество микробов в кишечнике — какие из них исчезают, а какие процветают после воздействия колибактина. «Ключом к предотвращению рака может быть понимание воздействия колибактина на микробное сообщество и того, как контролируется его производство», — сказала она.

И вслед за авторами этой научной работы, я ответственно резюмирую.

• Найден новый принципиально неизвестный ранее механизм воздействия как на культуру клеток микроорганизмов, так и клеток макроорганизма человека, способный изменять ДНК;

• Определено, что этот механизм может пробуждать ретровирусы, как в бактериях, входящих в состав микробиома человека, так и непосредственно в клетках человека;

• Первые установленные данные говорят о факте воздействия этого механизма с последствиями в виде изменения как состава микробиома (что может вызвать эффект несовместимый с жизнью для макроорнанизма), так и о возникновении рака непосредственно в теле макроорганизма, доказано на примере животных моделей;

• Отдалённые последствия включения этого молекулярного механизма не изучены от слова совсем.

• Одним из самых важных вопросов является изучение воздействия вновь открытого молекулярного механизма на крайне тонкий и хрупкий механизм иммунного казуса, при возникновении и разрешении беременности у всех млекопитающих. Этот механизм основан на синците вирусе, являющимся РЕТРОВИРУСОМ. Коротко, в стихах и красках здесь: https://cont.ws/@h5n1/1177757

ИТОГО. Каждое открытие, имеющее практический выход для широкого использования человеком, ОБЯЗАНО проходить оценку по базовому критерию – риск/польза. На этом принципе основаны все доклинические и клинические испытания любых кандидатов в лекарственные препараты. И до тех пор, пока не будет тщательнейшим образом исследованы все аспекты возможных рисков, нельзя переходить к вопросу о пользе применения нового открытия, ибо у нас есть реальный шанс таки вытащить этот черный шар… (((