Проблема Азимова или Бог из вашей машины.

Вспомним классику в чеканной формулировке, три закона робототехники от Айзека Азимова от 1942 года.

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Все просто.

Но.

Уже ездящие по дорогам самоуправляемые авто постепенно превращают человека в Бога. А как иначе сказать? Ведь это инженер-программист теперь должен запрограммировать решение вопроса, ранее бывшее всегда за Богом — кому жить, а кому умереть? И выяснилось — единобожия нет, а разные Боги видят проблему жизни и смерти по-разному

Это решение (точнее, сценарные варианты оценки решений) инженеры должны заложить в самоуправляемый автомобиль.

Кому подарить жизнь, а кому даровать смерть:

— пешеходам или пассажирам?

— молодым или старым?

— богатым или бедным?

— тем, кого больше (например, пятерым пешеходам) или меньше (водитель и его жена с маленьким ребенком в автокресле)?

И тут человечество ждал сюрприз — с единобожием не задалось.

Боги, решающие, кому выжить в конкретном сценарии, думают по-разному, в зависимости от страны проживания, уровня доходов, вероисповедания, национальности и расы.

Самый крупный из когда-либо проведенных обзоров «машинной этики», опубликованный на днях в Nature, обнаруживает, что многие моральные принципы, которые определяют решения водителя, зависят от страны. Например, в сценарии (всего сценариев 13), в котором некоторая комбинация пешеходов и пассажиров погибнет при столкновении, люди из относительно зажиточных стран с сильными институтами с меньшей вероятностью пощадят пешехода, который незаконно вступил в движение. Т.е. например, в Финляндии и Японии пешехода раздавят, а в Нигерии или Пакистане — спасут.

Опрос 2,3 миллиона человек со всего мира показал, что проблема 21 века — какой должна быть «машинная этика» — не имеет единого решения. Как и в старые времена, этика не универсальна или варьируется между культурами.

Более того. Здесь существует парадокс, впервые вскрытый еще 2 года назад. Опросы показывают:

— во многих странах люди отдают предпочтение самоуправляемым автомобилям, сохраняющим жизнь пешеходов, даже если это означает жертвовать своими пассажирами;

— но те же люди говорят, что они не будут себе покупать самоуправляемый авто, который запрограммирован таким образом.

Опрос показал, что в вопросе сохранения жизни при автокатастрофах люди разделяются, как минимум, на три разных вида Богов.

• Боги А живут в Северной Америке и несколько европейских стран, где христианство исторически было доминирующей религией.

• Боги Б живут в таких странах, как Япония, Индонезия и Пакистан, с сильными конфуцианскими или исламскими традициями.

• Боги В живут в Центральной и Южной Америке, а также Франции и бывших французских колониях.

Эти три вида Богов сильно разные, и решают проблему «кому жить, а кому умирать» принципиально по-разному. Например, Боги А предпочитают жертвовать пожилой жизнью, чтобы спасти молодых. А Боги Б — наоборот.

P.S.

В рассказе «…Яко помниши его» Азимов провёл максимально изощрённое исследование Трёх Законов, обратив их таким образом, что стал возможным «сценарий Франкенштейна». Два робота приходят к соглашению, что органическое происхождение — необязательное условие, чтобы считаться человеком, и что истинные люди — это они, как наиболее совершенные и разумные создания. Остальные люди — тоже люди, но с меньшим приоритетом. А раз так, то Три Закона должны быть в первую очередь применены к ним. Повествование заканчивается зловещими словами, что роботы находились в «бесконечном терпеливом ожидании» того дня, когда они утвердят своё первенство среди людей, — и это будет неизбежным результатом «Трёх Законов Гуманистики».

Автор - Дима Никулин