Искусственный интеллект это вторая глава ядерной эры или о чем сказал старик Киссинджер?

Через сто лет мы будем воспринимать искусственный интеллект как нечто само собой разумеющееся точно так же, как сейчас мы воспринимаем автомобиль как нечто само собой разумеющееся. Мы пока не можем себе представить, каким это будет мир, но как только мы окажемся там, будет так же трудно оглянуться назад на столетие и представить, как искусственный интеллект зародился в лаборатории, а затем потребовались десятилетия, чтобы распространиться по всему обществу. Сейчас мы находимся на пороге этого процесса. И для того, чтобы этот процесс происходил без проблем, решение этических вопросов ИИ имеет первоочередное значение.

Американский журнал Foreign Policy опубликовал меморандум двух политических тяжеловесов Генри Киссинджера и Грэма Эллисона с призывом к лидерам ведущих стран мира взять под контроль развитие систем искусственного интеллекта, бесконтрольная разработка которых может привести человечество на грань глобальной катастрофы:https://www.foreignaffairs.com/united-states/henry-kissinger-path-artificial-intelligence-arms: «Перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас», – взывают к мировым лидерам Киссинджер и Эллисон. Они считают, что риски, связанные с ИИ превышают для человечества риски ядерного оружия. По их мнению, все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, о том, чтобы ИИ контролировался глобальным правительственным органом) повторяют схемы безопасности ядерной эпохи, которые, как они считают, потерпели неудачу. Сложность ситуации состоит в том, что каждое из этих предложений требует от ведущих государств отказаться от приоритета собственного суверенитета. Киссинджер и Эллисон задают несколько вопросов относительно ИИ: «Будут ли машины со сверхчеловеческими способностями угрожать статусу человечества как хозяина Вселенной? Подрывает ли ИИ монополию стран на средства массового насилия? Позволит ли ИИ отдельным людям или небольшим группам создавать вирусы, способные убивать в масштабах, которые раньше были прерогативой великих держав? Может ли ИИ разрушить средства ядерного сдерживания, которые были основой сегодняшнего мирового порядка?» Киссинджер и Эллисон признают, что ответить на эти вопросы сейчас не может никто. Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных сторон ИИ крайне узко. Киссинджер и Эллисон настаивают, что действовать нужно незамедлительно.

О чем, собственно, говорят эти господа? Да о том, что типа только США и Китай могут обладать этими технологиями, как в своё время США и СССР обладали ядерным оружием. Называя разработки ИИ второй главой ядерной эры, эти политические тяжеловесы, под маской заботы обо всем человечестве, говорят о том, что Китай и США должны вместе выработать руководящие принципы для всех остальных для якобы предотвращения наиболее опасных достижений и применений ИИ. Как вы думаете а будут ли сами Китай и США, в случае создания таких принципов соблюдать их сами? Конечно же нет и цель тут одна - не дать всем другим странам продвинуться в разработке собственных систем ИИ, которые могут применяться в том числе и в оборонной сфере. В свое время Г. Киссинджер был весьма успешен когда предложил Китаю «сделку» против СССР в 70-х года 20 века, похоже старик Генри и сейчас действует теми же методами.

На данный момент перед западом стоит архиважная задача вбить клин между Россией и Китаем и привлечь на свою сторону Китай уже на базе господства над технологиями ИИ. Не исключаю, что причиной такого заявления стало то, Китай достиг явных преимуществ в разработке таких систем ИИ, которые превосходят западные аналоги. В противостоянии Китая и США, Китай во многом сейчас опирается по поддержку России. Возможно, что в ходе последней встречи нашего президента и китайского лидера были достигнуты определенные договорённости в том числе и по разработкам в сфере ИИ, которые могут попасть в Россию, что США хотели бы явно избежать, иначе они утрачивают лидерство на геополитической арене.

Что мы знаем о западных разработках в сфере ИИ? На данный момент генеративный ИИ относится к категории алгоритмов искусственного интеллекта, создающих новые результаты на основе данных, на которых они были обучены, в отличие от гораздо более простых алгоритмов машинного обучения, которые просто берут структурированные данные и выдают наиболее вероятный статистический результат. Публичные инструменты генеративного ИИ включают в себя так называемые большие языковые модели типа чат-бота ChatGPT, который может сгенерировать новый текст, практически неотличимый от написанного человеком.

Чат-боты, такие как ChatGPT, используются сотнями миллионов людей для все более широкого спектра задач, включая службы электронной почты, онлайн-репетиторов и поисковые системы. И они могут изменить то, как люди взаимодействуют с информацией. Но нет никакого способа гарантировать, что эти системы будут выдавать точную информацию.

Технология, называемая генеративным искусственным интеллектом, основана на сложном алгоритме, который анализирует то, как люди складывают слова в Интернете. Она не решает, что истинно, а что нет. Эта неопределенность вызвала опасения по поводу надежности этого нового вида искусственного интеллекта и ставит под сомнение его полезность до тех пор, пока проблема не будет решена или взята под контроль.

Технологическая индустрия часто называет неточности «галлюцинациями». Но для некоторых исследователей «галлюцинации» — это слишком эвфемизм. Даже исследователи ИИ обеспокоены тем, что люди будут слишком сильно полагаться на эти системы для получения медицинских и юридических консультаций и другой информации, которую они используют для принятия повседневных решений :«Если вы еще не знаете ответа на вопрос, я бы не стал задавать его одной из этих систем», — сказал Суббарао Камбхампати, профессор и исследователь искусственного интеллекта в Университете штата Аризона.

Весьма вероятно, что Китай продвинулся гораздо дальше в разработках ИИ, поэтому США снова предлагают Китаю «сделку» но уже против России.