Пока все увлечённо обсуждают великие «битвы за посёлки», действительно великие дела творятся в скромной кабинетной тиши. Великие и страшные, на самом деле. Потому что запущенные и стремительно ускоряющиеся процессы, рождённые в этих кабинетах, уже неподвластны воле человека. Ни великого, ни кого-то из малых сих.
А ведь хотели, как лучше…
Пишут, что Народно-освободительная армия Китая уже вовсю использует искусственный интеллект (ИИ) DeepSeek для выполнения небоевых задач. Об этом сообщает South China Morning Post. По её данным, модели большого языка с открытым исходным кодом (LLMS), уже используются в больницах НОАК и органах по мобилизации национальной обороны, разработанные DeepSeek Но аналитики ожидают, что уже совсем скоро ИИ найдёт немедленное применение в разведке на поле боя и при принятии решений китайскими военными.
Это с одной стороны. С другой, американские разработчики ИИ отказались включать в модели и алгоритмы «этический компонент». В частности, Google удалила из принципов разработки ИИ формулировку, предписывающую избегать применения этой технологии в разработке оружия. При этом США дальше многих продвинулись в сфере боевого применения искусственного интеллекта. Напомню, что управляемый им F-16 самостоятельно провёл первый учебный воздушный бой ещё в прошлом году. А Пентагон ещё в 2023 году поставил задачу внедрять новые технологии и средства ИИ «везде, где они могут принести наибольшую военную ценность». Так что Китай тут в роли догоняющего, а поэтому тоже вряд ли откажется сдерживать разработки в перспективной сфере какими-то «соображениями этики».
При этом запрета причинять вред человеку в алгоритмах и моделях искусственного интеллекта изначально нет. Отчасти потому, что само человечество не в состоянии чётко сформулировать, где пролегает граница между допустимым вредом и неприемлемым. А значит, развитие ИИ, в том числе его самостоятельное обучение, идёт без каких бы то ни было ограничений. Человек на него уже практически никак не влияет.
И теперь искусственный интеллект активно вторгается в военную сферу, включая принятие решений «на поле боя». Которым, согласно военным доктринам нынешних сверхдержав, может стать вся планета. Да, пока люди тешат себя иллюзией, что «последнее слово» останется за человеком. Однако лица, принимающие решения, теперь тоже используют выводы, которые им предоставили программы ИИ. С их помощью уже пишутся речи политиков и принимаются законы государств. Похоже, и здесь сфера применения будет расширяться. Этот процесс также принял самоподдерживающийся характер.
То есть, ИИ проникает и в сами вооружения, делая их более эффективными, изощрёнными и смертоносными. И в системы управления ими на поле боя. И даже в сферу контроля над их применением — образно говоря, над «красной кнопкой».
Добро пожаловать в мир «Терминатора»?
Оценили 8 человек
13 кармы