В Сети появилась информация о новых испытаниях Агентства перспективных оборонных разработок (DARPA) Министерства обороны США. В рамках тестирования научные специалисты проверили общую работу искусственного интеллекта (ИИ) смоделированным виртуальным воздушным боем «двое против одного». Анализ нейросетевых алгоритмов прошел в рамках авиационной программы Air Combat Evolution, конечной целью которой заявлено «создание системы ИИ для боевых беспилотников».
До конца 2021 года DARPA намерено испытать ИИ на небольших БПЛА. Прогнозируется, что они будут при этом управляться нейросетью без какой-либо помощи со стороны человека.
США, будучи озабоченными бурным развитием сферы искусственного интеллекта в Китае, ищут пути, чтобы сыграть на опережение — и, конечно, особенно в военной сфере.
В этом году американский аналитический центр «Фонд информационных технологий и инноваций» проинформировал общественность, что Китай добился значительных успехов в создании ИИ. И если США с общим баллом 44,6 все еще лидируют, то Евросоюз уже сдал позиции Поднебесной со счетом 23,3 балла против 32.
Исследование показало, что США пока держат первенство в таких областях, как инвестиции в стартапы и финансирование исследований и разработок. В Китае же в приоритете развертывание суперкомпьютеров: из 500 самых мощных систем в мире 214 — китайского происхождения, на 100 единиц больше, чем американских. Кроме того, в исследовании отмечается, что, например, в 2018 году в Китае было опубликовано 24,929 исследовательских работ по ИИ, а в США — всего 16,233.
Китай активно примеряется к технологиям использования искусственного интеллекта в ВПК. Еще в 2019 году в Пентагоне с обеспокоенностью отмечали, что КНР достигла значительных результатов в разработке технологий военного применения ИИ. США не намерены допустить превосходства Пекина в данной области.
Впрочем, китайцам уже удалось создать транспортные средства с автономной системой управления, наделенные «сообразительностью» беспилотные подводные лодки и БПЛА. В Вашингтоне полагают, что страна, которая добьется наибольшего прогресса в развитии ИИ, получит решающее преимущество на поле боя на многие годы вперед.
«Соединенным Штатам необходимо обратить внимание на то, что делает Китай, и отреагировать на эти действия», — констатировал ведущий автор исследования аналитического центра «Фонд информационных технологий и инноваций» Даниэль Кастро.
Особо существенно: разрабатываемое американцами потенциальное управление БПЛА нейросетью абсолютно без помощи человека — это реальный шаг к ведению войны, по сути, без прямого рукотворного участия.
Это продвижение к созданию ИИ такого уровня, когда он в перспективе сможет научиться воспроизводить сам себя, невзирая на волю людей. Еще один подступ к потенциальной мощной угрозе для будущего цивилизации.
Надо ли говорить, что вероятность внесистемного самовоспроизведения ИИ в военной сфере чревато глобальной катастрофой? А в последние годы данное явление обусловлено особенностями освоения ИИ в гражданской науке.
Так, исследователи Samsung взяли кадры лиц людей и создали специальные маски на каждый мимический жест. Теперь они накладывают их на портреты, и нейросеть достраивает дополнительные изображения. Разработчики достигли успехов в совмещении аудио и сторонних видео и изображений, что до недавнего времени являлось проблемой: было сложно подстроить каждый кадр под то, что произносится. Поскольку нейросеть училась на тысячах видео, она выстраивала модели «говорящих людей» именно на их основе.
Это означает, что где-то на горизонте уже, не исключено, маячат времена, при которых, пользуясь соответствующими технологиями, люди смогут моделировать образы своих умерших близких, которые окажутся способны жить собственной виртуальной жизнью — уже совершенно иной, чем реальная жизнь их предшественников во плоти.
Или просто создавать абсолютно новых виртуальных людей, прежде не существовавших. Невозможно отвергнуть, что, являясь составляющими глобального искусственного интеллекта, такие образы научатся репродуцировать себе подобных, исходя из вероятности уже собственного совершенствования в них изначально заложенного алгоритма.
Современный искусственный интеллект и разрабатывается именно как пограничный с хаосом. Такой хаос нельзя контролировать, но им необходимо специально кропотливо учиться управлять в условиях открытой системы.
Выдающийся физик Илья Пригожин писал, что контролируемость ИИ в нынешних условиях «в смысле, который был провозглашен прежней наукой» вообще невозможна.
На сегодняшней стадии освоения ИИ нет никаких гарантий, что на том или ином этапе сам искусственный интеллект, в принципе, не откажет в возможности первичного управления интеллекту человеческому, если тот не пойдет по пути — на опережение.
Едва ли в США, сделав ставку на моделирование автономного от человека комплексного управления боевыми БПЛА искусственным интеллектом, в полной мере глубоко системно рассматривают потенциальные риски шагов такого рода.
Если же допустить, что в недалеком будущем будет создан ИИ, способный самостоятельно управлять широкомасштабной войной, то от подобного достижения не столь далеко своеволия нейросети, а значит — до страшной общецивилизационной катастрофы.
На сегодняшний день только совместный международный выверенный мониторинг специально подготовленных служб имел бы возможность выявить действительно прогнозируемую степень такого рода угроз. Хотя, очевидно, в нынешних условиях конфронтации США с Китаем и Россией о подобном конструктивном взаимодействии речи, увы, не идет.
Автор: Евгений Бень
Оценили 19 человек
33 кармы