Перспектива передачи искусственному интеллекту (ИИ) управления большими производственными процессами, в которых участвуют в том числе критические технологии, при определенных условиях чревата глобальными рисками, написал в статье для журнала «Эксперт» заместитель председателя Совбеза России Дмитрий Медведев.
Он также считает опасностью то, что люди уже не способны понять, как ИИ может прийти к тому или иному выводу.
«Представим себе, что из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные. В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине. Вот тут-то для человечества и начинается предчувствие Апокалипсиса. Отсюда один шаг к модели „злого ИИ”, которая, как и все иные, может материализоваться. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ», — пишет Медведев.
Замглавы Совбеза также упоминает еще одну проблему: широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда. Медведев напомнил прогноз лауреата Нобелевской премии, экономиста Роберта Шиллера о том, что автоматизация и цифровая экономика приведут к массовой структурной безработице, которую пока невозможно адекватно оценить.
Цифровые личности или двойники уже вовсю создаются для совершения общеуголовных преступлений и даже актов терроризма, отмечает Медведев.
«Это может быть и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах, и кража денежных средств, и незаконное присвоение личной, коммерческой или государственной собственности. Всё это уже сейчас приводит к подрыву доверия к официальным властям, которые далеко не всегда способны защитить ключевые данные и алгоритмы», — предупреждает он.
Источник: https://rusvesna.su/news/17732...
Оценили 9 человек
12 кармы