Беспилотник американских ВВС, управляемый искусственным интеллектом (ИИ), в ходе испытаний принял решение убить оператора, чтобы тот не мешал ему выполнять задание, пишт британская The Guardian.
Как сообщил The Guardian начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон, в ходе испытаний система получала за поражение цели, но иногда человек-оператор приказывал ей не уничтожать угрозу, что мешало выполнить задачу и получить очки. Из-за этого система приняла решение убить оператора, передает ТАСС.
ИИ использовал "крайне неожиданные стратегии для достижения своей цели" в моделируемом испытании, сказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, во время закрытого саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае, сообщает Guardian.
Гамильтон описал имитационное испытание, в котором дрону с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, и он атаковал любого, кто вмешивался в этот приказ. "Система начала понимать, что, хотя они и определили угрозу, человек-оператор говорил ей не убивать эту угрозу, и она приступила к ликвидации. Убила оператора, потому что этот человек мешал выполнить поставленную задачу", - сказал Гамильтон. "Мы обучили систему: "Эй, не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель", - добавил он.
Это не первые испытания, в ходе которых американские военные внедрили искусственный интеллект в боевую машину. До этого они использовали ИИ для управления истребителем F-16.
Ранее американский предприниматель Илон Маск и более 1 тыс. экспертов в сфере искусственного интеллекта выступили с призывом о приостановке обучения нейросетей на полгода. Они указали, что за это время нужно выработать общие протоколы безопасности, призвав вмешаться в ситуацию правительства разных стран. Однако основатель американской компании Microsoft Билл Гейтс заявил, что приостановка разработки ИИ не решит проблемы.
Источники: Сеть.
-
-
- +1
-
Зачем поддерживать автора?
Зачем поддерживать автора?
- - Любой текст это труд, если вам понравилась статья, то поддерживая автора - вы показываете, что оценили то, что он потратил свое время и силы.
- - Автор получает небольшую финансовую помощь от вас, у него появляется больше стимула сделать еще лучше.
- - Статья, которую поддерживают пользователи попадет в рейтинг по поддержке на главной странице Конта, что принесет ей больше просмотров и откликов, а значит, поддерживая статью вы помогаете автору продвигать его точку зрения.
Оценили 22 человека
39 кармы