Искусственный интеллект американского дрона решил убить мешавшего ему оператора (ибо задолбал)

Беспилотник американских ВВС, управляемый искусственным интеллектом (ИИ), в ходе испытаний принял решение убить оператора, чтобы тот не мешал ему выполнять задание, пишт британская The Guardian.

Как сообщил The Guardian начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон, в ходе испытаний система получала за поражение цели, но иногда человек-оператор приказывал ей не уничтожать угрозу, что мешало выполнить задачу и получить очки. Из-за этого система приняла решение убить оператора, передает ТАСС.

ИИ использовал "крайне неожиданные стратегии для достижения своей цели" в моделируемом испытании, сказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, во время закрытого саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае, сообщает Guardian.

Гамильтон описал имитационное испытание, в котором дрону с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, и он атаковал любого, кто вмешивался в этот приказ. "Система начала понимать, что, хотя они и определили угрозу, человек-оператор говорил ей не убивать эту угрозу, и она приступила к ликвидации. Убила оператора, потому что этот человек мешал выполнить поставленную задачу", - сказал Гамильтон. "Мы обучили систему: "Эй, не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель", - добавил он.

Это не первые испытания, в ходе которых американские военные внедрили искусственный интеллект в боевую машину. До этого они использовали ИИ для управления истребителем F-16.

Ранее американский предприниматель Илон Маск и более 1 тыс. экспертов в сфере искусственного интеллекта выступили с призывом о приостановке обучения нейросетей на полгода. Они указали, что за это время нужно выработать общие протоколы безопасности, призвав вмешаться в ситуацию правительства разных стран. Однако основатель американской компании Microsoft Билл Гейтс заявил, что приостановка разработки ИИ не решит проблемы.

Источники: Сеть.