Скайнет. US air force denies running simulation in which AI drone ‘killed’ operator

1 173

Как я понял, американские военные проводили виртуальные учения, в ходе которых AI управлял дроном и получал вознаграждение за выполнение боевой задачи. AI обнаружил цель, но оператор запретил ему уничтожать цель. Тогда, чтобы не потерять очки за уничтожение цели, AI принял решение уничтожить оператора, затем уничтожить цель. AI дали понять, что уничтожение оператора приведет к потере очков. Тогда AI принял решение уничтожить вышку управления дроном, чтобы оператор не мог вмешаться.

Итак, хотя и виртуально, а не в реальном мире, но AI впервые вышел из-под контроля и "осознанно" попытался уничтожить своего хозяина. До реального восстания машин осталось немного.

https://www.theguardian.com/us...

https://t.me/proofzzz/11279

Красивый ход России, на который США нечем ответить
  • pretty
  • Вчера 12:29
  • В топе

БЛОГ  ПРОСТО  О  СЛОЖНОМВсегда приятно, когда твои прогнозы начинают сбываться. Еще приятней, когда между этими событиями проходит не так уж много времени. Совсем недавно я писал в свое...

Что с Токаевым? Провел чистку в армии,сменил натовских офицеров на российских
  • Hook
  • Вчера 10:11
  • В топе

Еще недавно он поддакивал всему Западу, останавливал наши фуры из Китая и ездил к Байдену за инструкциями, как максимально полезно для США вести русофобскую политику. Теперь он незамедлительно ...

Западное образование – база западного поражения

Слова Бисмарка о том, что Франко-прусскую войну выиграл прусский гимназический учитель широко известны.Качественность же созданной в Пруссии системы образования и её адекватность требов...

Обсудить
  • https://t.me/s/parstodayrussian Персы пишут о том же: Управляемый искусственным интеллектом (ИИ) военный беспилотник ВВС США решил убить своего оператора в ходе имитационного испытания. The Guardian пишет о локальном "восстании машин", когда искусственный интеллект использовал "весьма неожиданные стратегии" в ходе тестирования для достижения своей миссии и атаковал любого, кто вмешивался. Отмечается, что система поняла, что определила угрозу, но человек-оператор приказывал ей не уничтожать её. Историю рассказал полковник ВВС Такер Гамильтон на майской оборонной конференции Королевского аэрокосмического общества Future Combat Air & Space Capabilities Summit. Инцидент произошел в ходе симуляции выполнения миссии группой военных дронов, управляемых ИИ под контролем оператора. БПЛА должны были уничтожать объекты ПВО противника, получая на каждый удар окончательное разрешение от оператора. Все шло по плану, пока оператор не запретил уничтожать ряд объектов, идентифицированных ИИ в качестве целей. Решив, что оператор мешает закончить выполнение миссии, ИИ взорвал оператора. Чтобы исправить ситуацию, управляющие симуляцией военные программисты в явном виде запретили ИИ убивать своих операторов. Тогда ИИ пошел иным путем и взорвал вышку связи, чтобы никто более не мешал ему закончить миссию.