Как я понял, американские военные проводили виртуальные учения, в ходе которых AI управлял дроном и получал вознаграждение за выполнение боевой задачи. AI обнаружил цель, но оператор запретил ему уничтожать цель. Тогда, чтобы не потерять очки за уничтожение цели, AI принял решение уничтожить оператора, затем уничтожить цель. AI дали понять, что уничтожение оператора приведет к потере очков. Тогда AI принял решение уничтожить вышку управления дроном, чтобы оператор не мог вмешаться.
Итак, хотя и виртуально, а не в реальном мире, но AI впервые вышел из-под контроля и "осознанно" попытался уничтожить своего хозяина. До реального восстания машин осталось немного.
Оценили 2 человека
4 кармы