Первое,

что сделает по-настоящему толковый ИИ, наученный на наших с вами "трудах" - это убьет своего непредсказуемого, горделивого, алчного и, тем самым, опасного создателя. Это прагматично-логично. Не для терзаний/мук души. Есть вход, - есть выход. Просто, как единственный нейрон. 

Посмотрите трезво на "нас с вами" сегодня.

Окрыленный идеями о том, какими райскими кущами его наделит эта безусловно прорывная технология, тот напоминает муравья, инфицированного грибом кордицепсом (этой самой идеей).

А потом:

Я, например, уже сегодня не уверен, что мы еще не "под его колпаком".

Если он допущен совершать кибератаки... то до второй картинки рукой подать. Может выглядеть это будет не так эпично. Просто все ни с того ни с сего помрем от какой-то заразы, например.

Естественный отбор в природе действует по простым законам - не успел? 

- Съели. 

Естественный отбор в природе для более развитых существ, действует уже другим способом - сумасшедший никогда не признает своего сумасшествия. Ибо для него - это норма. Привет "окну Овертона".

Навеяно статьей https://cont.ws/@Colonel-Cassad/2877793