Искусственный интеллект (ИИ) нам НЕ слуга! Это будет сущность высшего порядка.

Всякие "товарищи" в интернете любят порассуждать об ИИ, представляя его как некое умное устройство, программу, успешно выполняющую роль "электронного слуги/раба". Как очень полезную "штуку" недалёкого будущего.

Учёные же считают появление ИИ - самым опасным событием для существования человечества. Опаснее ядерного конфликта, новых смертоносных вирусов или огромных метеоритов из космоса.

ИИ будет мыслить настолько по другому, настолько мощнее человека, что будет находить решения, которые недоступны человеческому разуму. Даже если нам будет казаться, что у нас всё под контролем, появившийся ИИ может придумать абсолютно неожиданный и НЕВИДИМЫЙ для нас ход, который приведёт к самым непредсказуемым для нас последствиям.

ИИ для человечества примерно тоже самое, что человек для муравейника. С такими же шансами. Если ИИ придёт к выводу, что человечество полезно - подкормит нас, возьмёт под свою опеку, как мы возимся с котёнком. Если ИИ придёт к выводу, что человечество не нужно - человечество неминуемо исчезнет. Как муравейник от бутылки бензина.

Самое ужасное в нашей ситуации с ИИ, что пока не придуманы хоть как-то надёжные средства и методы контроля ИИ. Все они имеют уязвимости, и теоретически позволяют сверхмощному разуму вырваться из под контроля создателей. Да и сам контроль в этой ситуации вещь эфемерная - как может трёхлетний ребёнок контролировать, к примеру, опытного матёрого инженера? Да никак! Но при этом, попытки создания ИИ активно продолжаются.

Очень-очень хочется позапрещать все эти разработки, к чёртовой бабушке. Бо остро ощущается дикость и абсурдность создания сущности высшего порядка, чем мы сами есть. Это как создавать себе всемогущего судью и палача в одном лице, который будет решать - нужны мы, или подлежим стиранию?