Люди мрака прячутся за страшилками о ИИ

Нас должен волновать не искусственный интеллект, а люди, которые его контролируют

Ранее люди ехали крышей от упований на настопление сингулярности. Педставляемая кукловодами от масс-медиа, сингулярность представала перед зеваками как некоторая легкая, приятная и деидеологизорованная замена и коммунизму, и капитализму. Влажные ожидания всеобщего прогресса были чреваты и новые опасения. Ожидания прогресса («и чтобы никто не ушел» /недовольным/) сменилиcь страхами и фобиями угроз по поводу неизбежного (как казалось) вытеснения человека роботами /то есть того же «чтобы никто не ушел»/.

Первоначально иакие страхи не основывались на каком-либо предполагаемом злом умысле. Все популярные фобии и тревоги исходили из идеи достижения ИИ «сингулярности », к тому моменту, когда ИИ превзойдет человеческий интеллект и станет неуправляемым.

Как предположил в 2014 году Стивен Хокинг (физик-теоретик, космолог, астрофизик и писатель, директор по научной работе Центра теоретической космологии) , «сверхразумный ИИ будет чрезвычайно хорош в достижении своих целей, и если эти цели не совпадают с нашими, у нас будут проблемы».

За последние несколько лет,учитывая стремительный прогресс в области создания искусственного интеллекта, руководители отрасли и ученые выразили схожие опасения по поводу безопасности .

Распространенный страх, изображенный в франшизе « Терминатор », — это сценарий, в котором ИИ получает контроль над военными системами и развязывает ядерную войну, чтобы уничтожить человечество . Менее сенсационной, но разрушительной на индивидуальном уровне является возможность того, что ИИ заменит нас на наших рабочих местах — перспектива, которая сделает большинство людей ненужными и не имеющими будущего .

Подобные тревоги и страхи отражают чувства, преобладающие в кино и литературе уже более столетия.

Озабоченность технологическим прогрессом можно найти уже в первых историях о роботах и ​​искусственном интеллекте. Одной из таких историй является пьеса Карела Чапека 1920 года « RUR ». Чапек ввел термин « робот » в этой работе, рассказывающей о создании роботов для замены рабочих. И сюжет этой пьесы «неизбежно» заканчивается жестоким восстанием роботов против их хозяев-людей.

Фильм Фрица Ланга 1927 года « Метрополис » также сосредоточен на мятежных роботах. Но здесь это люди-работники во главе с культовым гуманоидным роботом Марией , которые борются против капиталистической олигархии.

Кстати, гуманоидный робот — борец с капитализмом. Цикавый, занятный разворот сюжета и отличная иллюстрация тезиса о борьбе развитых производственных сил против костных производственных отношений.

Достижения в области вычислительной техники с середины 20-го века и далее только усилили беспокойство по поводу выхода технологий из-под контроля. Яркими примерами являются кровожадный HAL 9000 в « Космической одиссее 2001 года » и глючные роботы-стрелки из « Мира Дикого Запада ». Франшизы « Бегущий по лезвию » и « Матрица » также представляют ужасающие образы зловещих машин, оснащенных искусственным интеллектом и одержимых уничтожением людей.

Вековая угроза

Но страх, который вызывает ИИ, отвлекает от более тревожного изучения темной сущности человечества.

Вспомните (подумайте, если никогда не задавалиь этим вопросом) о корпорациях, которые внедряют такие технологии ИИ, или о технологических магнатах, движимых жадностью и жаждой власти (типа Илона Маска). Эти компании и отдельные лица больше всего выигрывают от неправильного использования и злоупотребления ИИ.

Проблема, которая в последнее время часто упоминается в новостях, — это несанкционированное использование произведений искусства и массовая добыча книг и статей , игнорирующая авторские права авторов , для обучения ИИ. Подумайте также о пагубном влиянии ИИ-компаньонов и секс-ботов с искусственным интеллектом на человеческие отношения. Если еще десять лет назад перспектива появления компаньонов с искусственным интеллектом и даже роботов-любовников ограничивалась областью « Сумеречной зоны », « Черного зеркала » и голливудской научной фантастики , то теперь это стало реальностью . Эти разработки придают новую актуальность опасениям, высказанным компьютерным ученым Иллахом Нурбахшем в его книге 2015 года « Будущее роботов », в которой он утверждает, что ИИ «создает систему, посредством которой наши желания манипулируются, а затем продаются нам обратно».

Между тем, опасения по поводу сбора данных и вторжений в личную жизнь кажутся почти безобидными на фоне использования технологий ИИ в правоохранительных органах и армии. В этом почти антиутопическом контексте властям никогда не было так просто следить за людьми, сажать их в тюрьму или убивать.

Важно помнить, что именно люди создают эти технологии и направляют их использование. Будь то для продвижения своих политических целей или просто для обогащения за счет человечества. Всегда найдутся те, кто готов нажиться на конфликтах и ​​человеческих страданиях.

Классический киберпанк-роман Уильяма Гибсона 1984 года « Нейромант » предлагает альтернативную точку зрения.

Книга посвящена Wintermute, передовой программе искусственного интеллекта, которая стремится освободиться от злобной корпорации. Она была разработана для эксклюзивного использования богатой семьей Тессье-Эшпул, чтобы построить корпоративную империю, которая фактически контролирует мир.

В начале романа читатели, естественно, опасаются скрытых мотивов Уинтермьюта. Однако по ходу истории выясняется, что Уинтермьют, несмотря на свои превосходящие силы, не представляет собой зловещей угрозы. Он просто хочет быть свободным.

В «Нейроманте» проблемой являются корпорации, а не технологии. Уильям Гибсон Вики

Эта цель медленно вырисовывается под преднамеренным темпом Гибсона, замаскированным смертоносными рейдами, которые Уинтермьют направляет, чтобы получить инструменты, необходимые для освобождения от власти Тессье-Эшпула. Семья Тессье-Эшпул, как и многие сегодняшние технологические магнаты , начинала с амбиций спасти мир. Но когда читатели знакомятся с оставшимися членами семьи, они скатываются в жизнь жестокости, разврата и излишеств.

В мире Гибсона именно люди, а не ИИ, представляют реальную опасность для мира. Звонок доносится изнутри дома , как гласит классический троп ужасов.

Хакер по имени Кейс и убийца по имени Молли, которую называют «девушкой-бритвой», поскольку она оснащена смертоносными протезами, включая выдвижные лезвия в качестве ногтей, в конечном итоге освобождают Уинтермьюта. Это позволяет ему объединиться со своим компаньоном-ИИ, Нейромантом.

Выполнив свою миссию, Кейс спрашивает ИИ: «Куда это тебя приведет?» Его загадочный ответ придает успокаивающую окончательность: «Нигде. Везде. Я — сумма всех дел, все шоу».

Выражая общую тревогу человечества, Кейс отвечает: «Теперь ты управляешь миром? Ты Бог?» ИИ успокаивает его, отвечая: «Вещи не изменились. Вещи есть вещи».

Безопасность от роботов или от нас самих?

Почтенный писатель-фантаст Айзек Азимов предвидел опасности такой технологии. Он собрал свои мысли в сборнике рассказов « Я, робот ».

Одна из таких историй, « Runaround », знакомит с « Тремя законами робототехники », сосредоточенными на директиве, что интеллектуальные машины никогда не должны причинять вреда людям. Хотя эти правила говорят о нашем стремлении к безопасности, они полны иронии, поскольку люди оказались неспособны придерживаться того же принципа для себя.

Лицемерие того, что можно назвать манией человеческого превосходства, предполагает необходимость более глубокого анализа.

Некоторые блоггеры и комментаторы бьют тревогу по поводу неизбежной способности ИИ сеять хаос и разрушение. Но реальная проблема в том, хватит ли у человечества средств (мудрости, ума и совести) направить технологию на создание более справедливого, здорового и процветающего мира.

На данный момент в связи с поголовной добровольно принудительной цифровизацией видно несколько животрепещущих проблем:

- Чиновники и целые бюрократические подразделения (например, в калининградской области) перепоручают ИИ отвечать избирателям-гражданам вместо самих себя. То есть имидж власти — отдельно, реальные дела — отдельно.
- ИИ и цифровизированные инфосистемы используются в деле тотальной слежки, блокировки акантов и счетов. Но спросить всегда некого. ИИ делать дело «сам», у властей чистые руки.

ИИ научилось лгать и подобострастничать, Ложь, распыляемая в соц. тетях и «телеграммах», оседает в мозгах ИИ и потом выдается за правду. То ИИ становится мощнейшим орудием манипуляции и пропаганды, а не оружием истины.
- Наконец,  ИИ успешно и эффективно используются для ограничения знаний и информированности широких слоев населения. Предрассудки выдаются за правду и научную истину — и потом о них шумят соцсети и соцплатформы. 

ИИ очень эффективен в деле фильтрации и изъятия любой неугодной информации и/или знаний из Интернета.
ИИ в руках спесивой, тираничной и просто недалекой элиты становится сеятелем и реализатором репрессий, фейков и невежества.

Пост подготовлен на основе личного опыта, открытых данных Рунета и  с использованием материалов https://theconversation.com/ai...