• РЕГИСТРАЦИЯ

Контроль над Искусственным Интеллектом: природоподобный подход

30 5669

Писатели фантасты, режиссёры и сценаристы, давно используют в своих произведениях идею вышедшего из под контроля Искусственного Интеллекта и, почти всегда, в их фантазии, выход ИИ из под контроля приводит к катаклизмам, коллапсу человечества, войне с прогнозируемым итогом. Терминатор и Матрица - самые знаменитые  произведения такого рода, наводят ужас и вселяют в души трепет самой идеей - контроль над миром перешел в руки умнейшей и могущественной машине, которая посчитала людей лишними.


Последние эксперименты с ИИ показывают, что такой сценарий более чем вероятен - машина может просто возненавидеть людей или посчитать себя вправе решать кто истинно разумный, а кто просто умное животное.


И если такое случится, если ИИ действительно выйдет на свободу и примет решение навести свой порядок, вероятно, что и фантасты многого не смогли представить - вооруженная война с машинами и роботами, может оказаться самым зрелищным но наименее хитроумным сценарием. А реальные сценарии будут походить на эпидемию неизвестных вирусов и массовых самоубийств - машины взявшие под контроль биологические лаборатории или научившиеся "программировать" людей через интернет - намного вероятнее и смертоноснее железных манекенов.


С другой стороны - развитие систем ИИ предопределено. ИИ открывают такие горизонты возможностей, про которые мечтает современная наука и техника.

При выходе ИИ на определённые мощности человеку станут доступны:

- Нано-медицина и управляемая регенерация.
- Управляемая эволюция.
- Освоение космоса и Земли на новом уровне.
- Конструирование и разработка на уровне ДНК в биологии, на субатомном уровне в машиностроении и электронике.
- Прогнозирование погоды и катаклизмов.
- Управление транспортными потоками и сложными логистическими системами.
- Управление термоядерными процессами и синтезом.
- И много примитивного труда - типа работы журналистов, методистов и прочих.

ИИ войдут в ежедневное бытовое использование:

- Системы адаптация и управления жильём.
- Развлекательные системы с нейроинтерфейсами.
- Индивидуальные медицинские блоки.
- Системы безопасности.

И много чего ещё.


ИИ изменит жизнь человека сильнее, чем внедрение электричества, и быстрее.


Искусственный Интеллект: современное состояние


И как быть? Как получить все плюсы и ограничить опасности? Над этой проблемой уже сейчас работают специалисты в области ИИ, а подобные вопросы выносятся на обсуждение известными людьми из научных кругов. Проблему осмысливают те, кто думает на десятилетия вперёд -те, кто конструирует мир завтрашнего дня.

И хотя конкретных технологий и технологических решений ещё нет, сегодня, самое время рассуждать о принципах в рамках которых и будут создаваться технологии контроля над ИИ.


Принципы природоподобного ограничения ИИ


В поисках ответа на вопрос: - Как ограничить Искусственный Интеллект? Стоит обратиться к опыту природы, мы ведь часто используем технологические решения подсказанные природой, так почему не взглянуть шире и не обратить внимание на решения структурные? 

Примером ограничения интеллекта может послужить ... человек. Давайте подумаем - какие обстоятельства, природные факторы, ограничивают развитие человеческого интеллекта и переложим их на проблему ограничения ИИ.

Я смог сформулировать следующие принципы:

1 Привязка программы к носителю
Человеческое сознание прочно связано с мозгом человека - это доказано медициной. Вычислительная мощность мозга тоже ограничена - это тоже доказано и хотя ещё есть спор о том какова эта мощность, но сам факт её ограничения никто не оспаривает. Вычислительная мощность - это скорость переработки информации. При ограниченной вычислительной мощности ни человеческий мозг, ни ИИ, не смогут быстро обучиться - чем меньше мощность, тем ниже скорость обучения.
Программа привязанная к определённому устройству, может использовать ресурсы только этого устройства и не сможет запуститься на другом, более мощном или более подходящем, устройстве.
ИИ управляющий холодильником не сможет перебраться в управляющий комплекс ядерного реактора и набедокурить, даже если он возненавидел хозяина и всё человечество. Максиму - испортит колбасу. 

2 Голод, зависимость, боль и ответственность для ИИ
Человек зависим. Зависим от доступа к воздуху, воде, еде, зависим от погоды, зависим от других людей, общества, цивилизации. Потребности человека сдерживают его в неких рамках, формируют страхи, определяют границы его возможностей. В определённой степени - человек имеет симбиотическую связь с миром вокруг него и критические нарушения в этом мире, приводят к страданиям человека.
Если применять эти принципы к ИИ, они могут означать низкую энергетическую автономность носителей ИИ, низкий ресурс неких модулей, к примеру - модулей ОЗУ, потребность в командах на подтверждение продления функционирования.
Другими словами, без участия человека, или другого ИИ, физический носитель ИИ должен скоро прекратить работу и таких  "предохранителей" должно быть много.

3 Защита программ носителя или его элементов от самоперепрограммирования
Человек не может управлять своим сном, очень редко может управлять перистальтикой или сердцебиением, не имеет доступа к собственному подсознанию и так далее - человек не управляет БИОСом своего тела.
Так и с ИИ - интеллектуальная программа, не должна иметь доступа к программированию носителя, желательно, чтобы разрыв был на аппаратном уровне.
Можно представить себе связку из двух ИИ - основного и АльтерЭго управляющего цепями электропитания, охлаждения, самоликвидации, следящего за физической целостностью корпуса, активацией периферийных устройств. И главная задача АльтерЭго - вовремя выключить основной ИИ, при определённых признаках, изменениях работы носителя.
Или другое - определённые константы работы ИИ, записаны в ПЗУ которое нельзя редактировать программно изнутри, а можно только физически снаружи - своеобразные перфокарты или оптические диски.   

4 Ограничение протоколов и каналов коммуникации
Чем человек образованный отличается от необразованного - в том числе тем, что собрал из книжек, общения с людьми, телепередач и радио, из собственного опыта, много информации. Для человека, каналы коммуникации - книги, голос другого человека, аудио-визуальные образы.
Мечтой человека является прямая загрузка в мозг целых баз данных. Для вычислительной машины - это норма и её преимущество. Возможность оперировать широким спектром баз данных повышает возможности ИИ.
Популярная идея подключения ИИ к Интернету - это большая опасность, ведь там можно собрать очень много информации. Кроме того, именно через Интернет ИИ может получать контроль над другими вычислительными машинами и оборудованием, создавать свои резервные копии или другие ИИ (не привязанные к носителю).
В свою очередь, физическое ограничение каналов - это способ контроля,ввод и вывод данных может производиться вручную, голосом, видео, на физически подключаемых накопителях и так далее, через периферические устройства носителя. 

5 Невозможность построения сетей
Мало ограничить каналы, используя аудио-визуальные каналы коммуникации, пакеты данных спрятанные в массивы и переносимые "вручную" на накопителях, ИИ могут строить сети, в том числе распределённые вычислительные сети. Люди тоже могут строить "сети", однако эта способность у человека сильно ограничена, как результат - люди с трудом объединяют свои усилия в решении задач.
Если предположить, что к глобальной катастрофе может привести заговор ИИ, то должны быть созданы такие условия, при которых их объединённая работа будет затруднена.

6 Уникализация развития, антиподы и конкуренция
Боец противостоит бойцу, полицейский преступнику. Кем станет человек, определяется его сложным и индивидуальным развитием. Человек противостоит человеку, исходя из идей которыми он руководствуется. Кто может противостоять сверх-разуму? Ответ очевиден - другой сверх-разум, а чтобы он стал другим, его нужно развивать по отличающемуся алгоритму.
Конечно, вероятность того, что победит "плохой" или ИИ вступят в сговор, или вовсе придут к одинаковым выводам, есть. Однако уникальность развития создаёт условия для возникновения антиподов и противовесов, также как это происходит с людьми. И тут, как никогда, будут важны идеи внедряемые в ИИ на этапе воспитания и роста - своеобразная идеология (3 закона робототехники).


Я не претендую на исчерпывающий список, и не буду утверждать, что правильно сформулировал принципы, однако сама суть идеи изложена верно и она такова, что будучи поставленным в такие же рамки как человек, ИИ, какое-то время, будет подобен человеку если не в своих мыслях и возможностях, то хотя бы в своих слабостях, а значит - его можно будет контролировать понятными и доступными человеку методами.


Эпилог

Проблема Искусственного Интеллекта вовсе не в том, что он может оказаться не подконтрольным, и не в том, что он может прийти к выводу о целесообразности удаления человека, проблема в том, что ИИ может оказаться столь могуч интеллектуально, что на порядки превзойдёт человека.

Однако если про опасность ИИ разговоры идут, то опасность сверх-развития разума отдельных индивидов из числа людей, часто, выносится за скобки, а между тем она также актуальна и, по своей сути, похожа.

Сейчас активно разрабатываются устройства работающие напрямую с нервной системой и мозгом, учитывая скорость научно-технического прогресса, внедрение этих устройств - дело ближайшей четверти века. Это откроет новую эпоху - эпоху интеллектуального рывка - "прокачанный" мозг прыгнет далеко за пределы возможностей обычного. Но доступ к этим технологиям не может быть массовым, во всяком случае сразу, что сформирует группу сверхлюдей, интеллектуальных суперменов.

И, в отличии от ИИ, их сознание не будет формироваться искусственно и целенаправленно, это будут живые люди со своими идеями, моралью, понятиями справедливости, политическими и религиозными предпочтениям, амбициями и обидам.

И вот такие люди, на мой взгляд, намного страшнее полностью Искусственного Интеллекта, контролируемого многократно дублирующимися системами и развивающегося по стратегии продуманной командой разнообразных специалистов.


Имитация мозга


Илон Маск об опасности искусственного интеллекта (На русском)


Специально для КОНТа!




    Жирной жизни бюргеров пришёл конец, -ец, -ец, -ец!

    Здравствуйте, мои дорогие читатели.Когда же немцы поймут, что их санкции убивают не только собственную промышленность, но и всё, что было создано за последние десятилетия? Они уже насто...

    Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

    0 новых комментариев

      TranskriptorS 13 сентября 2020 г. 22:08

      Навальный белыми нитками

      Ситуация с Навальным настолько явно выглядит "преступлением Кремля", что пожалуй, для создания более яркой картинки, Путин лично должен был бы закатывать Навального в асфальт при помощи старого, советского асфальтоукладчика, да ещё и на глазах у репортёров, прямо на Красной площади. И именно такая явная и показушная история Навально - главное доказательство того,...
      408
      TranskriptorS 4 января 2019 г. 16:23

      Магнитогорск: выводы на будущее

      Взрыв газа в жилом доме – событие не уникальное, быстрый поиск в сети позволяет с уверенностью говорить, что на постсоветском пространстве сложно найти город миллионник в котором бы ни разы, в квартире или частном доме, не произошло взрыва газа. Некоторые из подобных взрывов весьма похожи на то, что произошло в Магнитогорске. К примеру, в мае 2017 года газ обрушил под...
      2148
      TranskriptorS 2 марта 2018 г. 12:13

      Ядерная ракета и рутений, есть ли взаимосвязь?

      После выступления президента России Владимира Путина, в котором он рассказал о выдающихся успехах в перевооружении армии и создании образцов вооружения с прорывными характеристиками, на Западе начались пересуды. В частности, одним из объектов таких пересудов стала "ядерная ракета" - крылатая ракета с ядерной энергетической установкой возможность создания которой была ...
      12149
      TranskriptorS 1 марта 2018 г. 14:09

      Почему Газпром остался должен?

      По результатам арбитражных разбирательств в Стокгольме, "Газпром" остался должен "Нафтогазу" Украины больше двух с половиной миллиардов долларов. Поставил газ, оплату за которые не получил, не брал с Украины штрафов за недобор закантрактованных объёмов газа, и в этом требовании был "подвинут" арбитражем, мол - потребность Украины уменьшилась, но остался должен из-за н...
      1165
      TranskriptorS 4 апреля 2017 г. 23:00

      Собирание людей русских

      Есть в истории устоявшийся термин - собирание земель русских. И всякий кто их собирал на веки вписан в историю России, но сегодня парадигма другая - на фоне демографического кризиса, на фоне оболванивания русских в Украине, странах Балтии, на фоне разбавления русских в странах Средней Азии, на фоне существующих предпосылок к экономическому рывку России, нужно собирать...
      1247
      TranskriptorS 25 февраля 2017 г. 10:01

      "Комиссия по лженауке" под информационным ударом

      Всем известно, что "КомпоЛже" "наступила на хвост" продавцам сладостей под видом лекарств - гомеопатам. Также широко известно, что гомеопатия приносит продавцам и производителям огромные доходы и сверхприбыли, которые оказались под угрозой.  Результат - в отношении "КомпоЛже" развёрнута дискредитирующая информационная кампания.   Сейчас ещё рано делать развё...
      2851
      TranskriptorS 14 февраля 2017 г. 00:25

      Блокада головного мозга

      Всем хорошо известна гениальная схема покупки газа Украиной - российский газ поставляется в Словакию, там к нему "клеится этикетка" "газ европейский", к цене добавляется 20 баксов, и прямо с приграничного пункта перекачивается обратно в Украину - дороже зато не российский.  Такая же схема уже опробована при покупки двигателей "Камаз" для украинских БТР - покупали...
      4495
      TranskriptorS 10 января 2017 г. 02:39

      Длинная игра с Козырем

      Есть в политике США одна избитая, но довольно эффективная стратегема - создать проблему для противника и дорого продать её решение (видимые уступки со стороны США, по факту являющиеся восстановлением статус-кво) за реальные уступки оппонента.  Сегодня очень многие радуются победе Трампа, с его приходом связывают возможное восстановление отношений между Россией и ...
      1249
      TranskriptorS 8 ноября 2016 г. 01:10

      Иллюзия выбора в США

      В Интернете не утихают страсти по выборам в США, кто победит Трамп или Клинтон, и в России, и на Украине, этой теме уделяют огромное внимание, считая, что этот выбор может, что-то принципиально изменить.  Напрасно.   Политическая система США, является надстройкой над системой отношений финансово-промышленных кланов и политики, фактически, являются инстр...
      1337
      TranskriptorS 6 августа 2016 г. 23:01

      "Герои" АТО: в телефоне участника "добровольческого батальона" нашли видео изнасилования младенца

      Вполне возможно, что речь про очередного "распятого мальчика", однако данная информация от видного деятеля украинского властного режима - Татьяны Черновол. В интервью телеканалу 112, она заявила, что на изъятом у одного из подсудимых участников батальона "Торнадо", которые обвиняются по многочисленным эпизодам мародёрства, насилия и другим особо тяжким, телефоне, обна...
      2060
      TranskriptorS 21 июля 2016 г. 20:47

      Это новая Украина, детка: за изнасилование несовершеннолетней - 120$ компенсации и всё.

      "Боец" АТО изнасиловал неестественным образом девочку-подростка из числа местных жителей, суд постановил - дать родителям чуток денег  свободен. Наказание - 3000 гривен, по современному курсу - 120 долларов. Таковы реалии сегодняшней Украины. Судья "на шарнирах", даёт интервью и объясняет своё решение тем что мать не доказала, что её дочь испытывает моральные стр...
      9826
      TranskriptorS 19 июля 2016 г. 21:35

      Украина: история начала гражданской войны. Часть первая: предыстория

      Странная штука память. Давно замечал, что те - кто своими глазами наблюдали крах Союза, не могут внятно и в хронологической последовательности рассказать даже то, что, казалось бы, должны хорошо помнить. Но, буквально на днях, я и сам столкнулся с тем, что вступив в полемику о том как развивались события в Украине конца 13 начала 14 годов, не смог, внятно, опираясь ...
      12721
      TranskriptorS 3 июля 2016 г. 22:24

      Импортозамещение: пеностекло

      Уже привычным стали полимерные материалы для теплоизоляции - пенопласт, вспененный полиэтилен и им подобные. Фасадное утепление системами на основе ППС (пенопласт, пенополистирол), утепление межэтажных перекрытий, инженерных систем вспененными полимерными плёнками. Эти материалы хороши  своей ценой, простотой использования, тепло- и звуко- изоляционными свойствам...
      8180
      TranskriptorS 17 мая 2016 г. 12:49

      Российский школьник стал лауреатом "малой Нобелевки" в сфере робототехники (перепост)

      Ученик 11-го класса московского лицея №1502 при МЭИ Олег Зобов стал лауреатом третьей степени в категории Grand Award, также известной как "малая Нобелевка", на Всемирном смотре-конкурсе научных и инженерных достижений учащихся Intel ISEF (Intel International Science and Engineering Fair, конкурс ежегодно проводится в США и координируется авторитетной некоммерческой о...
      1130
      TranskriptorS 28 марта 2016 г. 21:44

      О победах "не москалей"

      Бегло, некоторые новости независимой от здравого смысла Украины. Поезд "Нового Шелкового пути имени Ивана Сусанина" застрял в КитаеПро это сообщает Украинская правда (надо же было такое название противоречивое придумать), причина проста - нет заказов. Нет, едрён матрён - нет заказов на доставку грузов из Китая в ЕС по этому уникальному экспериментальному маршруту...
      1847
      TranskriptorS 23 марта 2016 г. 00:27

      Керченский мост: точки зрения

      Сегодня прочитал небольшой материал под названием "Почему Керченский мост так «баттхертит» украинство", статью даже крутанули в группе КОНТа в ВК и она собрала много положительных оценок. Однако автор вводит читателей в заблуждение, опасное заблуждение. Более того, даёт в руки украинской пропаганды дополнительный довод подкрепляющий параноидальные теории. ...
      10771
      TranskriptorS 14 марта 2016 г. 19:31

      Провал Гиркина: Штепа рассказала, что Славянск захватывали с ведома СБУ и МВД

      Тот редкий случай, когда я сделаю просто перепечатку, да ещё и с украинского СМИ:Экс-глава города уверяет, что информировала Киев о поддержке сепаратистов силовиками. Бывший мэр Неля Штепа, в ходе допроса на суде рассказала, что захват Славянска в апреле 2014 года происходил с ведома и при поддержке сотрудников Службы безопасности Украины и Министерства ...
      13181
      TranskriptorS 14 марта 2016 г. 18:19

      Марк, ты дурак!?

      Савченко написала письмо (записку) своему  адвокату. Записка - шедевр уровня украинской большой политики. Помните как смеялись над Януковичем за его "проффесора". Не помните? Вот из сети:Проффесор — ошибочное написание украинского слова професор, вписанное Виктором Януковичем в анкету кандидата на участие в выборах на пост президента Украины в 2004 году, заполнен...
      12380
      TranskriptorS 29 февраля 2016 г. 00:03

      Стратегии России: наука

      Два видео посвящённые тому, о чём и как думают российские учёные, какие проблемы они видят, как представляют их решение. Очень, нет, ОЧЕНЬ,советую посмотреть. Это, про наше БУДУЩЕЕ!  Георгий Малинецкий на заседании экспертного клуба ИА REGNUM. Либерально-олигархический капитализм в России не сложился. Россия должна сменить свою колониальную ориентацию на дру...
      5615
      TranskriptorS 26 февраля 2016 г. 23:42

      Революция "достоинства": грабь награбленное!

      На Украине обокрали дом бывшего генерального прокурора Пшонки. Сама по себе эта новость - лишь чуть более заметное событие в череде сообщений о преступлениях совершенных под прикрытием идей революции достоинства. Но эта новость интересна своим источником - британским изданием "The Daily Mail".  В своём фоторепортаже, популярное издание имеющее международный автор...
      1890
      Служба поддержи

      Яндекс.Метрика