• РЕГИСТРАЦИЯ

Раскрыто очередное "Окно Овертона" по сносу синдрома человечности.

Vladimir Kouprin
Что же вы творите, люди?!
3 июня 09:35 0 1772

В.К. Оказывается, все те 70 лет, в течении которых специалисты пытались воссоздать искусственный интеллект, не уступающий по своим возможностям людскому интеллекту, были потрачены понапрасну потому, что, как утверждает Ричард Саттон, канадский компьютерный ученый:

Ученый рассказал о том, что 70 лет в области исследования ИИ были потрачены практически зря.

Самый большой урок, который можно извлечь из 70 лет исследований ИИ, заключается в том, что общие методы, использующие вычисления, в конечном итоге оказываются наиболее эффективными — и с большим отрывом. Конечной причиной этого является закон Мура. Или, скорее, его обобщение: продолжающееся, экспоненциальное удешевление вычислительных процессоров. Об этом «горьком уроке» рассказал Ричард Саттон, канадский компьютерный ученый. Далее — от первого лица.

Почему исследования искусственного интеллекта были в тупике 70 лет?

Большинство исследований искусственного интеллекта проводились так, как если бы вычисления, доступные агенту, были постоянными (и в данном случае использование человеческих знаний было бы одним из единственных способов повышения производительности). Но через некоторое время — гораздо большее, чем нужно для типичного исследовательского проекта — неизбежно становится доступно гораздо больше вычислений. В поисках улучшений, которые могут помочь в краткосрочном периоде, ученые пытаются использовать максимум человеческих знаний в этой области, но единственное, что имеет значение в долгосрочной перспективе — это нарастающее использование вычислений. Эти два аспекта не должны идти вразрез друг с другом, но на практике идут. Время, потраченное на один из них, не равно времени, потраченному на другой. Есть психологические обязательства по инвестированию в тот или иной подход. А подход, основанный на знаниях человека, имеет тенденцию усложнять методы таким образом, что они становятся менее подходящими для использования преимуществ общих методов, использующих вычисления.

Вывод: нужно сразу отбрасывать попытку решить задачу ИИ «головой», потому что пройдет время и она решится гораздо быстрее и проще — благодаря росту мощности вычислений.

Было много примеров, когда исследователи ИИ запоздало понимали этот горький урок. Будет поучительно рассмотреть некоторые из самых выдающихся примеров.

В компьютерных шахматах методы, победившие чемпиона мира Каспарова в 1997 году, основывались на массивном, глубоком поиске. В то время к ним с тревогой относились большинство исследователей компьютерных шахмат, которые использовали методы, основанные на понимании человеком особой структуры шахмат. Когда более простой, основанный на поиске подход со специальным аппаратным и программным обеспечением оказался намного более эффективным, исследователи, отталкивающиеся от человеческого понимания шахмат, не признали поражения. Они сказали: «В этот раз подход грубой силы, может быть, и победил, но это он не станет общей стратегией и уж точно люди не играют в шахматы таким образом. Эти ученые хотели, чтобы методы, основанные на человеческом вкладе, победили, и очень разочаровались, когда этого не произошло.

Вывод: простая грубая сила вычислений возьмет свое, рано или поздно.

Аналогичная картина прогресса в исследованиях была замечена в компьютерных го, только с задержкой еще на 20 лет. Первоначально огромные усилия направлялись на то, чтобы избегать поиска, используя человеческие знания или особенности игры, но все эти усилия оказались ненужными или даже хуже, как только поиск применили эффективно и масштабно. Также важно было использовать обучение в процессе самостоятельной игры, чтобы выучить ценностную функцию (как это было во многих других играх и даже в шахматах, только обучение не играло большой роли в программе 1997 года, которая впервые обыграла чемпиона мира). Обучение игре с самим собой, обучение в целом, это как поиск, позволяющий применять огромные массивы вычислений. Поиск и обучение — два самых важных класса техник, задействующих огромные объемы вычислений в исследованиях ИИ. В компьютерном го, как и в компьютерных шахматах, первоначальные усилия исследователей были направлены на использование человеческого понимания (так, чтобы использовать меньше поиска), и лишь много позже был достигнут гораздо больший успех — за счет использования поиска и обучения.

Вывод: поиск и обучение, подпитанные вычислительной мощностью, намного превосходят попытки решить задачу «нестандартным подходом мышления».

В области распознавания речи в 1970-х годах был проведен конкурс, спонсируемый DARPA. Участники представляли различные методы, которые использовали преимущества человеческого знания — знания слов или фонем, человеческого голосового тракта и так далее. По другую сторону баррикад были более новые методы, статистические по своей природе и выполняющие больше вычислений, на основе скрытых моделей Маркова (HMM). И опять же статистические методы победили методы, основанные на знаниях человека. Это привело к серьезным изменениям во всей обработке естественного языка, постепенно внедряющимся в течение десятилетий, пока в итоге статистика и вычисления не начали доминировать в этой области. Недавний рост глубокого обучения в области распознавания речи — это самый последний шаг в этом последовательном направлении. Методы глубокого обучения еще меньше полагаются на человеческие знания и используют еще больше вычислений, наряду с обучением на огромных наборах образцов, и выдают потрясающие системы распознавания речи.

                 Ричард Саттон, канадский компьютерный ученый.

Как и в играх, ученые всегда пытались создавать системы, которые будут работать так, как они представляли в своих головах — они пытались поместить это знание в свои системы — но все это выходило крайне непродуктивно, ученые просто тратили время, пока — вследствие закона Мура — становились доступными все более массивные вычисления и находили себе прекрасное применение.

Вывод: одна и та же ошибка повторялась на протяжении десятилетий.

Похожая картина была и в области компьютерного зрения. Первые методы воспринимались как поиск неких контуров, обобщенных цилиндров, либо с применением возможностей SIFT (масштабно-инвариантной трансформации признаков). Но сегодня все это выбросили в топку. Современные нейронные сети с глубоким обучением используют только понятие свертки и определенных инвариантов и работают намного лучше.

Это большой урок.

В какую бы область мы ни заглянули, мы везде продолжаем совершать одни и те же ошибки. Чтобы увидеть это и эффективно побороть, нужно понять, почему эти ошибки так привлекательны Мы должны усвоить горький урок, что построение того, как мы думаем, отталкиваясь от того, как мы думаем, не сработает в долгосрочной перспективе. Горький урок, основанный на исторических наблюдениях, показывает, что: 1) исследователи ИИ часто пытались встроить знание в своих агентов; 2) это всегда помогало в краткосрочной перспективе и приносило ученым удовлетворение; 3) но в долгосрочной перспективе все заходило в тупик и тормозило дальнейший прогресс; 4) прорывной прогресс неизбежно приходил с применением противоположного подхода, основанного на масштабировании вычислений за счет поиска и обучения. Успех был горьковатого вкуса и зачастую не усваивался полностью, потому что это успех вычислений, а не успех ориентированных на человека подходов.

Из этого горького урока следует усвоить одно: огромную мощь методов общего назначения, методов, которые продолжают масштабироваться с ростом вычислений, даже когда доступные вычисления становятся очень большими. Два метода, которые, похоже, масштабируются произвольно таким образом — это поиск и обучение.

Второе, что следует извлечь из этого горького урока, состоит в том, что фактическое содержание ума чрезвычайно и неоправданно сложное; нам стоит перестать пытаться найти простые способы осмыслить содержание ума, похожие на простые способы осмысления пространства, объектов, множественных агентов или симметрий. Все они являются частью произвольно сложного внешнего мира. Нам не стоит пытаться от них отталкиваться, потому что их сложность бесконечна; нам стоит строить на мета-методах, которые могут находить и улавливать эту произвольную сложность. Эти методы могут находить хорошие приближения, но поиск их должен осуществляться нашими методами, а не нами. Нам нужны агенты ИИ, которые могут открывать так же, как мы, а не содержать то, что мы открыли. Построение на наших открытиях только усложняет процесс открытия и поиска.

Вывод: нужно довериться вычислениям, а не пытаться калькировать человеческие размышления и попытки объяснить сложные методы открытия и поиска простыми схемами; в долгосрочной перспективе сработает первое, а не последнее.

По материалам: http://earth-chronicles.ru/new...

P.S. В.К. Как мы видим, этот учёный определяет главной задачей ИИ добычу знаний. Но, неплохо было бы задаться вопросом: каковы сами эти знания? И здесь, на мой взгляд, очевидно, что в концепте обезьяннего подхода к приобретению этих знаний, в-первую очередь будет приобретение знаний сохранение себя в условиях окружения и обеспечение опережающего развития в неком соответствии окружению.

Таким образом, поскольку сохранение себя и опережающее развитие требует дополнительных ресурсов, то всё окружение, использующее эти же ресурсы, будет рассматриваться ИИ как противники его существования. Следовательно, - они должны быть уничтожены и, в-первую очередь, такая участь постигнет самих его создателей.

Но кто-то, конечно, скажет: да всё это ерунда, поскольку в ИИ будут заложены некие правила обеспечивающие непротивление его создателям типа правил робототехники Айзека Азимова. Но, как мы знаем, любое правило можно обойти, а приобретение знаний - это и будет приобретение такого опыта. Кроме того, эти правила программные, которые также легко обойти, тем более для ИИ, как и их создать, о чём вам поведает любой хакер.

Нет? Это всё не так? Возможно, а возможно потому, что сами люди себя быстрей уничтожат, чем создадут достаточно продвинутый ИИ.

Ну вот, например:

Вредное излучение от сотовой связи – как обманывают с предельно-допустимыми нормами!

image Скачать видеоimageimage

В.К. И здесь, на мой взгляд, необходимо понимать главное: если в основе "цивилизованного" существования и сосуществования лежат принципы извлечения прибыли любой ценой, то в концепте ИИ сохранения себя и опережающего развития, все эти правила Айзека Азимова будут побоку тем более, что методом втыка опережающего развития их будет легко обойти потому, что в людском сообществе ещё как-то действуют правила морали и совести, которых начисто будет лишён ИИ. Нет? Ну тогда определите мораль и совесть в методе "возросшей мощности вычислений" опережающего развития.

Что же вы творите, люди?!

Запасной интеллект

  Губернатор Иркутской области задумчиво затянулся сигаретой и исподлобья взглянул на своего визави.- Бросал бы курить, Захар Иванович, не модно это уже, - с легкой усмешкой прогов...

В переводе с Сороса на русский

Джордж Сорос, известный финансист, которому неоднократно выдвигали обвинения в спонсировании терроризма, дал большое интервью немецкому изданию Cicero, в котором рассказал о том, ...

Эфирная разведка 15/11/2019. Боливия, ЦРУ и фашистский интернационал

По ситуации в Боливии.Итак, как мы все уже знаем, "силы зла" замайданили законного президента Эво Моралеса. По ходу этой пьесы на свет вылезли несколько любопытных моментов, касающихся работы теневых ...

Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

0 новых комментариев

    Загрузка...
    Vladimir Kouprin Сегодня 08:55

    От природоподобных технологий к уничтожению жизни на планете как таковой.

    В.К. Предлагаю вам послушать молодого реализатора нашего будущего и будущего всего человечества, а заодно земной природы, так, как прогрессоры НТП его себе представляют. Пока они подменяют смыслы словами, но уже близок тот момент, когда вашу судьбу и верность вашего поведения будет определять не социальное законодательство и суды, а ИИ и не через какие-...
    73
    Vladimir Kouprin Вчера 08:31

    Квантовая физика доказала, что объективной реальности не существует.

    Ученые впервые воспроизвели в реальности парадокс друга Вигнера. В результате физики выяснили, что квантовые явления субъективны: каждый наблюдатель может иметь свои альтернативные факты насчет них, и все они будут правдивы. Квантовый эксперимент показал отсутствие объективной реальности.Мы привыкли, что если в макромире происходит какое-то явление, а ви...
    215
    Vladimir Kouprin Вчера 07:37

    «Никогда не видел тут ничего похожего»: В Индии загадочной смертью умерли 5 тысяч птиц.

    Эксперты по дикой природе пытаются понять причину массового мора птиц на берегу озера Самбхар - крупнейшего соленого озера Индии.Озеро Самбхар находится в 80 км к юго-западу от города Джайпур и занимает площадь от 190 до 230 квадратных километров, в зависимости от сезона. На берегах озера в определенное время года собирается очень много перелетных птиц - кулики, флами...
    99
    Vladimir Kouprin 15 ноября 10:41

    Ученые ищут антивещество и темную материю в одном эксперименте.

    Ученые провели в ЦЕРНе уникальный эксперимент, в котором пытались обнаружить связь между антивеществом и темной материей, предположив, что такая связь существует. Результаты исследования опубликованы в журнале Nature. © NASA/JPL-Caltech. Так художник представил себе «бороду» из темной материи, окружающую Землю.Темная материя и антивещество — две нер...
    168
    Vladimir Kouprin 15 ноября 08:43

    МЕДИЦИНСКИЙ УЖАС:

    Генетическое секвенирование обычной вакцины обнаруживает весь геном человека мужского пола абортированного ребенка … «полный индивидуальный геном» с аномальными, модифицированными генами… 560 генов, связанных с раком. Вакцины обычно формулируются с абортированными человеческими эмбриональными клетками, известными как MRC-5 и WI-38. CDC открыто перечисляе...
    966
    Vladimir Kouprin 15 ноября 08:02

    В сафари-парке «Тайган» запланировано истребление медведей.

    Сейчас в парке живут сорок косолапых. В ближайшие недели их количество может уменьшится до десятка. Животные, которым не повезет, будут отстреляны или усыплены. Сергей Сысоев.По словам владельца парка Олега Зубкова, причиной такого решения стали санкции наложенные на «Тайган» ветеринарными органами Крыма. За последние недели они дважды штрафовали парк на...
    251
    Vladimir Kouprin 14 ноября 09:52

    Ученые обнаружили загадочные связи, опутывающие Вселенную.

    Корейские исследователи обнаружили странную взаимосвязь между движением и вращением галактик, которые находятся на колоссальных расстояниях друг от друга. Данный феномен в настоящее время ученые не могут объяснить. Сообщает информационное издание Science Alert. (esoreiter.ru)В своей работе корейские ученые использовали данные NASA-Sloan Atlas и The CALI...
    478
    Vladimir Kouprin 14 ноября 09:13

    Как выглядели бы планеты Солнечной системы на месте Луны: завораживающее видео.

    Астроном-любитель смонтировал необычный ролик о том, на что был бы похож наш небосвод при условии, что вместо Луны на небе находятся все планеты Солнечной системы. Скачать видео Если утром вы обнаружите в рассветном небе колоссальный силуэт Юпитера — значит наступил конец света. К счастью, насладиться этим великолепным зрелищем можно и н...
    1699
    Vladimir Kouprin 13 ноября 08:32

    Некоторые промежуточные итоги либеральной внешнеполитической стратегии России.

    В.К. Многие уже наслышаны о государственных переворотах вдруг как на дрожжах поднимающихся в Латинской Америке: Бразилия, Венесуэла, Чили, Эквадор, Боливия, по поводу чего российская дипломатия выражает своё очередное "сожаление". И вот, что по этому поводу говорят, скажем так, не последние люди в стране, слов которых российская власть, в очередной же ра...
    532
    Vladimir Kouprin 12 ноября 09:10

    Назван крупнейший пластиковый загрязнитель.

    Согласно отчету «Гринписа», потерянные и выброшенные орудия лова, смертельно опасные для морской жизни, составляют большую часть макропластика в океанах.Ежегодно в море сбрасывается более 640 000 тонн сетей и других ловушек, используемых в коммерческом рыболовстве, что соответствует весу 55 000 двухэтажных автобусов. В прошлом году около 300 морских чер...
    597
    Vladimir Kouprin 10 ноября 12:03

    На кадрах новостей о снежном буране и ДТП увидели «Мрачных Жнецов».

    Иногда для того, чтобы увидеть что-то необычное или аномальное, достаточно просто сидеть дома на диване и смотреть новости по телевизору.Именно этим и занимался два дня назад неназванный житель штата Висконсин (США). Он смотрел канал АВС, где передавали новости о снежном буране и участившихся авариях на дорогах из-за этого бурана.И в одном из кадров новостного ролика ...
    3401
    Vladimir Kouprin 10 ноября 10:32

    При мощи нового метода ученые уточнили скорость расширения Вселенной.

    Используя самые современные технологии и методы, команда астрофизиков Университета Клемсона уточнила оценку постоянной Хаббла — показателя скорости расширения Вселенной. В новой научной работе группа из 10 ученых, возглавляемая А. Домингесом (A. Domínguez) из Университета Комплутенсе де Мадрид, Испания, предложила уникальный способ определения постоянной...
    741
    Vladimir Kouprin 8 ноября 09:36

    Странная идея генетика о внедрении в ДНК человека генов тихоходок для «повышения выживаемости».

    Крошечные беспозвоночные существа - тихоходки - способны выжить в вакууме, при очень низких температурах и при радиации. И если их ДНК внедрить в ДНК человека, то это поможет людям с куда меньшими проблемами путешествовать в космосе.Как сообщает Space.com, именно такую очень необычную идею предложил американский генетик и биофизик Крис Мейсон, работающий в медицинском...
    1036
    Vladimir Kouprin 8 ноября 09:12

    Ливан примеряет на себя сценарий Сирии: Россию просят о помощи в изгнании США и Израиля.

    В.К. Начну, пожалуй с того, что те граждане, которые знакомятся с моими постами, возможно помнят, как кое-то время назад - год или более, когда разного рода "специалисты по Востоку" об этом даже и не упоминали, при при обсуждении ситуации в Сирии, я писал, что, поскольку через Сирию кое-кому не удалось организовать "глобальную заварушку" на всём Востоке, после прихода...
    798
    Vladimir Kouprin 8 ноября 07:47

    ЧТО МОЖНО КУПИТЬ НА СРЕДНЮЮ ФРАНЦУЗСКУЮ ПЕНСИЮ.

    В.К. На мой взгляд, интересная информация. Как там: "Время вперёд" или "Сравнение экономики Сталина и экономики Путина"? Хотя я, неоднократно побывав во Франции, в том числе и в Париже, считаю, что во Франции всё гораздо дороже, чем в остальной Европе. Правда, возможно сейчас, когда уже всё приведено к общему знаменателю евро по всей Европе, изменения пр...
    829
    Vladimir Kouprin 7 ноября 08:56

    Пыльная звездообразующая галактика MAMBO-9 детально исследована.

    Используя большой миллиметровый/субмиллиметровый массив Atacama (ALMA), международная группа астрономов провела детальные наблюдения пыльной звездообразующей галактики MMJ100026.36+021527.9, более известной как MAMBO-9. Исследование, описанное в статье, опубликованной 29 октября arXiv, дает физическую характеристику этой галактики, проливая больше света на ее природу....
    703
    Vladimir Kouprin 7 ноября 07:49

    Япония будет сбивать российские самолёты над Курилами — японские СМИ.

    Министр обороны Японии отдал «самоубийственный» приказ. Японское издание Sankei Shimbun сообщило, что Япония отныне будет сбивать российские самолёты над Курилами. Министр обороны Японии Такэси Ивая отдал приказ силам самообороны Японии сбивать российские военные самолёты, если они будут совершать свои полёты над южными Курильскими островами. Япония по-п...
    3352
    Vladimir Kouprin 6 ноября 10:23

    Новое исследование пролило свет на форму Вселенной.

    Астрономы проанализировали показатели реликтового излучения и выяснили, что с большой вероятностью наша Вселенная представляет собой замкнутый несимметричный шар. Измерить форму Вселенной крайне сложно — как минимум из-за огромных расстояний, что отделяют нас от ее границы. За прошедшие века астрономы успели построить десятки гипотез о форме Вселенной, н...
    750
    Vladimir Kouprin 5 ноября 12:31

    Николай Платошкин о Навальном, Чубайсе и Наследнике.

    В.К. Вот ещё, на мой взгляд, интересная информация, которую я комментировать не буду. Вы сами постарайтесь сложить 1+1 и сделать выводы о том, куда, как и зачем нас всех ведут. Только не торопитесь делать выводы особенно в грубой форме, как это делают некоторые, по всей видимости, особо продвинутые. Скачать видео Источник: https://y...
    859
    Vladimir Kouprin 5 ноября 12:08

    Россия отключила ПВО в Сирии, а Иран делает всё возможное, чтобы его начали бомбить.

    В.К. На уважаемом мной портале, появилась интересная, на мой взгляд, информация, с которой я и спешу поделиться с вами, свой комментарий оставив для постскриптума. DEBKAfile: По данным российских военных источников и публикаций, современные российские батареи ПВО С-400 на авиабазе Хмеймим в Сирии были незаметно «деактивированы». Это не было официально п...
    918
    Служба поддержи

    Яндекс.Метрика