• РЕГИСТРАЦИЯ

DeepMind и Google: битва за контроль над искусственным интеллектом

Славик Яблочный
Вы у меня в гостях, ведите себя прилично
23 марта 00:14 4 1060

Hi-News

Однажды вечером в августе 2010 года в конференц-зале на берегу залива Сан-Франциско на сцену вышел 34-летний лондонец по имени Демис Хассабис. Поднявшись на подиум наигранной походкой человека, пытающегося контролировать свои нервы, он сжал свои губы в непродолжительной улыбке и заговорил: «Что ж, сегодня я хочу поговорить о различных подходах к созданию…». Он остановился, словно осознавая, насколько громко заявляет о своих амбициях. И произнес это: «AGI».

ОИИ (AGI) означает общий искусственный интеллект, гипотетическую компьютерную программу, которая может выполнять интеллектуальные задачи так же хорошо, как и человек, или даже лучше. 

ОИИ сможет выполнять отдельные задачи — вроде распознавания людей на фото или перевода языков, которые в настоящее время способны выполнять множества отдельных искусственных интеллектов в наших телефонах и компьютеров. Они смогут одновременно поддерживать беседу, играть в шахматы и говорить по-французски. Они смогут разбираться в трудах по физике, писать романы, разрабатывать инвестиционные стратегии и поддерживать непринужденную беседу с незнакомцами. Они будут следить за ядерными реакциями, управлять сетями энергоснабжения и транспортным потоком, и без особых усилий добиваться успеха во всем остальном. ОИИ сделает самые современные ИИ сегодня похожими на карманные калькуляторы.

Единственный интеллект, способный в настоящее время выполнять все эти задачи, принадлежит человеку. Но человеческий разум ограничен размером черепа, в котором находится мозг. Его мощность ограничена ничтожным количеством энергии, которую может обеспечить организм. Поскольку ОИИ будет работать на компьютерах, он не будет страдать от подобных ограничений. Его интеллект будет ограничен только количеством доступных процессоров. ОИИ может начать с мониторинга ядерных реакций. Но достаточно скоро он обнаружит новые источники энергии, переваривая больше работы по физике в секунду, чем способен человек за тысячу лет. Интеллект человеческого уровня, заручившийся скоростью и масштабируемостью компьютеров, избавит нас от проблем. Хассабис заявил английской газете Observer, что ожидает от ОИИ решения, среди прочих дисциплин, таких проблем, как «рак, изменение климата, энергия, геномика, макроэкономика и финансовые системы».

Конференция, на которой выступал Хассабис, называлась Singularity Summit. Сингулярность — первая часть названия — относится к наиболее вероятному последствию появления ОИИ, по мнению футурологов. Поскольку ОИИ будет обрабатывать информацию с высокой скоростью, он очень быстро станет очень умным. 

Быстрые циклы самосовершенствования приведут к взрыву машинного интеллекта, в результате чего люди останутся нюхать кремниевую пыль. Поскольку это будущее основано исключительно на непроверенных предположениях, почти религиозно предполагают, что сингулярность окажется либо утопией, либо адом.

Судя по названиям выступлений, участники конференции больше верили в первый исход: «Разум и как его построить», «ИИ против старения», «Заменяя наши тела», «Модифицируя границу между жизнью и смертью». Речь Хассабиса, напротив, казалась скучноватой: «Системный нейронаучный подход к созданию ОИИ».

Хассабис шагал между подиумом и экраном, говоря скороговоркой. Он был одет в бордовый джемпер и белую рубашку на пуговицах, как школьник. Его небольшой рост, казалось, только подчеркивал его интеллект. До сих пор, объяснял Хассабис, ученые подходили к ОИИ с двух сторон. Один из подходов, известный как символьный ИИ, пытался описать и запрограммировать все правила, необходимые для системы, которая могла бы мыслить подобно человеку. Этот подход был популярен в 1980-х и 1990-х годах, но не дал желаемых результатов. Хассабис считал, что ментальная архитектура мозга слишком тонка, чтобы описывать ее таким образом.

Другой подход собрал ученых, пытающихся воспроизвести физические сети мозга в цифровой форме. Это имело определенный смысл. В конце концов, мозг это ложе человеческого интеллекта. Но эти исследователи также двигались неверным путем, рассказал Хассабис. Их задача была сродни созданию карты всех звезд во Вселенной. Если глубже, они сосредоточились не на том уровне функционирования мозга. Это было все равно что пытаться понять, как работает Microsoft Excel, взламывая компьютер и изучая взаимодействие транзисторов.

Вместо этого Хассабис предложил золотую середину: 

ОИИ должен черпать вдохновение из широких методов, с помощью которых мозг обрабатывает информацию, а не из физических систем или конкретных правил, которые он применяет в конкретных ситуациях. Другими словами, он должен сосредоточиться на понимании программного обеспечения мозга, а не его аппаратного обеспечения. Новые методы, такие как функциональная магнитно-резонансная томография (фМРТ), которые позволили заглянуть внутрь мозга во время его работы, намекнули, что такое понимание возможно. Последние исследования, сказал Хассабис, показывают, что мозг обучается, воспроизводя пережитое во время сна, чтобы выявить общие принципы. Исследователи ИИ должны подражать такой системе.

В правом нижнем углу открывающего слайда красуется логотип в виде круглого синего вихря. Два слова, стоящие рядом, напечатаны снизу: DeepMind. Это был первый раз, когда компания упоминалась публично. Хассабис битый год пытался получить приглашение на Singularity Summit. Лекция была его прикрытием. На самом же деле ему нужна была одна минута с Питером Тилем, миллиардером из Кремниевой долины, который финансировал конференцию. Хассабис хотел инвестиций Тиля.

Хассабис никогда не говорил о том, почему ему нужна была поддержка именно Тиля. Но Тиль верил в ОИИ еще больше, чем Хассабис. Выступая на Singularity Summit в 2009 году Тиль сказал, что его самым большим страхом перед будущим было не восстание роботов. Он больше беспокоился о том, что сингулярность наступит нескоро. Мир нуждался в новых технологиях, чтобы предотвратить экономический спад.

DeepMind в итоге собрал 2 миллиона фунтов стерлингов, из которых 1,4 миллиона были Тиля. Когда Google купила компанию в январе 2014 года за 600 миллионов долларов, Тиль и другие первые инвесторы получили прибыль в размере 5000% от своих инвестиций.

Для многих основателей это был бы счастливый конец. Можно было бы отдохнуть, сделать шаг назад, провести время наедине с деньгами. Для Хассабиса же приобретение Google было лишь очередным шагом в его стремлении к ОИИ. Он провел большую часть 2013 года, договариваясь об условиях сделки. DeepMind должна была работать отдельно от своего владельца. Она должна была получить плюсы от владения Google, такие как доступ к денежным потокам и вычислительной мощности, не потеряв контроль.

Хассабис думал, что DeepMind сможет стать гибридом: у него будет двигатель стартапа, мозги величайших университетов и глубокие карманы одной из самых дорогостоящих компаний мира. Каждый ингредиент был на месте, чтобы ускорить прибытие ОИИ и устранить причины человеческих страданий.

Ху из мистер Хассабис

Демис Хассабис родился на севере Лондона в 1976 году в семье грека-киприота и китаянки с сингапурской кровью. Он был старшим из трех братьев и сестер. Мать работала в британском универмаге John Lewis, а отец управлял магазином игрушек. Сам Хассабис занялся шахматами в возрасте четырех лет, наблюдая за игрой отца и дяди. Через несколько недель он уже обыгрывал взрослых. К 13 годам он стал вторым в мире лучшим шахматистом в своем возрасте. В восемь лет научился программировать на простеньком компьютере.

Высшее образование Хассабис получил в 1992 году, на два года раньше запланированного срока. Получил работу программиста видеоигр в Bullfrog Productions. Хассабис написал Theme Park, в котором игроки создавали и управляли виртуальным парком развлечений. Игра имела большой успех и была продана тиражом 15 миллионов копий, создав целый жанр игр-симуляторов, цель в которых была не одолеть противника, а оптимизировать функционирование огромной сложной системы, такой как бизнес или город.

Помимо создания игр, Демис прекрасно в них играл. Будучи подростком, он бегал между этажами на соревнования по настольным играм, одновременно соревнуясь в поединках в шахматы, скрэббл, покер и нарды. В 1995 году, изучая информатику в Кембриджском университете, Хассабис поучаствовал в студенческом турнире по го. Го — древняя настольная стратегическая игра, которая значительно сложнее шахмат. Мастерство должно требовать интуиции, приобретенной многолетним опытом. Никто не знал, играл ли Хассабис вообще в го прежде.

Сперва Хассабис выиграл турнир для начинающих. Затем он одолел победителя опытных игроков, хотя и с гандикапом. Чарльз Мэтьюз, мастер кембриджского го, проводивший турнир, вспоминает шок от того, как опытного игрока уничтожил 19-летний новичок. Мэтьюз взял Хассабиса под свое крыло.

Интеллект и амбиции Хассабиса всегда проявлялись в играх. Игры, в свою очередь, разожгли его увлеченность интеллектом. Наблюдая за своим развитием в шахматах, он задавался вопросом, можно ли запрограммировать компьютеры учиться так же, как это делал он, накапливая опыт. Игры предлагали среду обучения, которой не соответствовал реальный мир. Они были строгими и закрытыми. Поскольку игры отделены от реального мира, их можно практиковать без помех и эффективно осваивать. Игры ускоряют время: игроки создают преступный синдикат за несколько дней и сражаются на Сомме несколько минут.

Летом 1997 года Хассабис отправился в Японию. В мае того года компьютер Deep Blue, принадлежащий IBM, одолел Гарри Каспарова, чемпиона мира по шахматам. Впервые компьютер победил гроссмейстера. Матч привлек внимание всего мира и вызвал обеспокоенность по поводу растущей мощности и потенциальной угрозы компьютеров. Когда Хассабис встретился с Масахико Фуцзувэра, японским мастером настольных игр, он рассказал о планах, в которых сочетались его интересы к стратегическим играм и искусственному интеллекту: однажды он разработает компьютерную программу, чтобы победить величайшего игрока в го.

Хассабис подходил к своей карьере методично. «В возрасте 20 лет Хассабис считал, что определенные вещи должны уже быть на своих местах, прежде чем искусственный интеллект сможет перейти на необходимый ему уровень», говорит Мэтьюз. «У него был план».

В 1998 году он основал собственную игровую студию под названием Elixir. Хассабис сосредоточился на одной чрезвычайно амбициозной игре Republic: The Revolution, сложной политической симуляции. За несколько до этого, еще учась в школе, Хассабис сказал своему другу Мустафе Сулейману, что миру нужны грандиозные симуляции, чтобы смоделировать его сложную динамику и решить самые сложные социальные проблемы. Теперь он попытался сделать это в игре.

Облечь его стремления в код было сложнее, чем ожидалось. Elixir в итоге выпустила урезанную версию игры, чтобы получить теплые отзывы. Другие игры провалились. В апреле 2005 года Хассабис закрыл Elixir. Мэтьюз считает, что Хассабис основал компанию просто для того, чтобы получить управленческий опыт. Теперь Хассабису не хватало только одной важной области знаний, прежде чем он мог начать свой квест в поиске ОИИ. Он должен был понять человеческий мозг.

В 2005 году Хассабис получил докторскую степень по нейронауке в Университетском колледже Лондона. Он опубликовал весьма влиятельное исследование памяти и воображения. Одна из работ, которая с тех пор цитировалась более 1000 раз, показала, что людям с амнезией также трудно представить новый опыт, что предполагает наличие связи между запоминанием и созданием мысленных образов. Хассабис выстраивал понимание мозга, необходимое для овладение ОИИ. Большая часть его работ сводилась к одному вопросу: как человеческий мозг получает и сохраняет концепции и знания?

Хассабис официально учредил DeepMind 15 ноября 2010 года. Миссия компании была заявлена такой же, как и сейчас: «решить интеллект», а затем использовать это для решения всего остального. Как сказал Хассабис участникам Singularity Summit, это означает перевод нашего понимания того, как мозг выполняет задачи, в программное обеспечение, которое сможет использовать те же методы для обучения.

Хассабис ни в коем случае не утверждает, что наука полностью постигла человеческий разум. План по реализации ОИИ было невозможно извлечь из сотен исследований в области нейробиологии. Но он явно верит, что начать работу над ОИИ в той манере, которая ему импонирует, вполне возможно. Однако также возможно и то, что его уверенность превосходит реальность. Мы пока очень мало знаем наверняка о том, как на самом деле функционирует мозг. В 2018 году команда австралийских исследователей поставила под сомнение выводы самого доктора наук Хассабиса. Конечно, это всего лишь один документ, но он показывает, что наука, лежащая в основе работы DeepMind, далеко не доказанная.

Сулейман и Шейн Легг, одержимый ОИИ новозеландец, которого Хассабис также встретил в университете, присоединились как соучредители. Репутация компании быстро росла. Хассабис расцветал. «Он притягивает, как магнит», говорит Бен Фолкнер, бывший руководитель Deep Mind. Многие новобранцы прибыли из Европы. Возможно, величайшим достижением DeepMind было ранний активный наем талантливых людей и удержание самых ярких и лучших из них.

Одна из техник машинного обучения, на которой сосредоточилась компания, выросла из двойного увлечения Хассабиса играми и нейронаукой: обучение с подкреплением. Такая программа построена так, чтобы собирать информацию об окружающей среде, а затем извлекать уроки из нее, многократно воспроизводя свой опыт — точно так же, как Хассабис описывал активность мозга во время сна в своей лекции на Singularity Summit.

Обучение с подкреплением начинается с чистого листа. Программе показывается виртуальная среда, о которой она ничего не знает, кроме правил, вроде игрового симулятора шахмат или видеоигры. Программа содержит по крайней мере один компонент, известный как нейронная сеть. Она состоит из слоев вычислительных структур, которые просеивают информацию, чтобы идентифицировать определенные особенности или стратегии. Каждый слой исследует среду на своем уровне абстракции. Сперва эти сети имеют минимальный успех, но их ошибки — и это важно — также в них кодируются. Постепенно они становятся все умнее и умнее, экспериментируя с различными стратегиями и получая награду в случае успеха. Если программа перемещает шахматную фигуру и в результате проигрывает игру, больше такой ошибки она не допустит. Большая часть магии искусственного интеллекта заключается в скорости, с которой он повторяет эти задачи.

Работа DeepMind достигла своего апогея в 2016 году, когда команда разработала программу искусственного интеллекта, в которой использовалось обучение с подкреплением наряду с другими методами игры в го. Программа под названием AlphaGo вызвала удивление после того, как обыграла чемпиона мира в матче с пятью играми в Сеуле в 2016 году. Победа машины, которую наблюдали 280 миллионов человек, случилась на десять лет раньше, чем предсказывали машины. В следующем году улучшенная версия AlphaGo победила чемпиона Китая по го.

Как и Deep Blue в 1997 году, AlphaGo изменил восприятие человеческих достижений. Чемпионы среди людей, блестящие умы планеты, больше не стояли на вершине интеллектуальной пирамиды. Спустя почти 20 лет после того, как Хассабис заявил о своих амбициях Фудзувере, он их исполнил. Хассабис сказал, что этот матч довел его до слез. Он остался благодарен Мэтьюзу.

DeepBlue победил благодаря грубой силе и скорости вычислений, но стиль AlphaGo казался художественным, почти человеческим. Его изящество и изощренность, превосходство вычислительной силы, казалось, показывали, что DeepMind опередил конкурентов в создании программы, которая сможет исцелять болезни и управлять городами.

DeepMind и искусственный интеллект

Хассабис всегда говорил, что DeepMind изменит мир к лучшему. Но в ОИИ нет никакой уверенности. Если он когда-нибудь появится, мы не знаем, будет это к лучшему или худшему, будет ли он подчиняться человеческому контролю. Если и будет, кто будет держать бразды?

С самого начала Хассабис пытался защитить независимость DeepMind. Он всегда настаивал на том, чтобы DeepMind осталась в Лондоне. Когда Google купил компанию в 2014 году, вопрос о контроле стал более актуальным. Хассабису не нужно было продавать DeepMind Google. Наличности хватало, и он набросал бизнес-модель, в рамках которой компания будет разрабатывать игры для финансирования исследований. Денег в Google обещали много, но он не хотел передавать компанию, которую он вырастил. В рамках сделки DeepMind создала соглашение, которое не позволило бы Google в одностороннем порядке взять под контроль интеллектуальную собственность компании. В год, предшествующий приобретению, по словам источникам, обе стороны подписали договор — Соглашение о соблюдении этики и безопасности. Это соглашение было составлено старшими адвокатами в Лондоне.

Соглашение передает контроль над основной технологий ОИИ DeepMind, если она будет создана, в руки управляющего Совета по этике. По словам того же источника, Совет по этике отнюдь не является косметической уступкой со стороны Google, а обеспечивает надежную юридическую поддержку DeepMind для сохранения контроль над его самой ценной и потенциально самой опасной технологией. Имена членов комиссии не были обнародованы, но другой источник, близкий и к DeepMind, и к Google, сообщил, что все трое основателей DeepMind входят в Совет. Сама компания ничего не раскрывает.

Хассабис может определить судьбу DeepMind и другими методами. Один из них — преданность. Сотрудники, как бывшие, так и нынешние, говорят, что исследовательская программа Хассабиса является одной из самых сильных сторон DeepMind. Его программа, которая предлагает увлекательную и важную работу без давления со стороны научных кругов, привлекла сотни самых талантливых экспертов мира. У DeepMind есть дочерние офисы в Париже и Альберте. Многие сотрудники чувствуют большую связь с Хассабисом и его миссией, чем с его корпоративным родителем, которому нужны только доходы. Пока Хассабис сохраняет личную преданность, он обладает значительной властью над своим единственным акционером. Лучше пусть таланты работают на DeepMind удаленно, чем окажутся в Facebook или Apple.

У DeepMind есть еще один источник рычагов, хотя он требует постоянного пополнения: благоприятный ореол. Компания в этом преуспела. AlphaGo был отличной рекламой. После приобретения Google, компания неоднократно производила чудеса, которые привлекали внимание всего мира. Один из примеров программного обеспечения может обнаружить паттерны при сканировании глаза, которые являются индикаторами дегенерации желтого пятна. Другая программа научилась играть в шахматы с нуля, используя архитектуру, сходную с AlphaGo, и стала величайшим игроком всех времен всего через девять часов игры с самой собой. В декабре 2018 года программа AlphaFold оказалась более точной, чем конкуренты, в прогнозировании трехмерной структуры белков из списка составляющих, потенциально способных лечить такие болезни, как Паркинсона и Альцгеймера.

DeepMind особенно гордится разработанными алгоритмами, которые рассчитывают наиболее эффективные средства охлаждения центров обработки данных Google, которые содержат примерно 2,5 миллиона компьютерных серверов. В 2016 году DeepMind заявила, что сократила расходы Google на электроэнергию на 40%. Но некоторые инсайдеры говорят, что это хвастовство преувеличено. Google использовала алгоритмы для оптимизации своих дата-центров задолго до появления DeepMind. Есть мнение, что DeepMind завышает свои заслуги, чтобы приобрести ценность в глазах Alphabet. Родительская компания Google Alphabet платит DeepMind за подобные услуги. В 2017 году последняя выставила Alphabet счет на 54 миллиона фунтов стерлингов. Эти цифры меркнут по сравнению с накладными расходами DeepMind. В том же году она потратила 200 миллионов фунтов на персонал. В целом, в 2017 году DeepMind потеряла 282 миллионов фунтов.

Это копейки для богатого гиганта. Но другие дочерние компании Alphabet привлекли внимание Рут Порат, скупого финансового директора Alphabet. Google Fiber, попытка построить провайдера интернет-услуг, была поставлена на паузу после того, как стало ясно, что инвестиции будут окупаться десятилетиями. Исследователи ИИ также задаются вопросом, «запоратят» ли DeepMind.

Постепенное раскрытие достижений DeepMind в области ИИ является частью стратегии, постепенно выстраивающей репутацию компании. Это особенно ценно в то время, когда Google обвиняют в нарушении конфиденциальности пользователей и распространении фейковых новостей. DeepMind также повезло заполучить сторонника на самом высоком уровне: Ларри Пейдж, один из двух основателей Google, ныне исполнительный директор Alphabet. Пейдж очень близок к Хассабису. Отец Пейджа — Карл — изучал нейросети в 1960-х годах. В начале своей карьеры Пейдж сказал, что создал Google исключительно для того, чтобы основать компанию ИИ.

Тщательный контроль DeepMind над прессой не соответствует академическому духу, который пронизывает компанию. Некоторые ученые жалуются, что им трудно опубликовать свою работу: им приходится преодолевать слои внутреннего одобрения, прежде чем они смогут даже подать работу на конференцию или в журнал. DeepMind считает, что необходимо действовать осторожно, чтобы не напугать публику перспективой ОИИ. Но слишком жесткие обвинения могут испортить академическую атмосферу и ослабить лояльность сотрудников.

Спустя пять лет после приобретения Google вопрос о том, кто контролирует DeepMind, становится критическим. Основатели и первые сотрудники компании приближаются к тому порогу, когда они могут уйти с финансовой компенсацией, которую они получили от покупки компании (акции Хассабиса, вероятно, стоят порядка 100 миллионов фунтов). Но источник, близкий к компании, предполагает, что Alphabet отодвинула выплаты учредителям на несколько лет. Учитывая свой неустанный фокус, Хассабис вряд ли спрыгнет с корабля. Он интересуется деньгами лишь постольку, поскольку они помогают ему в приближении цели всей своей жизни. Но некоторые коллеги ушли. Три инженера ИИ покинули компанию с начала 2019 года. Бен Лори, один из самых выдающихся инженеров безопасности в мире, вернулся в Google. Это, конечно, не так много, но DeepMind предлагает такую удивительную миссию и достойную оплату, что уходить никто и не должен.

Пока что Google не сильно мешал DeepMind. Но одно недавнее событие вызвало обеспокоенность по поводу того, как долго компания сможет поддерживать свою независимость.

DeepMind, медицина и искусственный интеллект

DeepMind всегда планировала использовать ИИ для улучшения здравоохранения. В феврале 2016 года было создано новое подразделение DeepMind Health во главе с Мустафой Сулейманом, одним из соучредителей компании. Сулейман, чья мать работала медсестрой, надеялся создать программу под названием Streams, которая предупреждала бы врачей об ухудшении здоровья пациента. DeepMind получала бы вознаграждение в зависимости от показателей. Поскольку эта работа требовала доступа к конфиденциальной информации о пациентах, Сулейман создал Независимую экспертную комиссию (IRP), в которую попали хорошие английские специалисты в области здравоохранения и технологий. DeepMind была достаточно мудрой, чтобы осторожничать. Впоследствии британский информационный комиссар обнаружил, что один из партнеров среди больниц нарушил закон при обработке данных пациентов. Тем не менее, к концу 2017 года Сулейман подписал соглашения с четырьмя крупными больницами.

8 ноября 2018 года Google сообщила о создании собственного подразделения здравоохранения — Google Health. Спустя пять дней объявили, что DeepMind Health должна присоединиться к усилиям материнской компании. DeepMind никто не предупреждал. Согласно информации, полученной из запросов о свободе информации, она уведомила об изменении больницы-партнеры только за три дня. DeepMind отказалась сообщать, когда начались дискуссии о слиянии, однако сказала, что короткий промежуток между уведомлением и публичным объявлением отвечает интересам прозрачности. В 2016 году Сулейман написал, что «данные пациента никогда не будут связаны с учетными записями, продуктами или услугами Google». Его обещание, казалось, было нарушено.

Аннексия Google разозлила сотрудников DeepMind Health. По словам людей, близких к команде здравоохранения, все больше сотрудников планируют покинуть компанию после завершения процесса поглощения.

Этот эпизод показывает, что периферийные части работы DeepMind уязвимы для Google. DeepMind заявила, что «мы все согласились с тем, что имеет смысл объединить эти усилия в одном совместном усилии с увеличенными ресурсами». Это вызывает вопрос о том, будет ли Google применять ту же логику к работе DeepMind над ОИИ.

Если смотреть масштабно, DeepMind добилась больших успехов. Она уже создала программное обеспечение, которое может учиться выполнять задачи на сверхчеловеческом уровне. Хассабис часто ссылается на Breakout, видеоигру для консоли Atari. Игрок контролирует летучую мышь, которая может двигаться горизонтально и с ее помощью отбивает мячи, направляя их в блоки выше, которые уничтожаются при столкновении. Игрок побеждает, когда все блоки уничтожены. Проигрывает, если мячик падает мимо платформы. Без человеческих инструкций программа DeepMind не только научилась играть в эту игру, но и забрасывать мячи в пространство за блоками, чтобы использовать преимущество отскоков. Это демонстрирует силу обучения с подкреплением и сверхъестественные способности компьютерных программ DeepMind.

Демонстрация, конечно, впечатляет. Но Хассабис кое-что умалчивает. Если виртуальную платформу поднять хоть ненамного выше, программа допустит ошибку. Навык, которым обзавелась программа DeepMind, настолько ограничен, что она не может реагировать даже на крошечные изменения в окружающей среде, которые человек мог бы с легкостью одолеть. Но в мире есть много тонкостей. Для диагностического интеллекта не существует двух одинаковых органов тела. Для механического интеллекта два похожих двигателя никогда не будут одинаковыми в настройке. Поэтому выпуск программ в дикую природу сопряжен с трудностями.

Второе, о чем редко говорит DeepMind, заключается в том, что успех в виртуальных средах зависит от наличия функции вознаграждения: сигнала, который позволяет программному обеспечению измерять свой прогресс. Программа узнает, что рикошетирование от задней стены увеличивает ее счет. Большая часть работы DeepMind с AlphaGo заключалась в создании функции вознаграждения, совместимой с такой сложной игрой. К сожалению, реальный мир не предлагает простых наград. Прогресс редко измеряется отдельными баллами. Мозг человека получает сигнал об успехе задачи прямо в процессе ее выполнения, а не после.

DeepMind нашла способ обойти это, используя огромное количество вычислительной мощности. AlphaGo играет в игры тысячи лет человеческого времени, чтобы чему-либо научиться. Многие философы ИИ подозревают, что это решение неприемлемо для задач, которые предлагают более слабое вознаграждение. DeepMind признает существование таких неясностей. Недавно она занялась StarCraft 2, компьютерной стратегией. Решения, принятые в начале игры, имеют последствия, которые проявляются позже, что вполне свойственно извилистой и запоздалой обратной связи реальных задач. В январе программное обеспечение DeepMind обыграло несколько лучших игроков мира, и это было весьма впечатляюще, несмотря на жесткие ограничения. Программы также начали изучать функции вознаграждения, следуя отзывам людей. Но включение человеческих инструкций в цикл создает риск потери масштаба и скорости.

Как нынешние, так и бывшие исследователи из DeepMind и Google на условиях анонимности выразили скепсис в том, что DeepMind сможет добиться ОИИ с помощью таких методов. Для них стремление достичь высокой производительности в смоделированных средах затрудняет решение проблемы функции вознаграждения. И все же именно этот подход лежит в основе DeepMind. В компании есть внутренняя конкуренция, когда программы конкурирующих команд борются за превосходство.

Хассабис всегда видел жизнь как игру. Большая часть его карьеры была посвящена их созданию, большая часть его свободного времени была потрачена на процесс игры в них. В DeepMind он использует их для разработки сильного искусственного интеллекта. Как и его программное обеспечение, Хассабис обучается на собственном опыте. 

Погоня за ОИИ может в конечном итоге привести в тупик, попутно изобретая полезные медицинские технологии и одолевая лучших в своем мастерстве игроков. Но он также может создать ОИИ прямо под носом у Google, но вне его контроля. И если ему это удастся сделать, Демис Хассабис выиграет в самой сложной игре из всех.

****

PS

Ясное дело что все удачи и не очень не попадают в прессу, то что делают сегодня в недрах лабораторий, человечество, общество не узнает. А судя по всем новостям что мне попадется, я бы уже начинал бить тревогу прямо сейчас.

В финале слепят какое то подобие "Франкенштейна" а оно себе подумает, а зачем мне вот эти "кожаные ублюдки"...

Далее не будут продолжать, страшно!

Вы у меня в гостях, ведите себя прилично

Мы перешли в осторожную контратаку

Вчера у Веселовского не успел назвать все направления (условные ТВД), на которых сейчас Россия и Китай противостоят Соединённым Штатам Америки. На вопрос «Мы обороняемся или атакуем?» о...

Есть ли дно у днища? Палач одесситов в эфире "Эха Москвы"

«Эху Москвы» и Алексею Венедиктову посвящается  Наверное, это будет первый в моей практике дичайшего уровня нетолерантности пост. Просто потому, что «Эхо Москвы» пригласило в свой э...

О паспортах и пенсиях для республик Донбасса

 Не успел Путин подписать указ об упрощении получения гражданства Российской Федерации для жителей ЛДНР, а в сети уже началась целая серия истерик. И это не литературное преувеличение, а к...

Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

0 новых комментариев

    Загрузка...
    Mary Den Вчера 11:08

    Игрушка одного Арахноида или немного о расах и воплощениях

    "В чем смысл быть умным, если ты не видишь лжи?"...Я начинала писать эту статью в октябре прошлого года. С тех пор она висела в черновиках. Дополнив её фотографиями, я решила таки её опубликовать. Возможно есть неточности и шероховатости. Но совсем нет времени на оттачивание слов и фраз. Боюсь опоздать. Итак, читайте как есть. Я не знаю, кто, где, когда и на како...
    323
    Василий Тёркин 22 апреля 22:07

    Украину ждёт Страшная Резня! Олигархов и Приватизацию разложили Волга и Дульский

    Расклад по приватизации (сертификаты этого проходимца)  на пальцах, удобные кресла троцкистов компрадоров должны уже дымить, ибо огонь под их жопами однозначно вспыхнет, кто бы что не думал и не говорил. И никакие путриёты не помешают справедливому возмездию....
    381
    Василий Тёркин 7 апреля 11:29

    Губернатор Архангельской области назвал жителей шелупонью, так нефиг мнить себя народом.

    Покажите это анисимовым, особенно кладовщику....
    1440
    Василий Тёркин 3 апреля 07:58

    Зачем Черномырдин приказал вывезти в США алмазный фонд СССР, который бесследно исчез? Три круга АДА. То, что не знали о престройке

    ...
    844
    Василий Тёркин 2 апреля 21:30

    Интервенция - 2. Россия-Китай. Как много их, друзей хороших

    ...
    1452

    Третья форма жизни на Земле - уже скоро

    Специалисты по кибербезопасности из Сбербанка утверждают, что к 2023 году 80 процентов людей обзаведётся аватарами. Человек, робот, аватар - жители Земли через 4 года (конференция в МГИМО).Третья форма жизни появится на Земле уже совсем скоро. Политический журнал ПРЕЗИДЕНТ, ссылка при перепечатке обязательнаhttp://prezident.online/2019/03/30/%D1%8...
    1076

    ЖИЗНЬ И СВОБОДА ВОЛИ

    Мы живем, считаем себя венцом творения и уверены, что прекрасно понимаем, что такое ЖИЗНЬ. Мы уверены, что наделены СВОБОДОЙ ВОЛИ. Так ли это?Не так! И вот почему. Мы - машины, действующие по программе. У каждого она своя. Нет на Земле ни одного человека с повторяющейся программой.Создатели и Боги - тоже машины, действующие по программе. У каждого своя. Это прогр...
    1536

    Журналисты «КП» и Андрей Малахов едут за хайпом на перевал Дятлова

    Простые люди не могут понять, что экспедиция Дятлова являлась секретной армейской разведоперацией, и все особенности такой операции простому человеку понять не под силу.Журналисты «КП» и Андрей Малахов отправляются на перевал Дятлова. Совместная экспедиция «Комсомолки» и канала «Россия» повторит маршрут погибшей в 1959 году группы туристов. Об этом сообщает сайт «КП»....
    1135
    Василий Тёркин 16 марта 20:52

    Социальные сети и спец службы

    Все хорошо знакомы с социальными сетями, многие ими активно пользуются, общаются с друзьями, слушают музыку, но не догадываются какую угрозу в себе они несут и какой потенциал в них заключен, как инструмент социальной инженерии. В этой статье мы подробно разберем , как правильно использовать соц сети в своих интересах. Социальные сети являются кладовой и...
    2273
    Vladimir Kouprin 16 марта 11:54

    Случайность, глюк в Матрице или настоящее привидение?

    В.К. На портале THE BIG THE ONE  появилось интересненькое прикольное видео, которое редакция портала никак не комментирует, но задаётся вопросом, сопровождая его как бы своими размышлениями по этому поводу:"Является ли это просто случайностью, или же это настоящее приведение? Ответ на этот вопрос для всех загадка, но многие комментаторы видео относят его к о...
    1067
    Василий Тёркин 3 марта 19:40

    Кубиков вам в ленту весёлых и грустных☻

                                        Только пиндосам не показывайте                                                    ...
    955

    Гибель киборгов на перевале Дятлова: Война инопланетян и роботов

    Битва русских народов и биороботов-адамитов, разворачивалась ещё в 60-е годы прошлого века? Война инопланетян и роботов на перевале Дятлова. Передачи про дятловцев и другие подобные экспедиции,  регулярно идут по эфиру.  Тему не отпускают. Кто-то усиленно посылает сигналы  своим! Пресса пишет о походах и пропавших или странным образом умерших  иска...
    1638
    Василий Тёркин 28 февраля 13:53

    Заготавливайте гробы терпилоиды, Толян вас уже приговорил☻☺

                  Терпилоидам смотреть с 6й минуты....
    816
    Sage 20 февраля 10:51

    Эксперты призывают запретить разработку оружия, контролируемого ИИ.

    Развитие технологии беспилотных летательных аппаратов значительно продвинуло вперед разработки в сфере военной техники. Дроны и прочие системы оружия в итоге могут полностью заменить мужчин-солдат на поле битвы. Однако насколько этичен сам факт доступа искусственного интеллекта к оружию?Группа экспертов, собравшаяся на заседании Американской ассоциации ...
    1397
    Свидетель 19 февраля 20:07

    Просветительское воспитательное ополчение - ПВО.

    Ирина Мухина, ученый-математик из Торонто советского происхождения, о грядущих темных временах и необходимости сплочения всех здравомыслящих людей перед угрозой порабощения темными. О том, что для нас представляется неким размытым угрожающим человечности будущем, как уже свершившейся реальности в западном обществе. Что делать русским людям, чтобы ...
    1551
    Василий Тёркин 18 февраля 11:52

    ЦБ России во главе с Сахипзадовной - главный валютный обменник в России.

    Белое рабство было создано на развалинах СССР. После ЭТОГО попробуйте сказать, что СССР САМ развалился....
    867
    Василий Тёркин 17 февраля 12:23

    Знатно Серёга поржал над распильщиками Ылитарными☻☻☻

        Вечерами эта эпатажная публика ещё и шьёт на дому☻ ...
    819

    После апокалипсиса (фильм исследование)

    Что нас ждёт после апокалипсиса (фильм). Как действовать и что ожидать человеку разумному? Как воплотить свои созидательные мысли? Возникновение новой религии и новой научной парадигмы было предсказано еще в 1970 году. Почему дети появляются с врожденным пониманием матрицы и цифрового мира? Источники и материалы: «Климатический купол над Москвой подтве...
    1561
    Канал Валерий 14 февраля 17:37

    Мистика белого Дома. Метод динамического программирования будущего

    #сша #тайны #эффектманделы ...
    1655
    Василий Тёркин 13 февраля 19:35

    Красиво жить не запретишь

    Главные действующие лица: Аркаша,Наташа и Саша☻☻☻Место действия - какой то джет. Слова и музыка народные: - Ах судьба моя судьба. А вы плебеи, лузеры и плесень и думать не моги, ваше дело галеру тянуть.                      Выложил какой-то падонак!гусары даму повстречали у виноградников шаблисперв...
    938
    Василий Тёркин 12 февраля 22:33

    Политики из бездны - гомункулы Бафомета.☻☻☻

                       Тайна Шнура, заговор, протоколы сионских мудрецов Все мировые политики гомункулы из общества Сатаны. А также все до единого каннибалы. А ещё более красочно они представляют собой каббалистов.  Как обезглавить народ и заставить его жить по инструкции...
    957
    Василий Тёркин 12 февраля 00:06

    Л Е К Т О Р

                 ПЛОДЫ КРЕМЛЕВСКИХ АУТИСТОВ...  В России спрогнозировали тотальную нехватку учителей. Братья и сестры, помните как недавно путинский друг и аутист Дмитрий Медведев изгалялся над учителями, отправляя тех из них, кто хочет хоть как-то выживать, в бизнес. Это самый настоящий клинический дебилизм. И таких деяте...
    1609
    yukta.org 11 февраля 18:10

    Виртуальная реальность - как ты от меня далека?!

    Предлагаю представить себе на минутку, что было бы, если бы каждому, вновь родившемуся человеку, практически сразу после рождения одевали бы шлем виртуальной реальности, который был бы подключен к очень мощной компьютерной сети под управлением не менее мощного искусственного интеллекта (ИИ)? И ребенок бы рос и совершенствовался не в нашем мире, а в виртуальном мире, ...
    1804
    Василий Тёркин 11 февраля 11:42

    20 признаков ЛОХа

    1)Лоху можно бросить в почтовый ящик любую "квитанцию" не являющуюся платёжным документом (без подписи главного бухгалтера, без печати организации и т.д.) и лох побежит её скорее оплачивать не глядя, обгоняя другого лоха, который мчится туда же и за тем же... Эта особь, всего лишь каббалу почитывает, более ничего оно не сделало для страны.Пишут про обнар...
    1193
    Василий Тёркин 10 февраля 08:11

    Ярость: этот безумный, безумный мир. Кому это нужно, кто управляет неокрепшими и неподготовленными умами будущих поколений?

    Уровень агрессии за пределами. Дома, на улице, на работе, в магазинах, на парковках и дорогах. Люди дерутся, убивают, кричат и ругаются из-за ерунды. Еще 20 лет назад массовые убийства были чрезвычайной редкостью, сегодня подобное происходит каждый день. Но почему? С каждым следующим поколением человек становится все более агрессивным. ...
    1147
    Василий Тёркин 9 февраля 22:37

    Горькая правда начинает всплывать. Заказчиком первых убийств на майдане был Клячко.

    Сколько ещё интересного предстоит увидеть и услышать? ...
    6607
    Василий Тёркин 8 февраля 18:01

    Тебе дам, тебе дам, а тебе не дам, ты плохой человек и плохо говоришь о нас.

    Через года два-три, 40 семей в России будут производить продукты, это будет монополия, которая увеличит зависимость питания народа, только от ворья. Как же дальше будете жить граждане тунеядцы, чем будете кормить свои семьи, детей, внуков, стариков в конце концов? Думаете что запад накормит? Он накормит так, чтобы через 10-20 лет останется только часть о...
    968
    Сергей Тарануха 8 февраля 01:06

    Американцы на МКС будут ждать новый туалет до 2020 года

      Новый туалет на американский сегмент МКС доставят в начале 2020 года, сообщило НАСА. Его установят в модуле Tranquility. Не указано, какая страна изготовит новый туалет для астронавтов. Сейчас на МКС находятся два туалета российского производства, передает РИА «Новости». 4 февраля сообщалось, что американские астронавты на МКС были вынуждены соби...
    1146
    Grand Фитиль
    5 февраля 06:02

    Когда смартфоны исчезнут, мир сойдет с ума

    Однажды, не очень скоро, но все же раньше, чем вы думаете, смартфоны почти исчезнут, ​​как это произошло с биперами и факсами. Не сомневайтесь: до этого минимум десять лет (и, если мы все станем киборгами к 2027 году, я с удовольствием съем мои слова. Если предположить, что мы все ещё будем есть в общепринятом понимании, конечно).Тем не менее основу для...
    2642
    Василий Тёркин 28 января 23:03

    Китайские тюрьмы, рабочие,технологии и прочие прелести.

    Шокирующий Китай, статистика, факты, идеология,стратегия. ...
    1388
    Василий Тёркин 28 января 22:19

    Чубайс. Штрихи к портрету. Нихрена себе ошибочки♀♀♀

    Цитаты и афоризмы.  Но видео шокирующее. А мы никого не отключаем! Мы вообще никого не отключаем. Мы включаем тем, кто платит. Я нормальный человек. Понимаю, в это трудно поверить, но уж поверьте. Пока единственный конкурент остался у Бориса Николаевича — это Пётр Первый (О Ельцине). Я буду долго отсыпаться. Знаете, сколько мне нужн...
    1374
    Василий Тёркин 27 января 22:08

    Прокляты и забыты.

    Этот фильм посвящен тем кто погиб и кому ещё предстоит погибнуть в войнах....
    1226
    Василий Тёркин 26 января 21:56

    Цифровая экономика уже работает, результат впечатляющий.

    Приятного ознакомления. И это только начало, конец каждый сам сможет себе представить в силу своей концепции будущего рая....
    2917
    Россия-Сегодня 26 декабря 2018 г. 18:19

    ТАЙНА ГЛУБИННОГО ИНТЕРНЕТА.

    Источник - РОССИЯ-СЕГОДНЯ. Екатеринбургский гарнизонный военный суд арестовал сотрудника ФСБ Александра Игнатьева. Что здесь можно сказать такого особенного, чем сказал сам сотрудник ФСБ из аналитического отдела? Он даёт более, чем конкретную информацию, нити которой ведут прямо в глубинный Интернет. СМОТРЕТЬ ЗДЕСЬ: http://rustod.ru/rossiya_itv/ta...
    2615
    Василий Тёркин 23 декабря 2018 г. 20:09

    Ах, обмануть меня не трудно!… Я сам обманываться рад!

            Проверка на отцовство станет обязательной!В 2018 году правительство Российской Федерации не перестаёт удивлять население своими идеями относительно новых законов. Креатив затронул и семейную сферу, а именно коснулся вопросов отцов и детей. Один из депутатов Госдумы выдвинул предложение обязать новоиспеченных отцов проходить анализ ДНК для п...
    2168
    Вера Фёдорова 16 декабря 2018 г. 18:53

    Программа Светлейшему от Кота Моти?

    Воспоминания Я родился в России и жил, Я питался её дождём. Ей как преданный пёс служил И рабом бывал, и вождём. Я и счастлив был, и убит, И потом опять воскресал. Был как летчик в полете сбит, И хозяин был, и вассал. Все дороги вели в тупик, Много пройдено было зря, Я срывался порой на крик, Проживая жизнь за царя. Нынче слышу какой-то плачь, Будто эхо...
    2445
    Вера Фёдорова 13 декабря 2018 г. 21:38

    На открытом уроке президент поднял главную мировую проблему.

    Форум Проектория, урок "Направление прорыва" В Ярославле выступил Путин перед школьниками, можно, конечно, это отнести к пиар акции, не в этом суть. Главное в том, что он озвучил, что в век цифровых технологий и искусственного интеллекта появятся миллионы людей, которые будут вытеснены новым технологическим укладом.Спрашивается зачем он эту тему вынес...
    4444
    Славик Яблочный 4 декабря 2018 г. 14:23

    Да что вы знаете о "Реальности" Новая, искусственная, введёт в заблуждение любого..

    NVIDIA показала первую в мире компьютерную игру с графикой, созданной ИИ Сегодня NVIDIA показала уникальную программную платформу, которая комбинирует визуальные эффекты, созданные ИИ, с традиционным движком видеоигр. В результате получается гибридная графическая система, которую можно использовать в видеоиграх, фильмах и виртуальной реальности. Платфо...
    5307
    dentvideo 21 ноября 2018 г. 16:19

    Александр Дугин. Пропасть между русским и западным человеком

    Философ Александр Дугин рассказывает о том, почему мы должны понимать, чем живёт глобалистский леволиберальный Запад. Почему Жак Лакан и его топология - ключ к пониманию постмодерна. Как через кольца Борромео связаны сознание и реальность западного человека, как это обосновывает искусственный интеллект и виртуальные миры. https://www.youtube.com/watch?v=i9mM69P_VGc ...
    1867
    dentvideo 29 октября 2018 г. 20:23

    Киборги, роботы, виртуальность - что ждать в ближайшем будущем? (С. Переслегин)

    Киборгизация или роботизация? Как будет устроена мировая экономика? Жизнь в виртуальной или дополненной реальности? Возможные сценарии будущего. Сергей Переслегин в эфире ДеньТВ дает прогноз на 2040 год. https://www.youtube.com/watch?v=RiYE6hVPqAQ ...
    4358
    Канал Валерий 29 октября 2018 г. 18:35

    Пока есть человек, есть Бог! Обзор проектов Детство 2025 и Россия 2045

    ...
    3220

    Футбол. 1=4 или 5=2,5

    ФУТБОЛ1=4 или 5=2,5ЗЕНИТ - молодец!!Спартак - МУДАК (ИМХО)Краснодар- Почти ЗАЗВЕЗДИЛСЯ!!!А ЛОКО - Ну БЛЯ, им реально не в ШПАЛУ... ЛОКУ, ему точно в ШПАЛУ... ...
    1633
    adeptdao Стёб
    26 сентября 2018 г. 23:02

    Ну что? Наливаем? За нового доктора экономических наук.

    Алексей Леонидович успешно защитился... Теоретические и методологические подходы к реализации сбалансированной и эффективной бюджетной политики.Теперь у нас будет наконец, Эффективная бюджетная политика.Мы ведь почему такие были бедные?Про велосипед не предлагать!!!!У нас не было Эффективной бюджетной политики, вот!Теперь - будет!Заживём... Теперь-то.Пре...
    2879
    Сверхъестественное 18 сентября 2018 г. 15:20

    Семь уроков оглупления. Как фабрикуют человеческих марионеток

    Джон Гатто: Семь уроков оглупления. Как изготавливают человеческих марионеток в школе.Содержание:01:27 — урок бессистемности и хаоса05:20 — урок разделения07:23 — урок безразличия08:53 — урок зависимости10:21 — урок собственного ничтожества13:34 — урок чужой власти15:07 — урок полного контроля http://www.supernaturali.ru/archives/554Подп...
    2858
    Василий Тёркин 26 августа 2018 г. 18:21

    Ржавая помойка а не город мечты.

    Правда про Нью-Йорк.  Убогий быт в главном городе США.Десятки тысяч людей одурманенные фейковой идеей об Американской мечте, едут в этот город-спрут, Вавилон нашего времени, чтобы жить в убогих бытовых условиях и ютится в обшарпанных квартирах размером с "собачью конуру".  Ежемесячно отдают тысячи долларов за аренду жилья, понимая только год...
    5769
    Служба поддержи

    Яндекс.Метрика