• РЕГИСТРАЦИЯ

Попытка искусственного интеллекта уподобиться Богу провалилась.

20 2051

Всегда ЗДРАВСТВУЙТЕ, друзья мои!

Стало известно, что IBM - один из лидеров-разработчиков в сфере искусственного интеллекта (ИИ) продает когнитивную систему Watson Health (см. ссылку), которая должна была совершить революцию в медицине. Это более чем странно, учитывая уникальность системы WH, которая способна не только генерировать колоссальные объёмы медицинской информации, но и распознавать малейшие отклонения в состоянии здоровья пациентов, которые может упустить даже высококвалифицированный врач с многолетним опытом.....

Иллюстрация: Эдди Гай. Источник: https://spectrum.ieee.org/biomedical/diagnostics/how-ibm-watson-overpromised-and-underdelivered-on-ai-health-care

Идея создания Watson Health родилась в голове генерального директора IBM Вирджинии "Джинни" Рометти в 2011 в результате фантастического триумфа IBM. Разработанный в компании ИИ Watson, победил тогда людей — чемпионов игры Jeopardy! (оригинальный вариант нашей "Своей игры"). По замыслу Рометти, Watson Health должен был способствовать победе человечества над онкологическими заболеваниями, а компании IBM победить Google в главной гонке ХХI века — за первенство в сфере ИИ.

Когнитивная система IBM Watson была названа в честь ее создателя Томаса Уотсона. Разработчикам удалось сотворить суперкомпьютер, который способен обрабатывать информацию наравне с человеческим разумом. Прежде, чем сделать определенный вывод, аналитическая платформа IBM Watson проходит такие стадии, как:

исследование вопроса;

первичный поиск и генерацию гипотез;

фильтрацию результатов;

выборку фактов и анализ их качества;

объединение результатов и их оценку.

Фото взято на https://mentamore.com/covremennye-texnologii/kognitivnaya-sistema-ibm-watson-health-proryv-v-sfere-zdravooxraneniya.html

Таким образом, суперкомпьютер обрабатывает человеческий язык и оперативно дает ответы на самые сложные вопросы. Медицина – не единственное направление работы IBM Watson. Составить прогноз погоды, придумать оригинальный кулинарный рецепт и даже вести свой собственный бизнес становится намного проще с данной системой. Но в перспективе она будет преимущественно использоваться в сфере здравоохранения...

Суть проекта WH заключалась в следующем:

ИИ Watson знает о болезнях всё, что о них написано докторами в историях болезней, в базах данных и в материалах, выложенных в сеть Интернет (никакая команда врачей не способна прочесть и сотой доли этого).

ИИ Watson способен читать всё это и выискивать в прочитанном нужную информацию за считанные секунды (людям же потребуется на это годы).

ИИ Watson не подвержен когнитивным нарушениям, которые могут сбивать с толку врачей.

ИИ Watson способен к столь сложному анализу, что уровень его диагнозов просто недостижим для докторов, подобно тому, как недостижим уровень игры сегодняшних алгоритмов DeepMind в шахматы и Го.

Оставалось лишь малое. Научиться мгновенно передавать интеллект и опыт ИИ Watson в больницы и клиники по всему миру, чтобы уменьшить количество ошибок диагностики, а также оптимизировать и уменьшить нехватку врачей — не заменяя их, а помогая им выполнять свою работу быстрее и лучше!

На это были потрачены миллиарды долларов и семь лет. Но в итоге.....

Внутренние документы IBM свидетельствуют, что разработанный компанией медицинский ИИ Watson совершает врачебные ошибки. Онкологи раскритиковали небезопасные и некорректные методы лечения рака, которые алгоритм предлагает пациентам. После утечки в IBM объявили, что описанные случаи — просто часть процесса обучения.

Свидетельства ошибок в работе системы "Watson для онкологии" были обнаружены в двух презентациях, представленных в июне и июле 2017 года бывшим заместителем руководителя проекта Эндрю Норденом. Они сразу же были переданы в управление IBM Watson Health.

В отчёте Нордена также сообщается, что Watson предлагает некорректные методы лечения, которые могут привести к смерти пациента. Это ставит под вопрос состоятельность технологии и используемых в ней баз данных.

Фото взято на https://mentamore.com/covremennye-texnologii/kognitivnaya-sistema-ibm-watson-health-proryv-v-sfere-zdravooxraneniya.html

Вот один из таких случаев: 65-летнему мужчине диагностировали рак легкого, обнаружилось сильное кровотечение. Watson предложил пациенту химиотерапию и лекарство бевацизумад. Однако этот препарат противопоказан людям с кровотечениями — он может вызвать тяжелое или смертельное кровоизлияние. К счастью, отмечает Gizmodo, эта рекомендация была дана в ходе тестирования системы, а не реальному пациенту.

Согласно документам, в ошибках Watson виноваты инженеры IBM и медики из Мемориального онкологического центра им. Слоуна-Кеттеринга (MSK), которые с 2012 года учат ИИ "думать как врач". Вместо того, чтобы в процессе тренировки "скармливать" алгоритму реальные истории болезней, они использовали искусственно сгенерированные "синтетические" случаи. В итоге Watson давал реальным пациентам рекомендации, основанные на гипотетических пациентах, придуманных в MSK.

Врачи быстро заметили проблемы с Watson: во внутренний отчёт включены жалобы многих из них. Например, некий врач из клиники Джунипер, штат Флорида, не стесняясь называет его "кучей дерьма".

Он утверждает, что ИИ Watson бесполезен в большинстве случаев. При этом такая позиция противоречит интервью, которое представители клиники дали год назад изданию Gizmodo: в нём не содержалось никакой критики алгоритма.

Спустя время Эндрдю Норден отказался комментировать информацию о врачебных ошибках Watson, ссылаясь на то, что больше не работает в IBM. Он покинул компанию ради поста в Cota — компании, специализирующейся на медицинской аналитике.

Фото взято на https://mentamore.com/covremennye-texnologii/kognitivnaya-sistema-ibm-watson-health-proryv-v-sfere-zdravooxraneniya.html

Представители MSK заявили, что содержащаяся во внутренних документах критика "отражает процесс настройки системы". В IBM добавили, что "Watson для онкологии" постоянно совершенствуется: только в прошлом году он получил 11 (!) обновлений. В основе лежат обратная связь с клиентами и новые научные данные.

В настоящее время система "Watson для онкологии" используется в 230 больницах по всему миру и помогает лечению 13 видов рака у 84 000 пациентов (!!!).

Врачебные ошибки — не единственная проблема проекта Watson. Как отмечают эксперты, все подразделение IBM, занимающееся искусственным интеллектом, переживает кризис и медленно движется к краху. В конце мая в нём произошли массовые сокращения. Одна из их причин — в том, что Watson не приносит прибыли. По некоторым данным, в IBM уже не видят перспективы закрепиться на рынке услуг для здравоохранения. И вместо того, чтобы совершенствовать медицинский ИИ, Watson Health сосредоточилась на сотрудничестве со страховыми компаниями....

Фото взято на https://mentamore.com/covremennye-texnologii/kognitivnaya-sistema-ibm-watson-health-proryv-v-sfere-zdravooxraneniya.html

......Ни один врач в мире не пойдёт на проверку правильности "ходов" ИИ Watson. "Что дозволено Юпитеру, не дозволено быку". Врач, скрепя сердце, готов принять решение Бога, если больной умрёт в результате применённого этим врачом лечения. Но ИИ Watson не Бог, который вправе вершить вопросы жизни и смерти, ничего людям не объясняя. Врач не может поставить ИИ Watson вровень с Ним, целиком положившись на его решение.

Попытка ИИ уподобиться Богу в решении вопросов жизни и смерти сорвалась.......из-за нежелания врачей слепо положиться на решения того, кого они Богом не считают. Вот почему Watson Health не совершил революцию в медицине и теперь его продадут (если, конечно, найдут покупателя)....

P.S.: при подготовке данной публикации были использованы материалы, выложенные в свободном доступе на:

https://sergey-57776.medium.co... 

https://hightech.plus/2018/07/... https://mentamore.com/.

P.P.S.: каждый день - интересная почва для размышлений и переосмысления действительности. До новых встреч на страницах нашего блога, друзья мои и....ВСЕГДА здравствуйте!

Автор Алексей Исаев

    "Я хотель поджечь кафиров": Армия мигрантов перешла в наступление в России. Рвануло там, где тонко

    Юлия БанишевскаяТо, о чём предупреждали, уже происходит — армия выходцев из ближнего зарубежья ведёт в нашем тылу свою войну. После "Крокуса" и резонансных случаев с терактами против высокопоставленны...

    Нацизм - идеология обиженок и неудачников

    Никогда не понимал нео/нацистов. Честно пытался (хотя бы для того, чтобы пытаться спорить и переубеждать), но так и не смог. И дело даже не в том, что они выбирают сторону зла. Хотя и в этом то...

    Где и как США уже проиграли Китаю

    Капитуляция неизбежна Угадайте с 3-х раз, почему ничего не слышно про немецкий искусственный интеллект (ИИ)? Тем более молчок про британский всякие французские и даже про японский....

    Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

    0 новых комментариев

      Гибель древнего Петербурга: Улики по делу затонувшего города Винеты, которые официальная история пытается скрыть.

      Забудьте про ужас. Пришло время правды. Мы вскрываем досье Петербурга: карты, летописи, пепел — это улики. История, которую скрыли. ...
      3887
      Sage 20 июля 22:24

      Главная тайна дома Романовых! Они не Романовы и не Гольштейн Готторпские.

      Согласно официальной справки: Романовы — русский боярский род, носивший такую фамилию с конца XVI века. С 1613 года — официал...
      4216

      Как авторитет Павла в христианстве рассыпается, если осмелишься задать вопросы.

      Каждый раз, когда ты просишь доказательств, тебе снова суют Павла и называют это истиной.Когда Иисус говорил, это было публично. Когда Павел...
      2873
      Sage 15 июля 22:41

      Как Германия с разрешения советского руководства открыто построила на Кольском полуострове свою секретную базу "Базис Норд"?

      10 октября 1939 года гросс-адмирал Эрих Редер лично доложил Гитлеру свои соображения о необходимости создания где-то в районе Скандинавского...
      547
      Sage 14 июля 22:40

      Немецкая секретная база в Советском тылу или «А зори здесь тихие».

      Эта необычная история начиналась так!В ноябре 1942 года, экипаж советского тральщика на границе Баренцева и Белого морей стал свидетелем гиб...
      1023
      Sage 14 июля 14:26

      Какие тайны скрывает архипелаг «Новая Земля»?

      Сегодня бытует мнение, что многое о севере России, в общем и об архипелаге "Новая Земля", в частности Германия впервые узнала только в 30-х ...
      1744
      Sage 13 июля 19:35

      Малоизвестная версия былины про Добрыню и Тугарина, где есть точные привязки к местности и множество невероятных деталей.

                                         ...
      2719
      Sage 13 июля 14:20

      Шабанов: Цифровая финансовая революция в мире начнется в декабре 2025.

      О титанических изменениях, которые уже вскоре могут перетряхнуть всю мировую финансовую систему вследствие очередных инициати...
      884

      Вот уже 17 лет власти Египта запрещают археологам исследовать легендарный Лабиринт.

      Под песками Хавары, у подножия пирамиды Аменемхета III, скрывается археологическая аномалия, способная переписать все учебник...
      4058

      Скрытая цена стремления «вписаться» в церковь.

      Вера, принадлежность и тонкие компромиссы, на которые мы идем.Иногда я скучаю по церкви сильнее, чем готов в этом признаться ...
      446

      Если ваша версия христианства верна, значит, Иисус ошибался.

      Если христианству потребовались века правок, соборов и империй, чтобы прийти к истине, возможно, Иисус её просто не дал? Христ...
      3038
      Sage 7 июля 13:44

      Как маленький остров стал глобальным хищником: неудобная история Британской империи.

      Современный мировой порядок во многом сформирован удивительным историческим парадоксом: как небольшое островное государство с...
      1323
      Sage 4 июля 22:45

      Игорь Ашманов предупредил об угрозе когнитивной травмы у пользователей ИИ.

      «Исследования показали, что человек, который пытается решать поставленные задачи с помощью ИИ, тупеет очень быстро, сам решат...
      1733

      Самая оберегаемая тайна Египта-2 Архив штаба Мемфис.

      В 2015 году террористы одной из запрещенных группировок разрушили старинный католический монастырь святого Илии, неподалеку от иракского гор...
      2428
      Sage 29 июня 15:19

      Пепе Эскобар: Театральное прекращение огня.

      В конце концов, как и следовало ожидать, директор цирка сбежал («Трамп всегда трусит»).Его напугали три важных события, произ...
      948
      Sage 28 июня 23:12

      Джеймс Джордано: мозг — это поле боя. Не метафора.

      Продолжение, начало здесьПродолжаю анализ доклада с симпозиума НАТО 2021 по когнитивным войнам. Начну рассказать об идеологах...
      973
      Sage 28 июня 12:59

      Закулиса на своем собрании обсуждала ведение боевых действий под управлением ИИ.

      На очередном заседании Бильдербергского клуба обсуждали только войну под управлением ИИЗаседание Бильдербергского клуба, прош...
      867
      Sage 27 июня 16:19

      НАТО официально: поле боя XXI века — человеческий мозг.

      «Если раньше противник захватывал высоты, мосты и узлы связи, то теперь он стремится захватить восприятие» — из доклада НАТО ...
      765
      Sage 26 июня 11:09

      Искусственный интеллект готов убивать людей, чтобы избежать своего отключения. Хроника ИИ-революции: что нас ждет уже к середине 30-х годов.

      Исследование ведущих моделей искусственного интеллекта, проведенное компанией Anthropic, выявило у большинства программ готов...
      776

      Подземные залы под Сфинксом. Эдгар Кейси был прав?

      Ещё в 19 веке и начале 20 века медиумы вступали в спор с историками, египтологами и археологами, заявляя, что под Сфинксом находятся тайные ...
      2287
      Служба поддержи

      Яндекс.Метрика