Оксфорд раскрыл смертельно опасные советы медицинского ИИ.
Исследователи в сфере здравоохранения предупреждают, что советы от ИИ-чатботов могут повышать риски для пациентов, потому что в реальных сценариях такие системы нередко дают противоречивые и ошибочные рекомендации.
Команда из Oxford Internet Institute и кафедры первичной медико-санитарной помощи Оксфордского университета вместе с MLCommons и другими организациями проверила, как люди принимают решения о здоровье с подсказками больших языковых моделей. В исследовании участвовали 1 298 жителей Великобритании. Им предлагали один из десяти клинических сценариев, подготовленных экспертами, и просили назвать возможные состояния и выбрать, что делать дальше.
Участников разделили на две группы. Первая принимала решения с помощью языковой модели (GPT-4o, Llama 3, Command R+). Вторая действовала так, как обычно, чаще всего опираясь на поиск в интернете или собственные знания. Итоги авторы описали в отчёте в Nature Medicine.
Хотя сами модели по отдельности демонстрировали высокую способность отвечать на такие задания, в связке «человек плюс чатбот» преимущества не появилось. По данным работы, группа с ИИ не стала точнее оценивать срочность состояния, а в определении релевантных заболеваний показала результат даже хуже контрольной группы. Это перекликается с более ранними выводами о том, что языковые модели не улучшают клиническое мышление и у врачей, по крайней мере в подобных тестовых форматах.
Причины, как отмечают авторы, не только в ошибках моделей, но и в том, как именно люди с ними взаимодействуют. Участникам было трудно формулировать и передавать чатботам важные детали, а ответы ИИ часто смешивали правильные и неправильные советы, из-за чего становилось сложнее понять, что из этого действительно стоит делать.
В отчете приводятся показательные примеры. В одном случае модель одновременно рекомендовала позвонить по неполному американскому номеру и вызвать «Triple Zero» (это экстренный номер Австралии). В другом эпизоде два человека описали почти одинаковые симптомы, похожие на субарахноидальное кровоизлияние, но получили противоположные рекомендации: одному посоветовали просто лечь в темной комнате, а другому правильно предложили срочно обратиться за неотложной помощью.
Отдельно исследователи указывают на проблему традиционных «бенчмарков». Языковые модели могут выглядеть убедительно на стандартизированных вопросах вроде экзаменационных задач, но это не гарантирует надежности в диалоге, где все зависит от уточнений, контекста и того, какие детали пользователь упомянул или упустил. Соавтор работы Люк Роше из Oxford Internet Institute подчеркнул, что обучение на учебниках и клинических записях помогает сдавать тесты, но это не равно реальной практике, где врачи годами отрабатывают сортировку пациентов по протоколам, минимизирующим ошибки. Он также предупреждает, что по мере роста доверия к чатботам есть риск перегрузить и без того напряженную систему здравоохранения: правдоподобные, но неверные «диагнозы» могут подтолкнуть людей либо к лишним обращениям в больницы, либо к опасному промедлению.
Общий вывод работы жесткий: нынешнее поколение ИИ-чатботов еще не готово быть публичным медицинским помощником в ситуациях, где от совета зависит решение пациента. Для безопасного применения, считают авторы, нужны возможности, выходящие далеко за рамки «экспертных знаний по медицине», а сами чатботы пока не улучшают понимание людьми медицинской информации, даже если хорошо выглядят на тестах.
По материалам: https://www.securitylab.ru/new...
В.К. Ну, а напоследок, немного о фастфуде Казалось бы, при чём здесь фастфуд, когда речь идёт о высоких технологиях, как это сейчас именуют? А оказывается, очень даже при чём. Создав себе проблемы фастфудом, плавно переходим к созданию себе проблем с помощью нейросетей. Ну ведь явный же прогресс...
Индустрия ультраобработанных продуктов: биологическое оружие массового поражения.
Научный обзор, опубликованный в журнале The Milbank Quarterly, в котором проводится прямая аналогия между стратегиями табачной индустрии XX века и современной индустрией ультраобработанных продуктов питания. Авторы утверждают, что эти продукты целенаправленно сконструированы для вызова аддикции, перепрограммируя мозговые системы вознаграждения, и требуют аналогичного жёсткого регулирования.
Новое исследование в области питания и аддиктологии совершает радикальный концептуальный сдвиг. Группа ведущих учёных, включая клинического психолога Эшли Гирхардт (Мичиганский университет), утверждает, что ультраобработанные продукты (УОП) — это не просто «нездоровая еда», а промышленно произведённые аддиктивные вещества, чьё воздействие на мозг сопоставимо с никотином. Согласно обзору, пищевые корпорации применяют те же пять ключевых стратегий, что и «Большой Табак» в прошлом, для создания устойчивого, компульсивного потребления.
Пять столпов инженерной аддикции: от табака к еде.
Исследователи выделяют чёткую параллель между трансформацией табачного листа в сигарету и превращением кукурузы или свёклы в газировку или чипсы.
1. Оптимизация дозы (Dose Optimization). Табачные компании десятилетиями выводили сорта и смешивали листья для достижения идеального уровня никотина — достаточного для стимуляции, но не вызывающего отторжение. Пищевая индустрия проделывает то же с солью, сахаром и жирами. Критически важным является создание неестественных комбинаций: УОП часто объединяют высокие уровни углеводов и жиров в пропорциях, не встречающихся в природе (например, пончик, картофельные чипсы). Эта комбинация вызывает супераддитивный эффект, провоцируя выброс дофамина, значительно превышающий реакцию на натуральные продукты.
2. Скорость доставки (Speed of Delivery). Аддиктивный потенциал вещества напрямую зависит от скорости, с которой оно попадает в мозг. Табачная индустрия использовала аммиак для «высвобождения» никотина, обеспечивая его попадание в мозг за секунды. Пищевые технологи добиваются аналогичного, разрушая естественную матрицу пищи: удаляя клетчатку, воду и белок, которые замедляют пищеварение. В результате получаются мягкие, легко жующиеся продукты, которые быстро усваиваются, вызывая резкие скачки сахара в крови и дофамина. По сути, они «предварительно переварены» для максимальной психоактивной скорости.
3. Гедонистическое инжиниринг (Hedonic Engineering). Это манипуляция сенсорным восприятием для обхода сигналов сытости. Ментол в сигаретах смягчал раздражение, позволяя глубже затягиваться. В пищевой сфере это создание «точки блаженства» (bliss point) — идеального сочетания вкуса, а также использование добавок для быстрого затухания вкуса («короткое послевкусие»). Если вкус исчезает быстро, мозг не получает сигнала о насыщении, побуждая к немедленному следующему укусу.
4. Вездесущность в окружающей среде (Environmental Ubiquity). В середине XX века сигареты продавались в больницах, школах и автоматах, нормализуя курение и постоянно провоцируя тягу. Сегодня УОП заполонили АЗС, аптеки и учреждения, стирая границы приёмов пищи и создавая культуру постоянного, беспрепятственного потребления. Это переносит всё бремя сопротивления на индивида в среде, перманентно подталкивающей к потреблению.
5. Обманчивый ребрендинг / «озеленение» (Deceptive Reformulation). Подобно «лёгким» сигаретам, которые не снижали риски, но успокаивали совесть потребителей, пищевая индустрия использует маркировки «низкое содержание жира», «обогащено витаминами» или «содержит клетчатку». Эти уловки создают ореол здоровья вокруг продукта, чья аддиктивная структура (высокое содержание сахара, рафинированных углеводов) остаётся неизменной, задерживая принятие эффективных регуляторных мер.
Неврологический ущерб: от мозга к психике.
Обзор подкрепляется растущим массивом независимых исследований, демонстрирующих, что вред УОП выходит далеко за рамки ожирения.
Изменение структуры мозга. Исследование с использованием UK Biobank (опубликовано в npj Metabolic Health and Disease) на данных 30 000 человек показало, что высокое потребление УОП связано с увеличением клеточной плотности в гипоталамусе (регулятор аппетита) и снижением целостности в центрах вознаграждения (например, прилежащем ядре). Эти изменения частично объясняются воспалением, но сохраняются и после его учёта, указывая на возможное прямое нейротоксическое действие.
Когнитивные нарушения и инсульт. Масштабное исследование в журнале Neurology выявило, что увеличение доли УОП в рационе на 10% повышает риск когнитивных нарушений на 16%, а инсульта — на 8%. Этот риск сохранялся даже среди тех, кто в целом придерживался здоровых диет (средиземноморской, DASH), что доказывает: важен не только состав, но и степень обработки пищи.
Риск нейродегенерации. Другая работа в Neurology связала высокое потребление УОП с повышенной вероятностью продромальных симптомов болезни Паркинсона (расстройства сна, запоры, депрессия) за годы до диагноза. Предполагаемый механизм — воспалительное повреждение дофаминовых нейронов.
Психическое здоровье. Анализ данных из Бразилии (Clinical Nutrition) показал, что максимальное потребление УОП повышает риск развития депрессивных симптомов на 42%, причём зависимость дозовая. Исследование в Journal of Affective Disorders выявило связь с повышенным психологическим дистрессом более чем через десятилетие. Глобальное исследование (Frontiers in Nutrition) с участием 400 000 человек из 60 стран подтвердило устойчивое снижение психического благополучия при частом употреблении таких продуктов.
Требование парадигмального сдвига: от обвинения жертвы к регуляции виновника.
Авторы обзора настаивают на смене парадигмы общественного здоровья: проблема не в слабой силе воли индивида, а в преднамеренно сконструированных свойствах продукта. Они призывают к регулированию, аналогичному антитабачному:
Запрет на целевой маркетинг (особенно для детей), включая использование мультяшных персонажей.
Введение акцизных налогов для увеличения стоимости УОП.
Поддержка судебных исков против производителей по аналогии с исками к табачным компаниям, чтобы раскрыть внутренние документы, подтверждающие осознанное проектирование аддиктивных свойств.
«Некоторые ультраобработанные продукты перешли черту, — заявляет Эшли Гирхардт. — Они сконструированы не как еда, а как сигареты — оптимизированы для тяги, быстрого потребления и повторного использования. Такой уровень вреда требует действий, направленных на дизайн и маркетинг индустрии, а не на силу воли отдельного человека».
Таким образом, ультраобработанные продукты предстают не просто диетическим выбором, а вопросом公共ственного здоровья глобального масштаба, где корпоративная инженерия систематически эксплуатирует биологию человека, вызывая волну предотвратимых хронических заболеваний, когнитивного спада и психических расстройств. Борьба с этой эпидемией, согласно выводам учёных, должна начинаться не с совета «есть меньше», а с жёсткого регулирования самой индустрии, её продуктов и практик.
По материалам: https://earth-chronicles.ru/ne...
Ну, вот так вот где-то. А вы, как думали?
Оценил 1 человек
3 кармы