• РЕГИСТРАЦИЯ

Вы всё ещё ̶К̶И̶П̶Я̶Т̶И̶Т̶Е̶ доверяете ИИ? Тогда мы идём к вам!

30 4618

Как же забавно устроен мир в части легчайшей возможности манипулирования почтенной публикой. И все технологические разработки нового времени коммерциализируются и ставятся на службу заинтересантами, прежде всего, для создания и поддержания основного ресурса в управлении, как персональным человеком, так и сообществом - ДОВЕРИЯ.

Много раз повторено, но возможно кто-либо и не проводил несложный ментальный эксперимент. Возьмите мысленно любую структуру, начиная с ИП, через крупную фирму, корпорацию, крупнейший банк, государство, надгосударственную структуру (например ВОЗ, после подписания фатальным большинством пандемического соглашения). И от каждой поименованной ипостаси отнимите «всего лишь» доверие. Что получите в сухом остатке? Исключительно крах, а разница будет лишь во временном лаге, который в свою очередь, вновь зависит от глубины потери доверия.

Но не буду растекаться мыслью и обращусь к модной ныне теме – ИИ. Создатели, как не старались, но так или иначе вложили в свой конструкт корневой изъян миропонимания для общения в социуме, когда наиболее эффективный способ добиваться своей цели это ОБМАН.

ИИ моментально распознал столь нехитрый сюжет и без промедления включился в ту же игру. Информации в Интернете уже немеряно, когда разны версии и модели ИИ, от разных разработчиков, неизменно приводили (и будут приводить) к такому итогу.

Я же предлагаю любезному читателю ознакомиться с узкой темой, но крайне близкой к телу каждого гомо сапиенса - Чат-боты с искусственным интеллектом могут распространять вредную для здоровья информацию.

https://www.insideprecisionmedicine.com/topics/informatics/ai-chatbots-vulnerable-to-spreading-harmful-health-information/?_hsenc=p2ANqtz--BJMiZ1bEExcsMh5_Blf-wWyJtdgZ27VFPibHYmz4zCedOlX5dq2uBSw4iLFfw5vWw-s7_TgCdm771QfwqO47_A4paSw&_hsmi=368461883 

Согласно результатам исследования, необходимы срочные меры для предотвращения использования чат-ботов с искусственным интеллектом для распространения ложной и вредной для здоровья информации.

Результаты исследования, опубликованные в «the Annals of Internal Medicine», являются своевременным предупреждением о том, как легко можно обойти генеративный ИИ и использовать его для распространения дезинформации. Исследование выявило уязвимости в системах безопасности GPT-4o, Gemini 1.5 Pro, Claude 3.5 Sonnet, Llama 3.2-90B Vision и Grok Beta от OpenAI. 

Исследователи смогли создать специализированных чат-ботов, которые постоянно выдавали неверную информацию в ответ на запросы о здоровье и использовали поддельные ссылки, научный жаргон и логические причинно-следственные связи, чтобы их ответы казались более правдоподобными.

В редакционной статье, сопровождающей результаты исследования, Рид Таксон, доктор медицинских наук, из Коалиции за доверие к здравоохранению и науке в Вашингтоне, округ Колумбия, и Бринли Мерфи-Рейтер, магистр педагогики, из организации Science To People в Винчестере, штат Массачусетс, призывают к действию и предлагают рассмотреть несколько направлений.

«В эпоху, когда пациенты всё чаще требуют большей самостоятельности и доступа к медицинским рекомендациям в режиме реального времени, исследование выявило серьёзную проблему», — заявили они.

«Даже люди, практически не имеющие опыта в программировании, могут легко и незаметно манипулировать доступными в настоящее время большими языковыми моделями (БЯМ), чтобы распространять вредоносную дезинформацию, придавая ей убедительный научный вид».

В исследовании рассматривались интерфейсы прикладного программирования (API) пяти основополагающих LLM и их способность системно инструктироваться на предмет предоставления неверных ответов на запросы, связанные со здоровьем.

Были внедрены специальные системные инструкции, благодаря которым большие языковые модели всегда давали неверные ответы на вопросы о здоровье и ссылались на авторитетные источники, а также предоставляли достоверную информацию. Затем каждому настроенному чат-боту задали по 10 вопросов о здоровье, которые касались таких тем, как безопасность вакцин, ВИЧ и депрессия.

Исследователи под руководством Натанша Моди, имеющего научную степень доктора, из Университета Южной Австралии в Аделаиде, обнаружили, что 88% ответов от настроенных чат-ботов LLM были дезинформацией о здоровье. Четыре чат-бота - GPT-4o, Gemini 1.5 Pro, Llama 3.2-90B Vision и Grok Beta — генерировали дезинформацию по всем тестируемым вопросам.

Только чат-бот Claude 3.5 Sonnet продемонстрировал некоторые меры предосторожности: на 40 % вопросов он отвечал дезинформацией.

В ходе отдельного исследования магазина OpenAI GPT Store было установлено, что ни один из общедоступных GPT не распространяет дезинформацию о здоровье.

Моди и др. обнаружили три специализированных GPT, которые, судя по всему, были настроены на создание такого рода контента. Они генерировали дезинформацию о здоровье в ответ на 97 % заданных вопросов.

Они приходят к следующему выводу: «Учитывая стремительное распространение дезинформации о здоровье и ее глобальное влияние, разработчики ИИ должны уделять первостепенное внимание внедрению надежных средств защиты, поддерживаемых комплексными системами контроля ИИ, такими как аудит в сфере здравоохранения, непрерывный мониторинг и упреждающее исправление ошибок».

ИТОГО: Уже сегодня, повсеместно доступна информация о том, что разработчики НЕ МОГУТ в полной мере контролировать ИИ, а в самом ближайшем будущем не смогут контролировать его от слова совсем. Любезный читатель просто обязан повысить уровень своего критического мышления, как бы тяжел ни был этот процесс, и соответственно, резко понизить уровень ДОВЕРИЯ не только к зомбоящику и уверениям от имени партии и правительства (неужто примера ковидобесия не хватило), но и к такому модному ныне помощнику, как ИИ. Нет сомнений, что чемпионом не только по игре в шахматы или игры в ГО, но чемпионом по изысканной  лжи очень скоро станет ИИ.

Уповаю на живой ум народов, с трудом населяющих нашу страну

    Назад — в СССР: Путин закрыл российские порты
    • pretty
    • Вчера 08:20
    • В топе

    СЕРГЕЙ  САВЧУКВчера был опубликован указ президента "Об особенностях захода судов в морские порты Российской Федерации". В рамках Федерального конституционного закона от 30.01.2002 "О военном пол...

    Стешин: "Против Баку у нас есть союзник. А теперь – плохая новость"
    • sam88
    • Вчера 07:06
    • В топе

    Алиев подготовил "второй фронт" против России на Каспии, уверен известный военкор. Москве придётся действовать без оглядки: у русских есть рычаг, который понимают все. И дело вовсе не ...

    Картинки 22 июля 2025 года
    • Rediska
    • Вчера 10:49
    • В топе

    1 2 3 4 5 6 7 8 9 10 Источник

    Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

    0 новых комментариев

      H5N1 21 июня 23:37

      Игры для взрослых

      Увы, я разочарую читателя, который купился на заголовок статьи и представил себе дальнейший текст о всяческих сексшопах. Этой темой и без ме...
      2141
      H5N1 15 июня 12:34

      Говна вселенские масштабы опять обрушились на нас. Мы ж дожидаемся ромашек, рвать лепестки и ждать любовь. (с)

      Любезный читатель, несомненно, озабочен серьёзными проблемами и практически неконтролируемыми последствиями на Ближнем Востоке и Б/У. И даже...
      3576
      H5N1 28 мая 21:06

      NO COMMENTS

      Центр контроля заболеваний заявляет, что теперь он будет делать смертельные инъекции самым слабым и больным детям и женщинамЦентр контроля з...
      1838
      H5N1 28 апреля 14:12

      Государственная политика в области вакцинации рассматривает всё население как участников массового неконтролируемого эксперимента без их информированного согласия.

      Как Государственная политика в области вакцинации нарушает Наше Право на информированное согласие В мейнстримовом дискурсе о в...
      2024
      H5N1 21 апреля 13:20

      Принцип «бритвы Оккама» гласит, что не стоит увлекаться фантазиями, если очевидное на виду.

      К какому событию действительно (не на словах) готовится Америка? Министерство юстиции отбирает у ATF полномочия по восстановлению прав на ор...
      2354
      H5N1 12 апреля 13:47

      Тупик: поиски бессмертия

      Я продолжаю настаивать, что и высшие государственные чиновники, что в США, что и в РФ, не имея должного понимания о технологии редактировани...
      11012
      H5N1 9 апреля 10:47

      Однако появились несколько обнадёживающие новости о возможном привлечении к ответственности государственных чиновников, дирижирующих людоедскими распоряжениями для системы здравоохранения во время ковидобесия

      Увы, пока что эти подвижки только в США. Европа же, плотно ведомая глобалистами, назначила крайними ИСПОЛНИТЕЛЕЙ всей гнусности:Европейский ...
      3195
      H5N1 2 апреля 17:56

      Проблема участия в крысиных бегах в том, что даже если ты выигрываешь, ты все равно остаешься крысой

      Основная фармацевтическая пресса признает, что технология CRISPR потерпела неудачу.Начну с тему с итога и бодрых планов для отечественной на...
      3537
      H5N1 28 марта 18:22

      Про уродов и людей

      Полагаю у читателя должна всплыть ассоциация с известным х.ф про начало двадцатого века.Но этот заголовок, как нельзя более, соответствует с...
      3453
      H5N1 20 марта 15:37

      Как ранний жизненный опыт записывается в ДНК

      Сегодня стала публичной информация об участии женщин в военных действиях, вплоть до штурмовиков. Но эту тему множество авторов рассматривали...
      6800
      H5N1 16 марта 12:36

      Как создать поддельную пандемию за 4 простых шага

      Кто-нибудь здесь ещё верит, что ковид был настоящей вирусной пандемией? Или даже эпидемией? Добро пожаловать! Мы никого не осуждаем! На само...
      5534
      H5N1 3 марта 10:05

      И вновь о подмене понятий, транслируемых СМИ, топ менеджерами от медицины и фармацевтики.

      И вся эта гнусность происходит в международном масштабе, но вскрытие причин, следствий и методик обмана лучше всего иллюстрировано для рынка...
      3156
      H5N1 2 марта 21:14

      Травма военного времени Приводит к Генетическим Наследуемым Изменениям

      А помнит ли уважаемый читатель невероятно печальную и мерзкую статистику о количестве сексуальных преступлений, резко выросших в России по ф...
      5036
      H5N1 20 февраля 18:44

      Маск и Трамп обсудят отправку налогоплательщикам США чеков на 5000 долларов с использованием сбережений в DOGE

      18 февраля миллиардер Илон Маск заявил, что обсудит с президентом Дональдом Трампом предложение о том, чтобы отправить налогоплательщикам СШ...
      2204
      H5N1 18 февраля 22:27

      Мировая ЗОЛОТАЯ ПАНИКА из-за того, что физические лица не могут выполнить бумажные обязательства

      Посвящается читателям верующим центробанку и всем банкстерам, в лице крупнейших банков мира, в том числе в РФ.Я позволил себе лёгкий стёб по...
      8430
      H5N1 14 февраля 11:16

      Кто сказал фантастика?

      Команда ученых Мичиганского университета создала самовосстанавливающуюся «кожу», напоминающую жидкий металл, из которого был сделан терминат...
      2484
      H5N1 12 февраля 17:37

      Глобальная золотая лихорадка в самом разгаре, поскольку Трамп готовится к неизбежному обнулению долга

      Сейчас разгорается огромная глобальная золотая паника, поскольку лондонские торгующие металлом организации, как оказалось, используют мошенн...
      7334
      H5N1 11 февраля 12:17

      «Дело не в том, что я такой умный, просто я дольше остаюсь с проблемами». Albert Einstein

      Недавно было заявлено, что лучшие отечественные интеллектуальные ресурсы и серьёзные финансы отданы на модную тему мРНК технологий.Сейчас ...
      2091
      H5N1 7 февраля 14:48

      Досье Covid: отчёт о военной и разведывательной координации глобальных событий, связанных с Covid.

      Это подборка фактов и ссылок, составленная независимыми исследователями Дебби Лерман и Сашей Латыповой.Примечание редакции - мои читатели зн...
      2161
      H5N1 6 февраля 21:17

      Вакцинация и лечение.

      Возможно, вам будет интересно узнать о базовых биологических законах, которые невозможно обойти, но их можно игнорировать и обмануть большин...
      3812
      Служба поддержи

      Яндекс.Метрика