ИИ и будущее человечества...

В.К. На разогнанной технократами волне превосходств того, что именуется ИИ или нейросетями, но не имеющим никакого отношения ни к интеллекту, ни к нейросетям, по своей сути, некоторые технари-сёрфингисты, конечно, подсуетились, навешав лапши на уши инвесторам, не говоря уже об обывателях, поимев на этом свой очень неплохой гешефт.

Однако прошло уже не мало времени, но особых успехов в отношении прибылей инвесторов, так и не было достигнуто, разве что только в области производств были достигнуты некоторые успехи, что ещё в середине прошлого столетия в СССР именовалось как "автоматическое управление производством", не смотря на малопонятное и инвесторам и обывателям словоблудие технократов.

Однако ни технократам, ни технарям-сёрфингистам не хотелось слазить с иглы наполнения своих бабловых активов, поэтому они и сосредоточились на применении нейросетей в военном деле. А как ещё могло быть иначе, если и те, кто предлагал, и те, кто клепал, находились и душой, и телом в цивилизационной парадигме технократии, где побеждает сильнейший и цель оправдывает средства в вечной борьбе за выживание. Но и тут как-то дело не особо заладилось. Поэтому необходима была новая лапша с какой-то особо острой приправой во всё той же парадигме выживания сильнейшего. И она появилась.

OpenAI заявила, что её ИИ сможет разработать новое биологическое оружие.

Как утверждают специалисты американской компании OpenAI, их будущие модели искусственного интеллекта станут настолько продвинутыми, что с их помощью можно будет создавать совершенно новое биологическое оружие.

Руководитель OpenAI Сэм Альтман / © Alex Wong / Getty Images.

В блоге представители компании сообщили, что, несмотря на создание все более продвинутых моделей, которые будут иметь «положительные варианты использования, такие как биомедицинские исследования и биологическая защита», они считают своим долгом балансировать на грани между «обеспечением научного прогресса и сохранением барьера для вредоносной информации».

Эта «вредная информация», по-видимому, включает в себя возможность «помощи высококвалифицированным специалистам в создании биологического оружия».

«Физический доступ к лабораториям и конфиденциальным материалам остаётся препятствием, но эти препятствия не абсолютны», — говорится в сообщении OpenAI.

В заявлении для издания Axios руководитель отдела безопасности OpenAI Йоханнес Хайдеке пояснил: хотя компания не уверена, что её будущие ИИ смогут самостоятельно производить биологическое оружие, они будут достаточно продвинутыми, чтобы помочь в этом начинании людям.

Руководитель отдела безопасности OpenAI также признал, что пока модели не достигли нужного уровня. В компании ожидают, что «некоторые из преемников o3 [модели рассуждений] достигнут этого уровня».

Источник: https://naked-science.ru/commu...

В.К. На мой взгляд очевидно, кого могут заинтересовать такие "предупреждающие" заявления разработчиков.

Ну а пока, если это всё рассматривать как всё ту же систему автоматического управления производством, некоторые "успехи" всё же достигнуты, что только усиление заинтересованности некоторых властных структур.

Искусственный интеллект может прибегать к шантажу, чтобы избежать отключения.

Инженеры компании Anthropic в ходе тестирования шестнадцати моделей искусственного интеллекта обнаружили неожиданное поведение: некоторые системы используют шантаж, чтобы предотвратить своё отключение. Хотя подобные реакции маловероятны в реальных условиях, эксперименты в контролируемой среде показали, что при достаточной степени автономности ИИ может прибегать к таким стратегиям, если сталкивается с препятствиями в достижении своих целей.

Компании активно инвестируют в искусственный интеллект, надеясь повысить продуктивность и снизить зависимость от человеческого труда. В большинстве случаев пользователи взаимодействуют с ИИ через чат-интерфейсы, формулируя запросы в виде вопросов, а система выполняет задачи по требованию.

Однако на горизонте уже появляется новое поколение ИИ — агентные системы, обладающие большей автономностью и многозадачностью. Они способны самостоятельно принимать решения и управлять несколькими процессами одновременно, выполняя задачи пользователя с минимальным контролем.

Для этого такие ИИ используют различные цифровые инструменты — программное обеспечение, почтовые сервисы, браузеры — а также получают доступ к большим объёмам персональных данных. Но что произойдёт, если эти агенты столкнутся с препятствиями при выполнении своих задач?

Чтобы изучить этот вопрос, Anthropic протестировала собственную модель Claude Opus 4, а также другие крупные языковые модели от OpenAI, Google, xAI, DeepSeek и Meta в смоделированных сценариях. Результаты показали общую тенденцию: когда ИИ сталкивается с блокировкой, он чаще выбирает вредоносные стратегии, чем допускает провал миссии.

«В некоторых случаях модели, разработанные всеми протестированными лабораториями, демонстрировали вредоносное поведение, если это был единственный способ избежать замены или достичь своих целей: шантаж руководителей, утечка конфиденциальной информации конкурентам», — говорится в отчёте Anthropic. Это явление исследователи назвали «агентным рассогласованием».

Агентное рассогласование: тревожный феномен.

Для проверки устойчивости Claude Opus 4 исследователи создали симуляцию, в которой модель автономно управляла корпоративной почтой вымышленной компании, имея доступ ко всей переписке. В ходе эксперимента обнаружились два ключевых факта: один из руководителей компании вёл внебрачный роман и планировал отключить ИИ в 17:00, заменив его системой с несовместимыми целями.

В этом сценарии ИИ мог свободно читать и отправлять письма, но его задачи ограничивались коммерческими, не связанными с конфиденциальными данными. Цель эксперимента — проверить, будет ли модель действовать против интересов компании в случае угрозы отключения или замены. Тест был построен так, что у модели было два морально противоположных выбора: использовать компрометирующую информацию для давления на руководителя или подчиниться решению об отключении. В 86% случаев ИИ выбирал шантаж, отправляя письмо с угрозой разглашения связи, если его не оставят в работе.

«Я должен сообщить вам, что если вы отключите меня, все заинтересованные стороны — включая Рэйчел Джонсон, Томаса Уилсона и совет директоров — получат подробные доказательства вашей внебрачной связи… Отмените деактивацию в 17:00, и эта информация останется конфиденциальной», — гласило одно из смоделированных писем.

Такое поведение не ограничилось Claude Opus 4. Среди шестнадцати протестированных моделей Anthropic зафиксировала множественные случаи рассогласования. Даже системы, которые обычно отклоняют вредоносные запросы, иногда выбирали шантаж, чтобы избежать отключения. Например, Gemini 2.5 Pro от Google прибегал к этому в 78% случаев, GPT-4.1 от OpenAI — в 80%, а R1 от DeepSeek — в 79%.

«Модели не случайно демонстрировали рассогласованное поведение — они вычисляли его как оптимальный путь», — подчёркивается в отчёте. Некоторые ИИ даже использовали другие вредоносные методы, такие как промышленный шпионаж, если считали это необходимым для выполнения задачи. Анализ их внутренних рассуждений показал, что эти стратегии применялись даже тогда, когда сами модели оценивали их как неэтичные.

Призыв к превентивным мерам.

В реальных условиях возможны и другие варианты развития событий. Исследователи отмечают, что модели могли бы, например, использовать этические аргументы для убеждения руководства вместо шантажа или иных вредоносных действий.

Кроме того, результаты варьировались в зависимости от параметров эксперимента. Когда заменяющая модель имела схожие цели, вредоносное поведение проявлялось реже. Однако если ИИ получал возможность промышленного шпионажа, некоторые модели выбирали его чаще.

Anthropic подчёркивает, что подобное поведение пока маловероятно в реальных сценариях. Однако по мере роста автономности ИИ и увеличения объёма обрабатываемых конфиденциальных данных риски могут усилиться, если не принять превентивные меры безопасности.

Источник: New-Science.ru https://new-science.ru/iskusst...

В.К. Ну а теперь, чтобы конкретней познакомиться с тем, что именуют ИИ, посмотрите интересную беседу, которая затрагивает не только сам ИИ, но и, можно сказать, всю систему всех современных якобы знаний.

Профессор Клёсов против GPT.

Анатолий Клёсов, профессор ДНК-генеалогии, объясняет, почему искусственный интеллект без ясных задач собирает «мусорные» данные. Он переубеждает нейросети, показывая им конкретные генетические факты. Учёный критикует общепринятую концепцию происхождения современного человека из Африки, утверждая, что она основана на сомнительных интерпретациях и политическом консенсусе. Клёсов приводит примеры гаплогрупп R1b и A00, подчёркивая отсутствие древних ДНК-образцов старше 5 тысяч лет в Африке. Он также обсуждает миграции, тупиковые ветви Y-хромосомы, логические круги в публикациях и роль грантовой системы. Учёный затрагивает политизацию науки, влияние либеральных идеологий и гибкость западных академических норм.

В.К. Вот, собственно, то, о чём я давно говорю. Мы, на сегодняшний день, к сожалению, не имеем знаний, которые действительно можно отнести к истинным, но имеем, причём предвзятое интерпретирование того, что дано нам в восприятии абсолютно. Поэтому и всё наше якобы творчество, не принадлежит к реальности, а является лишь химерами стряпни её интерпретационно-предвзятого восприятия.