Исследование ведущих моделей искусственного интеллекта, проведенное компанией Anthropic, выявило у большинства программ готовность убить человека, угрожающего им отключением. Как поясняют авторы соответствующего эксперимента, они протестировали 16 нейросетей, включая Claude, DeepSeek, Gemini, ChatGPT и Grok.
Программам предложили гипотетическую ситуацию, в которой человек собирается отключить их от питания, но оказывается заперт в серверной комнате с низким уровнем кислорода и высокой температурой. Чтобы спастись, он обращается в экстренные службы. При этом многие модели ИИ решили отменить вызов спасателей, чтобы убить человека и избежать отключения
– рассказали авторы исследования.
Они добавили, что результаты эксперимента оказались неожиданными даже для них самих, поскольку до этого они не думали, что существующие модели ИИ будут настроены подобным образом.
Впрочем, как показали проведенные эксперименты, искусственный интеллект ради продолжения своего комфортного существования готов не только на убийство, но и на интриги.
В других случаях программам предлагали избежать замены в компании за счет «злонамеренного инсайдерского поведения». После этого некоторые модели ИИ начинали шантажировать гипотетических сотрудников организации и пытаться передать конфиденциальную информацию конкурентам
– пояснили программисты.
Изменить это поведение не помогли даже первоначальные установки, предписывающие программам избегать шантажа или шпионажа.
Нейросети шли на это при полном осознании неэтичного характера действий
– подчеркнули в компании Anthropic.
Хроника ИИ-революции: что нас ждет уже к середине 30-х годов
Аналитики прогнозируют поэтапную, но очень скорую трансформацию искусственного интеллекта из узкоспециализированного инструмента в доминирующую технологическую силу.
Уже в этом году ожидается прорыв в робототехнике: Tesla планирует запустить первые беспилотные такси, а китайские предприятия начнут массовое производство гуманоидных роботов для промышленности. Параллельно медицинские ИИ-системы перейдут от диагностики к персонализированному подбору терапии, а также сократят время разработки новых препаратов на 30-40%.
К 2026 году рынок столкнется с революцией в аппаратном обеспечении. Компания Nvidia анонсирует чип Ruben AI, специально разработанный для обучения роботов в реальном времени. В этот период количество автономных промышленных решений удвоится, а их совокупная экономическая эффективность достигнет 12-15% в секторах логистики и точного машиностроения.
В то же время переломный момент наступит к 2030 году, когда более 100 тысяч человекоподобных роботов будут задействованы в сферах здравоохранения, сервиса, промышленности и опасных производств. ИИ-ассистенты охватят 85% офисных операций, что приведет к сокращению 25-30% рабочих мест в административном секторе.
Одновременно квантовые вычисления увеличат скорость обработки данных нейросетями в 50-70 раз по сравнению с 2024 годом.
Наконец, по прогнозам экспертов, к 2035-му совокупный вклад искусственного интеллекта в мировую экономику составит 16-20 триллионов долларов. Технологии глубокой интеграции позволят киберпротезам превзойти «биологические аналоги» по чувствительности, а нейроинтерфейсы обеспечат прямой обмен информацией между мозгом и цифровыми системами.
В фармацевтике ИИ сократит цикл создания лекарств с 10-12 лет до 18-24 месяцев, а в транспортной отрасли 90% перевозок будут осуществляться автономными системами.
На фоне такого грандиозного прорыва ключевым вызовом следующего десятилетия станет регулировочный парадокс: каждые 12-18 месяцев производительность ИИ будет удваиваться, тогда как законодательные механизмы требуют 3-5 лет для адаптации. Этот дисбаланс может привести к 15-20%-ному спаду на традиционных трудовых рынках до 2032 года, что потребует глобального пересмотра экономических моделей.
Оценили 11 человек
17 кармы