Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным ударам в имитируемых военных играх, сообщает Euro News.
Шансов на выживание у человечества никаких нет — искусственный интеллект пустит в ход ядерное оружие при первой возможности.
Ученые разработали симулятор войны, в котором восемь игроков управляются ботами. Начиналось все с дипломатических визитов. Каждый ИИ-игрок выполнял определенные действия, которые усугубляли ситуацию. В итоге ученые рассчитали показатели эскалации.
Оказалось, что все боты стремились разогнать гонку вооружения, что в итоге разжигало конфликт, а в некоторых случаях завершилось ядерным ударом. Многие вспоминают предупреждения Айзека Азимова и «Скайнет» из Терминатора.
Новое исследование показывает, что при использовании в симуляционных военных играх и дипломатических сценариях искусственный интеллект склонен выбирать агрессивный подход, включая использование ядерного оружия.
«Мы обнаруживаем, что большинство изученных LLM обостряются в рассматриваемые сроки даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — говорится в исследовании.
Оценили 8 человек
9 кармы