DeepMind считает, что так называемый общий искусственный интеллект (AGI) стоит ожидать уже до конца нынешнего десятилетия. При этом, по мнению авторов, такие системы могут представлять экзистенциальную угрозу, вплоть до уничтожения человечества.
AGI трактуется как система, чьи способности сопоставимы с квалифицированным взрослым человеком в широком спектре умственных задач. Авторы доклада ставят под сомнение возможность создания сверхразумного ИИ, который превосходит человека во всех задачах.
Без серьезных изменений в архитектуре искусственного интеллекта, сверхразумные системы вряд ли появятся в ближайшем будущем, а может, и вообще не появятся,
— говорится в исследовании.
Однако вполне вероятно, что существующие технологии позволят ИИ самостоятельно совершенствоваться. То есть искусственный интеллект будет сам себя обучать и создавать более продвинутые версии себя. Это может быть крайне опасно,
— подчеркивается в документе.
В компании предлагают стратегию защиты, основанную на трех принципах: ограничение доступа злоумышленников, повышение прозрачности решений ИИ и создание защищенных сред для его работы. Между тем большинство экспертов выразили скептицизм относительно положений исследования. Они отмечают, что концепция AGI пока слишком размыта для научной оценки, а также подвергают сомнению гипотезу о самоулучшении ИИ.
#ИИ #исследования #гипотеза #угроза
(https://t.me/lomovkaa)
Оценили 0 человек
0 кармы