Эксперт по нейросетям: слишком мощный ИИ является угрозой биологической жизни на Земле

Эксперт по развитию искусственного интеллекта не на шутку встревожен успехами в области разработки нейросетей.

Речь идет об одном из самых известных исследователей искусственного интеллекта Элиезере Юдковском. Как оказалось, эксперт серьезно обеспокоен семимильными шагами, которыми развиваются нейросети в последние несколько лет, в частности, технологии GPT. Он дал неутешительный прогноз — дальнейшее развитие ИИ может погубить человечество.

«Если кто-то создаст слишком мощный ИИ в нынешних условиях, я ожидаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле», — Юдковский.

Специалист внимательно изучил последние достижения в области нейросетей и пришел к выводу, что человечество пока не готово для подобных изобретений. По его мнению, у создателей ИИ не существует «плана Б» на случай, если бездушные машины вдруг выйдут из-под контроля — да, он всерьез рассматривает такой сценарий.

Если процесс развития нейросетей пойдет по непредсказуемому сценарию, он может привести к появлению сверхразумного ИИ, для которого люди будут лишь недоразвитой глупой цивилизацией.

Чтобы избежать катастрофы, Юдковский призвал немедленно остановить обучение нейросетей и сначала создать международные стандарты регулирования этой отрасли. Когда это будет сделано, нужно будет тщательно следить за выполнением нормативов и не стесняться применять жесткие меры к нарушителям.

Здесь