Британо-канадский ученый-компьютерщик Джеффри Хинтон, которого часто называют "Крестным отцом ИИ", выразил обеспокоенность тем, что искусственный интеллект может привести к вымиранию человечества в течение следующих 30 лет. Хинтон, недавно получивший Нобелевскую премию по физике за свою работу в области искусственного интеллекта, теперь оценивает вероятность такого исхода в 10-20%, называя быстрые темпы технологического прогресса ключевым фактором. Ранее он оценивал риск в 10%, но немного увеличил вероятность, исходя из текущих событий.
Во время интервью с бывшим канцлером Саджидом Джавидом в программе «Сегодня» на BBC Джеффри Хинтон объяснил, почему он считает, что ИИ представляет потенциальную угрозу для человечества. Когда Джавид упомянул о растущей вероятности, Хинтон отметил, что люди никогда не сталкивались с необходимостью управлять чем-то более разумным, чем они сами. Он указал на редкость такого контроля, используя пример влияния младенца на свою мать, что, по его словам, является одним из немногих примеров, когда менее разумная сущность контролирует более разумную, сформированную эволюцией.
Он заметил: «И сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Их очень мало. Есть мать и ребёнок. Эволюция приложила много усилий, чтобы ребёнок мог управлять матерью, но это, пожалуй, единственный известный мне пример».
Уроженец Лондона Джеффри Хинтон, почётный профессор Университета Торонто, сравнил людей с детьми ясельного возраста в отношении потенциального интеллекта мощных систем искусственного интеллекта, предположив, что по сравнению с ними мы были бы как трёхлетние дети. Искусственный интеллект — это компьютерные системы, выполняющие задачи, которые обычно требуют человеческого интеллекта, и Хинтон выразил обеспокоенность тем, насколько умнее могут стать эти системы.
Оценили 13 человек
38 кармы