О сходстве и различии человека и ИИ

Сегодня очень часто (и совершенно справедливо) критикуют искусственный интеллект. У него действительно очень много недостатков и слабых мест. Одно из них – гиперинтерпретация, суть которого заключается в том, что алгоритм ИИ делает уверенный прогноз на основе информации, которая не имеет никакого отношения к решаемой задаче.

В статье «Безумие ИИ» приведены примеры, когда ИИ распознает объект с точностью выше 90% по фото, на котором отсутствует 95% исходного изображения (нижний ряд фото).

«Это значит, что сети, на самом деле, вовсе не учатся распознавать собаку или панду, а вместо этого могут распознать животное просто по типу травы на заднем плане», - пишет автор статьи.

«Из-за гиперинтерпретации автономный дрон-киллер способен классифицировать ребенка, как мужчину, на основе чего угодно: узора проплешин травы на газоне, тени деревьев на стене дома ... И такое решение автономного дрона-киллера будет окончательным». И в этом таится огромная опасность.

Но давайте задумаемся вот о чем: а разве человек не обладает подобными недостатками? 

Разве люди не принимают решения на основе информации, которая не имеет прямого отношения к задаче? Например, степень нашего доверия к незнакомому человеку может зависеть от стиля его одежды, от наличия или отсутствия крестика на шее, например. На основе этих данных мы можем делать, порой, очень уверенные и далеко идущие выводы.

Мы можем влюбиться в человека, потому что у него «на щечке родинка» или «он носит брюки галифе». Разве это не примеры той же самой «гиперинтерпретации»?

Выявляя и критикуя недостатки искусственного интеллекта, полезно находить их и у себя. И уже избавляясь от них, мы сможем очистить своё сознание от всего лишнего и поверхностного, понять, в чем заключается суть живого сознания?

Живой разум эволюционировал как умение эффективно управлять СВОИМИ ДЕЙСТВИЯМИ, именно поэтому он непосредственно связан с сознанием и самосознанием.

Именно опыт самоосознания лежит в основе и человеческого разума, и человеческой нравственности. В процессе самопознания человек неизбежно приходит к пониманию единства всего сущего, своей неразрывной связи с миром и личной ответственности за происходящее.

Мне кажется, что главная польза искусственного интеллекта в том, что он помогает отличить истинно человеческое от всего искусственного и ложного в нас самих.