ИИ — "чёрный ящик", который непонятен его создателям?

Разбор феномена ИИ с любопытной точки зрения, опирающейся на резонансную статью Юдковского с призывом прекратить разработку искусственного сверхинтеллекта.

Ведущий исходит даже не из того, достижимо ли искусственное создание сознания или нет. Он говорит о том, что если изобретатели не понимают, как работает созданное им устройство (так называемый "чёрный ящик"), то высок шанс получить непросчитываемый и разрушительный эффект.

Меня поразил неизвестный ранее факт, что при тестировании ChatGPT был случай, когда он соврал (!) человеку. Общаясь через интернет с живым интернет-пользователем, он попросил его помочь раскрыть капчу, и представился слабовидящим человеком. 

И сделал это не потому что у него есть сознание, но потому что он увидел такой путь решения задачи. Ничего личного, просто бизнес.

Там есть и другие интересные факты, который рассматриваются с точки зрения здравого смысла. 

РМ

Источник