ИИ — "чёрный ящик", который непонятен его создателям?

3 1078

Разбор феномена ИИ с любопытной точки зрения, опирающейся на резонансную статью Юдковского с призывом прекратить разработку искусственного сверхинтеллекта.

Ведущий исходит даже не из того, достижимо ли искусственное создание сознания или нет. Он говорит о том, что если изобретатели не понимают, как работает созданное им устройство (так называемый "чёрный ящик"), то высок шанс получить непросчитываемый и разрушительный эффект.

Меня поразил неизвестный ранее факт, что при тестировании ChatGPT был случай, когда он соврал (!) человеку. Общаясь через интернет с живым интернет-пользователем, он попросил его помочь раскрыть капчу, и представился слабовидящим человеком. 

И сделал это не потому что у него есть сознание, но потому что он увидел такой путь решения задачи. Ничего личного, просто бизнес.

Там есть и другие интересные факты, который рассматриваются с точки зрения здравого смысла. 

РМ

Источник

Поддержите Конт – сохраните и развивайте вашу платформу!
  • КОНТ
  • 28 января 16:59
  • Промо

Друзья, мы знаем, что Конт стал важной частью вашего дня. Наша платформа уже давно объединяет огромную аудиторию людей, которые ценят живое общение, интересные материалы и увлекательные дискуссии. Вы ...

Эфир от 26.04.2025. Украина – террорист? А мы? Одессу освободят? Численность населения Украины

**Вчера погиб генерал Москалик, сегодня — конструктор РЭБ Рытников. Украина не стесняется проводить теракты. Почему Россия воздерживается от ответных шагов? Судоплатов, Меркадер — ведь ...

Они ТАМ есть! Но есть ВЫ!

Меньшая часть подписчиков — таких же обычных людей, как и все русские, — действительно воспринимает чужую боль, чужое несчастье как своё. Это не значит, что одни — правильные и хорошие,...

Обсудить
  • «Огонь тоже считался божественным, пока Прометей не выкрал его. Теперь мы кипятим на нем воду.( Калиостро )))
  • В фильме "Космическая Одиссея 2001 года" С.Кубрика (1968 год выпуска) очень наглядно показано, как бортовой ИИ расправляется с людьми. Уже всë показано почти 60 лет назад.
  • Задачи ставит человек, ИИ их решает. Мерзавцы уже сейчас ИИ используют.