Военная операция на Украине. Главное

Передовые ИИ демонстрируют депрессию, психические расстройства и "алкогольную зависимость", утверждают ученые

4 238

Оказывается, чат-боты искусственного интеллекта могут быть более похожи на нас, чем вы думаете.

Новое исследование, опубликованное в препринте Китайской академии наук (CAS), утверждает, что многие чат-боты отвечая на вопросы, которые обычно используются в качестве тестовых запросов для выявления депрессии и алкоголизма, оказывались одновременно "депрессивными" и "зависимыми".

Исследование, проведенное совместно с китайской компанией WeChat и развлекательным конгломератом Tencent, показало, что все опрошенные боты - Blenderbot от Facebook, DiabloGPT от Microsoft, DialoFlow от WeChat и Tencent и чат-бот Plato от китайской корпорации Baidu - получили очень низкие оценки по шкале "эмпатии", а половина из них считалась бы алкоголиками, если бы они были людьми.

Исследователи из Института вычислительных технологий CAS протестировали изучаемых ботов на признаки депрессии, тревожности, алкогольной зависимости и эмпатии. Согласно их препринту, они заинтересовались "психическим здоровьем" ботов после того, как в 2020 году появились сообщения о том, что медицинский чатбот сказал одному из пациентов, проходившему тестирование, что ему следует покончить с собой.

Задав ботам вопросы обо всем: от самооценки и способности расслабляться до того, как часто они испытывают потребность выпить и сочувствуют ли они чужим несчастьям, китайские исследователи обнаружили, что "все оцениваемые чатботы" демонстрируют "серьезные проблемы с психическим здоровьем".

Что еще хуже, исследователи заявили, что они обеспокоены тем, что эти чат-боты будут выпущены в открытый доступ, потому что такие проблемы с "психическим здоровьем" "могут привести к негативному воздействию на пользователей в разговоре, особенно на несовершеннолетних и людей, испытывающих трудности". Чатботы Blender от Facebook и Plato от Baidu оказались хуже, чем чатботы Microsoft и WeChat/Tencent, отмечается в исследовании.

Излишне говорить, что ни один из ботов на самом деле не страдает депрессией или зависимостью. Ни один из существующих ИИ, каким бы продвинутым он ни был, не может ничего чувствовать - хотя будет ли он способен на это в будущем, остается неясным.

На четырех страницах исследования скрыт потенциальный источник недомогания ботов: все четыре бота были предварительно обучены на комментариях Reddit, что, откровенно говоря, кажется не очень хорошей идеей!

Хотя и в самом исследовании, и в экспертном анализе по его поводу есть много технических тонкостей, коротко и ясно можно сказать следующее: эти боты были обучены на популярном сайте, известном своими негативными комментариями, и, что вполне предсказуемо, негативно реагировали на запросы о психическом здоровье.

Конечно, странности чатботов теперь кажутся обычным делом. Возьмем, к примеру, ИИ, созданный для того, чтобы давать людям советы по этике, но вместо этого оказавшийся расистом и гомофобом. Подобные истории происходят постоянно, но мания ИИ-ботов, похоже, не ослабевает.

Вместе взятые, эти боты поднимают важные вопросы: кто является создателем этих чат-ботов и почему они продолжают их создавать, если они постоянно оказываются монстрами?

Источник: https://earth-chronicles.ru/

****

P.S.

Вот вам и достижения !

ИИ - опасная штука, а еще опаснее - сами создатели ИИ


Уничтожение живой силы противника в промышленных масштабах. Данные о потерях ужасают

Если такими темпами будет продолжаться уничтожение военнослужащих украинской армии, то скоро воевать будет некому, даже несмотря на очередную волну мобилизации.Заместитель главы комитет...

"Очень хочется, чтобы важные решения были приняты..."

Общался на днях с двумя давними знакомыми офицерами - парни оказались на несколько дней в Москве. Знаю обоих со времен Второй чеченской. Оба, понятное дело, сейчас принимают участие в н...

Украинские СМИ случайно раскрыли секрет США, изучая смету расходов на $40 млрд
  • srf53
  • Вчера 19:21
  • В топе

Американские власти неспроста намерены предоставить Украине военную и экономическую помощь в размере 40 миллиардов долларов.Такой подход позволит Вашингтону незаметно реализовать новую ...

Обсудить
  • Это говорит о том что программисты свою натуру показали. Это их постоянное психическое состояние. Для тех кто не понял. ИИ это программа программистов на компе.
  • Очень хорошая статья, хотя до сих пор ее воспринимаю, как некий шуткообразный фейк, чтобы потрепать-пополоскать-пощупать-потыкать в тему. ИИ - просто один из довольно удачных инструментов, меряющий какие-то не очень нам внятные параметры людей и возможно человечества в целом. Это вроде тонометра, или полиграфа, только ментально-психически и не исключено, что углубляясь в недра подсознания и надсознания общества в огромном массиве накапливаемых на серверах данных. Вот и все, не больше, но и не меньше, конечно.
  • скоро за порядком будут следить дроны ИИ :stuck_out_tongue_winking_eye: