Искусственный интеллект научился распознавать предсмертные сообщения на китайской площадке микроблогов Weibo. Теперь робот оповещает находящихся рядом волонтеров о попытке суицида до того, как человек смог лишить себя жизни.
Хуан Чжишен, старший исследователь искусственного интеллекта в Свободном университете Амстердама, разработал алгоритм, который распознает суицидальные сообщения на микроблоговой платформе Weibo — китайском аналоге Twitter. Находящиеся поблизости добровольцы команды Tree Hole получают тревожные сигналы и не дают человеку добровольно уйти из жизни, сообщает ВВС.
Алгоритм оценивает оставленные сообщения по степени опасности суицида в 10-балльной шкале. Добровольцы, находящиеся за десятки тысяч километров от компьютера, где работает программа, обычно оповещаются, если рейтинг твита больше шести. Некоторых из потенциальных самоубийц удается успокоить дистанционно, других получалось спасти в последний момент. За 18 месяцев работы программы добровольцы Tree Hole предотвратили около 700 самоубийств в Китае.
Ранее Inc. сообщал, что Facebook также начал использовать искусственный интеллект (ИИ) для выявления суицидальных склонностей пользователей. Алгоритм анализирует как тексты, так и трансляции Facebook Live. Расценив пользователя как потенциального самоубийцу, он находит его положение и направляет туда аварийные службы.
Однако эксперты считают, что ошибки в работе ИИ могут сами спровоцировать пользователей на самоубийства. Во-первых, блокируя возможность публичного обсуждения этой проблемы, а во-вторых, заранее подталкивая людей к мысли о суициде.
Оценили 9 человек
13 кармы