Искусственный интеллект YouTube заблокировал канал после того, как ошибочно принял дискуссии о черных и белых шахматных фигурах за расистские оскорбления.
Прошлым летом YouTuber, который выпускает популярные шахматные видео, увидел, что его канал заблокирован за то, что сайт назвал «вредным и опасным» контентом.
YouTube не объяснил, почему заблокировал хорватского шахматиста Антонио Радича, также известного как «Агадматор», но сервис был восстановлен через 24 часа.
Ученые-компьютерщики из Карнеги-Меллона подозревают, что обсуждение Радичем «черного против белого» с гроссмейстером случайно активировало фильтры искусственного интеллекта YouTube.
Запустив моделирование с помощью программного обеспечения, обученного обнаруживать hatespeech, они обнаружили, что более чем в 80 процентах шахматных видеороликов, отмеченных как разжигающие ненависть, их не было, но они содержали такие термины, как «черный», «белый», «атака» и «угроза».
Оценили 18 человек
22 кармы