• РЕГИСТРАЦИЯ

Нейросети ошибаются в распознавании женщин и темнокожих

1 821



Идентификация личности при помощи функции распознавания лиц приобретает всё большую популярность. Многие флагманские смартфоны и ноутбуки уже сейчас используют эту технологию. Мы как то обсуждали тему, в которой на полном серьезе говорилось, что уже можно достаточно точно и автоматически определять гомосексуалистов по фотографиям. Однако точность работы таких алгоритмов, как оказалось, еще требует существенной доработки. 

Как недавно выяснилось, на результат работы программы распознавания личности, оказывает влияние цвет кожи и половая принадлежность пользователей.


Эксперт Джой Буоламвини из MIT Media Lab при Массачусетском технологическом институте провёл эксперимент, в ходе которого проверил правильность распознавания выборки из 1200 фотографий известных личностей, занятых в политике, из стран, где во власть активно привлекают женщин. Выбранные личности были продемонстрированы трём наиболее популярным алгоритмам по распознаванию лиц: Microsoft, IBM и Megvii из Китая. Системы, основанные на искусственном интеллекте, ошиблись при определении 0,8% мужчин и 7% женщин европеоидной расы. Среди чернокожих мужчин неправильно распознано 12% личностей, а у женщин негроидной расы отклонение достигло непозволительных 34,7%.

Однако в алгоритмах распознавания лиц не закладывается расовое или гендерное неравенство. Проблема заключается в базе, на которой проходит обучение искусственного интеллекта. Так, например, самая большая база фотографий, предлагаемая для обучения программам идентификации личности, содержит 75% изображений мужчин и на 80% из этих снимков запечатлены светлокожие люди. Также, оценив цвет кожи всех людей с фотоснимков, задействованных в эксперименте, по шкале оттенков кожи Фицпатрика, исследователи заметили, что чем темнее оттенок кожного покрова, тем сложнее ИИ справиться с распознанием.



Таким образом, производителям следует расширить кругозор своих нейросетей и предоставить им для изучения фотоматериалы людей из различных регионов Земли с учётом их расовых, этнических и половых различий.

Джой Буоламвини, ведущий автор исследования, впервые столкнулась с проблемой предвзятости алгоритмов несколько лет назад. Для своего аспирантского проекта она использовала коммерческую программу для распознавания лиц. Команда Джой была этнически и расово пестрой, в ходе работы оказалось, что алгоритм надежно работает только с ее единственным белым участником. Буоламвини, сама темнокожая, попыталась проанализировать собственные фото, и оказалось, что система либо вовсе не распознает ее лицо, либо неверно определяет пол.



Исторически, искусственные нейронные сети за свою уже более чем полувековую историю испытывали как периоды стремительных взлетов и повышенного внимания общества, так и сменявшие их периоды скепсиса и равнодушия. В хорошие времена ученым и инженерам кажется, что наконец-то найдена универсальная технология, способная заменить человека в любых когнитивных задачах. Как грибы после дождя, появляются различные новые модели нейронных сетей, между их авторами, профессиональными учеными-математиками, идут напряженные споры о большей или меньшей степени биологичности предложенных ими моделей. Профессиональные ученые-биологи наблюдают эти дискуссии со стороны, периодически срываясь и восклицая «Да такого же в реальной природе не бывает!» – и без особого эффекта, поскольку нейросетевики-математики слушают биологов, как правило, только тогда, когда факты биологов согласуются с их собственными теориями. Однако, с течением времени, постепенно накапливается пул задач, на которых нейронные сети работают откровенно плохо и энтузиазм людей остывает.

В наши дни нейронные сети снова в зените славы благодаря изобретению метода предобучения «без учителя» на основе Ограниченных Больцмановских Машин (Restricted Bolzmann Machines, RBM), что позволяет обучать глубокие нейронные сети (т.е. с экстра-большим, порядка десятков тысяч, количеством нейронов) и успехам глубоких нейронных сетей в практических задачах распознавания устной речи и изображений. К примеру, распознавание речи в Android реализовано именно на глубоких нейронных сетях. Как долго это продлится и насколько сильно глубокие нейронные сети оправдают возложенные на них ожидания – неизвестно.

Между тем, параллельно всем научным спорам, течениям и тенденциям, отчетливо выделяется сообщество пользователей нейронных сетей – инженеров-программистов-практиков, которых интересует прикладной аспект нейросетей, их способность обучаться на собранных данных и решать задачи распознавания. Со многими практическими задачами классификации и прогнозирования великолепно справляются хорошо проработанные, относительно небольшие модели многослойных персептронов (Multilayer Perceptron, MLP) и сети радиальных базисных функций (Radial Basis Function network, RBF). Эти нейронные сети многократно описаны, я бы посоветовать следующие книжки, в порядке моей личной симпатии к ним: Осовский, Бишоп, Хайкин; также есть хорошие курсы на Coursera и подобных ресурсах.

Однако, что касается общего подхода использования нейронных сетей на практике, он кардинально отличается от обычного детерминированного девелоперского подхода «запрограммировал, работает – значит, работает всегда». Нейронные сети по своей природе являются вероятностными моделями, и подход к ним должен быть совершенно иной. К сожалению, многие программисты-новички технологий машинного обучения вообще и нейронных сетей в частности делают системные ошибки при работе с ними, разочаровываются и забрасывают это дело. Идея написания настоящего трактата на Хабр возникла после общения с такими разочарованными пользователями нейронных сетей – отличными, опытными, уверенными в себе программистами.

https://masterok.livejournal.c...

Искусственный интеллект - самый живой среди живых

    Для закономерности не хватает третьего. Два этих события фактически подтверждают догадки об атаках в "глубине страны"
    • pretty
    • Вчера 08:40
    • В топе

    ДМИТРИЙ  МАТВЕЕВПомните эти обсуждения, когда первые БПЛА атаковали Москву и Петербург? Пока привыкшие во всëм сразу винить власти (а военное руководство это тоже одна из ветвей) не стеснялись в ...

    Они не нужны даже на родине. Глава СК Бастрыкин призвал закрыть границы для мигрантов

    Александр Бастрыкин выразил крайне негативное отношение к миграционной политике России, призывая закрыть границы для мигрантов, которых, по его мнению, не ждут на родине. Глава Следстве...

    Факты о женщинах (правдивый юмор)

    - Женщины практически никогда не чешут в затылке - они не любят демонстрировать свою растерянность, и еще это может испортить прическу.- Женщина часто наматывает на палец прядки волос, даже коротких. ...

    Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

    0 новых комментариев

      Jivoy 7 декабря 2023 г. 10:02

      Российские ученые нашли способ ускорить реакции человека

      Этот метод может быть использован для повышения концентрации внимания пилотов, сказал исследователь. Российские ученые создали метод ускорения реакций человека путем стимуляции областей мозга, где генерируются и воспринимаются изображения. Среди преимуществ метода можно отметить то, что он может помочь людям оправиться от травм головного мозга и улучшить концен...
      588
      Jivoy 19 ноября 2023 г. 11:52

      Единственный доказанный факт применения климатического оружия

      Человечество постоянно ищет способ придумать какое-нибудь совершенное и самое разрушительное оружие. «Претендентов» на звание нового особого мощного оружия массового уничтожения несколько. Часть из них относится к так называемому геофизическому оружию. Эта категория пока несуществующих видов вооружения должна использовать некие технологии влияния на ок...
      2082
      Jivoy 17 сентября 2023 г. 10:57

      Что будет, если человеку перельют кровь не той группы?

      Вроде бы все понимают, что при переливании крови есть определенные правила от которых нельзя отступать. А что собственно будет, если отступить? В плазме крови есть белки, которые называются антитела. Они выделяются как ответ иммунной системы на попадание в кровь различных вирусов, бактерий и прочих «захватчиков». В крови также есть антигены (не п...
      1620
      Jivoy 5 сентября 2023 г. 14:12

      Громкий старт новой волны пандемии коронавируса

      У Джилл Байден положительный результат на COVID, у президента Байдена тест отрицательный - Белый дом  Первая леди США Джилл Байден получила положительный результат на COVID-​19 всего за несколько дней до того, как президент Джо Байден, у которого тест на вирус оказался отрицательным, должен отправиться на саммит Большой двадцатки в Индии, Белый дом сказал в по...
      1501
      Jivoy 12 августа 2023 г. 15:17

      В мире увеличивается количество больных новым коронавирусом

      Американское издание The New York Post пишет, что случаи заболевания коронавирусом в Нью-Йорке увеличились на 55 процентов, рост отмечается также и в других штатах. «Последние данные Департамента здравоохранения штата Нью-Йорк, опубликованные 2 августа, показывают, что число случаев COVID выросло на 55 процентов по сравнению с предыдущей неделей, при этом...
      879
      Jivoy 9 августа 2023 г. 17:08

      В Нью-Йорке число случаев COVID выросло на 55%

      «В Нью-Йорке число случаев COVID выросло на 55%, врачи предупреждают о новых вариантах»: Коронавирус никуда не делся - он просто затаился, и медики ждут появления нового смертоносного варианта. «Рост числа случаев COVID-19 не ограничивается Нью-Йорком. Центр по контролю и профилактике заболеваний США зарегистрировал 8000 случаев госпитализации...
      426
      Jivoy 16 июля 2023 г. 14:11

      Начнутся испытания первого в мире препарата для восстановления зубов на людях

      Японские исследователи начнут испытания первого в мире препарата для восстановления зубов на людях в июле 2024 года ОСАКА — Японская исследовательская группа добилась успехов в разработке принципиально нового препарата, который позволит людям выращивать новые зубы. Клинические испытания на людях начнутся в июле 2024 года с целью обеспечения возможности...
      1399
      Jivoy 28 июня 2023 г. 15:23

      В Москве заработала третья нейросеть для медицинской диагностики

      В Москве заработал третий по счету диагностический инструмент на основе искусственного интеллекта, сообщил мэр Сергей Собянин. Подобными службами пользуются 1500 рентгенологов из 150 столичных учреждений; постепенно к ним присоединяются и коллеги из других регионов России. Нейросеть анализирует отклонения на снимках, полученных путем компьютерной томографии, по...
      472
      Jivoy 8 июня 2023 г. 15:18

      В Москве еще 7 заболеваний будут выявлять с помощью новой нейросети

      В Москве заработал новый комплекс искусственного интеллекта, который выявляет до 7 заболеваний на снимках, полученных путем томографии. Заместитель мэра по вопросам социального развития Анастасия Ракова рассказала, что система может обнаружить COVID-19, остеопороз позвоночника, аневризму аорты, легочную гипертензию, рак легких, ишемическую болезнь сердца и гидрото...
      381
      Jivoy 6 мая 2023 г. 10:17

      ВОЗ отменила статус пандемии для COVID-19

      Всемирная организация здравоохранения отменила статус глобальной пандемии COVID-19, заявил глава ВОЗ Тедрос Адханом Гебрейесус. «Комитет экспертов ВОЗ по чрезвычайным ситуациям по COVID-19 предложил мне отменить статус чрезвычайной ситуации в области общественного здравоохранения, имеющую международное значение (PHEIC) COVID-19. Я последовал этому совету ...
      406
      Jivoy 27 апреля 2023 г. 12:27

      Что говорит наука о вирусах

      Миллиарды лет назад органические молекулы научились реплицировать в первичном бульоне себе подобных. Так возникли первые формы жизни. Потом продвинутые молекулы создали клеточную оболочку и смогли таскать бульон с собой. Но неклеточные формы жизни никуда не исчезли. Их генетическое разнообразие до сих пор гораздо выше, чем у всех растений, животных и микроорганизм...
      1161
      Jivoy 18 апреля 2023 г. 15:07

      В московском медкомплексе испытывают отечественный аэрогель для заживления ран

      В московском медицинском комплексе "Коммунарка", расположенном в одноименном поселке, началось тестирование отечественного аэрогеля для заживления ран. Ожидается, что препарат станет надежной заменой иностранным аналогам. Глава департамента инвестиционной и промышленной политики Владислав Овчинский рассказал, что сегодня в городе работают 95 предприят...
      475
      Jivoy 15 апреля 2023 г. 20:56

      Австралийцы начинают широкую общественную кампанию по выходу из ВОЗ

      Австралийцы начинают широкую общественную кампанию по выходу из ВОЗ (Всемирной Организации Здравоохранения ООН), поскольку внесение поправок о том, что ВОЗ им. Билла Гейтса (одного из крупнейших донаторов организации) и Big Pharma должна стать мировым ЗАКОНОДАТЕЛЬНЫМ органом в области здравоохранения, а не консультативным (как сейчас), переходит все границы дозвол...
      972
      Jivoy 20 января 2023 г. 14:19

      Достижения науки. Ученый из России совершил фундаментальное открытие в области генетики

      Руководитель направления «Нанобиомедицина» университета «Сириус», заведующий лабораторией МФТИ Максим Никитин открыл механизм «молекулярной коммутации» ДНК, который меняет представления в биологии. Результаты исследования опубликованы в одном из самых авторитетных научных журналов Nature Chemistry. От...
      1272
      Jivoy 20 ноября 2022 г. 11:30

      Почему в Индии взрослые мужчины держатся за руки

      В Индии, среди представителей сильной половины человечества, есть очень странная традиция – ходить, взявшись за руки. Что это? В Индии есть много странных вещей, которые могут смутить неопытного путешественника. Некоторые традиции индусов и вовсе могут показаться дикими. И знаете, почитание «говядины» — это самое безобидное, что есть ...
      2835
      Jivoy 19 ноября 2022 г. 15:22

      Закрытие границ – не наказание, а шанс для России

      Инициируемое Западом закрытие границ и научных контактов с Россией даёт шанс на возрождение образования и медицины. Об этом на пресс-конференции в Москве заявил политолог Сергей Серебренников, передает корреспондент «ПолитНавигатора». «Когда-то уважаемый президент Соединенных Штатов Америки сказал, что Россия, конечно, выиграла войну и ...
      840
      Jivoy 24 августа 2022 г. 10:43

      Оспу обезьян зафиксировали во всех 50 штатах США

      Соединенные Штаты пожинают плоды своей военно-биологической деятельности. На территории Нигерии, которая стала эпицентром новой вспышки оспы обезьян, функционируют шесть биолабораторий, подконтрольных Пентагону. И вот на сегодняшний день оспу обезьян зафиксировали во всех 50 штатах США. По данным Центров по контролю и профилактике заболеваний, всего в США зараз...
      482
      Jivoy 28 июля 2022 г. 19:32

      В Роспотребнадзоре назвали условие для возвращения ограничений из-за коронавируса

      Роспотребнадзор: коронавирусные ограничения могут быть возвращены при ухудшении эпидемиологической обстановки Федеральной службе по надзору в сфере защиты прав потребителей и благополучия человека (Роспотребнадзоре) назвали условие для возвращения ограничений из-за COVID-19. В ведомстве допустили, что это действительно может произойти, передаёт Общественная ...
      771
      Jivoy 28 июля 2022 г. 12:29

      В Калифорнии смогли вылечить пациента одновременно от ВИЧ и рака крови поздней стадии

      Ученые Калифорнийского университета смогли вылечить четвертого пациента от ВИЧ и лейкемии, пишет Daily Mail. 66-летний мужчина с диагностированным с 1988 года ВИЧ стал старейшим человеком, вылечившимся от вируса иммунодефицита человека. Пациент прошел курс химиотерапии пониженной интенсивности. В 2019 году ему трансплантировали стволовые клетки крови, с этого м...
      495
      Jivoy 23 июля 2022 г. 17:43

      Как подготовиться к ядерной войне, чтобы выжить?

      Еще совсем недавно вероятность ядерной войны никто не воспринимал всерьез. Казалось, что все эти угрозы навсегда остались в 60-70-х годах прошлого столетия. Но, как мы видим, политики вновь вспомнили о ядерном оружии, а эксперты стали рассуждать, будет ли ядерная война в 2022 году. Разумеется, это вовсе не значит, что нас действительно ждет ядерный апокалипсис. Сценар...
      1632
      Служба поддержи

      Яндекс.Метрика