• РЕГИСТРАЦИЯ
Дарина Литовиж
3 мая 21:02 4786 12 19.40

Как работает мозг: Переобученные нейросети

Представьте, что вы проектируете птенца чайки. ТЗ такое — у него довольно плохое зрение, маленький мозг, но ему нужно как можно больше есть, а то сдохнет. Еду ему приносит мама-чайка. Основная задача — распознать маму-чайку и получить у неё еды. 

Во входной поток зрения поступает, скажем, 320х200 px, и дальше 10 сантиметров от глаза он не умеет фокусироваться. Природа решила так — надо разметить клюв чайки ярким оранжевым округлым пятном. Вот таким:

В ходе реверс-инжиниринга чайки в 1950-х Нико Тинберген провёл 2431 опыт с 503 птенцами. Выяснилось, что птенец реагирует и не только на клюв, но и на картонный прямоугольник с круглым оранжевым пятном. И пытается получить у него еду как у обычной чайки.

Звучит логично, особенно в условиях нехватки вычислительных ресурсов птенца, правда? «Появляется сверху», «длинный» — это важно. Но самая высокая ценность сигнала «оранжевый на белом» — и она по мере эволюции завышается.

Под самый конец внезапно нашёлся ультранормальный сигнал. Если птенцу показать прямоугольник с тремя оранжевыми полосами, он распознает его куда быстрее, точнее, и среагирует в разы активнее. То есть сильнее распознаётся другой образ, которого нет в природе!!!

Если вы думаете, что мы с вами не забагованы, то ошибаетесь. У нас, людей, есть примерно такой же пример переобучения, хорошо известный анимешникам.

Модель нашего зрения

Исторически предполагалось, что мы смотрим на что-то и делаем следующее (всё куда сложнее и запутаннее, я очень-очень упрощаю, поэтому заранее прошу прощения за грубую модель):

1. Получаем входной массив данных в виде чего-то вроде BMP-файла.

2. Обрабатываем эту картинку на зрительных рецепторах, чтобы сконвертировать в импульсы для мозга. То есть переводим этот BMP во внутренний формат мозга.

3. Несём подальше от сенсоров в центр обработки, где придаём полученной картинке смысл, то есть конвертируем в следующий формат — скорее всего, околословарный, потому что по нему потом задействуются ассоциации.

4. Понимаем смысл изображения и показываем его сознательной части разума.

На деле же оказалось, что процесс куда веселее. Нет смысла «грузить» всю картинку в первичную обработку, когда можно сильно оптимизировать этот процесс.

Поэтому мы делаем следующее:

1. Получаем первичный контур данных, грубо говоря, несколько процентов от всего сенсорного ввода.

2. Сразу гоним его в обработку с вопросом, что грузить дальше. Обработка (за пределами сенсора, в мозгу) связывается со словарём форм-ассоциаций и говорит, что мы, скорее всего видим — то есть отдаёт на управление сенсором гипотезы.

3. Управление сенсором начинает «грузить» то, что может подтвердить или опровергнуть наиболее вероятные гипотезы — то есть мы последовательно забираем ещё несколько процентов данных, отдаём их сразу в обработку и получаем результат, как и на что смотреть дальше.

4. Когда гипотеза остаётся только одна — имея неполный файл, мы уже знаем, что на нём изображено. В этот момент происходит ещё одна конвертация уже в сознательный формат.

Чтобы было понятно, о какой скорости речь — В. Н. Панферов определял порог узнавания лица на фотографии — это 0,03-0,04 секунды. Волосы и верх головы обрабатывались в этих пределах, а вот подбородок и нос распознавались уже где-то в три раза медленнее — на 0,1 с.

Повторюсь, модель крайне примерна, но показывает важнейшее отличие: мы не обрабатываем, что увидел глаз, а управляем глазом так, чтобы он искал знакомые нам шаблоны. Чтобы далеко не ходить — вот пример реализации этой уязвимости:

Здесь можно увидеть белый треугольник. Более того, некоторые даже могут «увидеть» его границы.

Но, что для нас гораздо важнее в плане переобучения наших нейросетей распознавания образов, мы распознаём многие объекты по нескольким опорным точкам. Например, очень простые рисунки позволяют быстрее распознавать объекты, чем содержащая куда больше информации фотография. Потому что в упрощённом рисунке уже выделены те черты, которые нейросеть художника посчитала значимыми, и наша нейросеть также приняла их за опорные точки.

По-настоящему острое цветное зрение охватывает лишь небольшой конус с углом около пятнадцати градусов, окруженный смутными, размытыми, неразличимыми пятнами. К тому же картинка оказывается перевернутой и изрядно подпорченной довольно обширным слепым пятном. Но именно из этого грубого полуфабриката возникает весь объемный, наполненный образами видимый мир, в котором мы живем.

А теперь вернёмся к упомянутым анимешникам. Если задуматься, то любое комиксово-рисованное изображение девушки не может быть привлекательнее живой девушки. Ну, пускай у нас будет идеализированная дева в аниме и ещё одна с идеальной фигурой-макияжем на фото.

Большая часть аниме ориентирована на ультранормальный сигнал — мы распознаём опорные части образа и останавливаемся. Вот, смотрите:

Это не лучший пример, но это лучшее, что я нашёл с лицензией на использование и изменение (залито на sketchport.com пользователем Envynity)

Мы распознаём этот набор визуальных сигналов как, возможно, вполне симпатичную деву. Однако если у реальной дамы будут глаза такого же размера, прыщ вместо носа, странный рот, полупрозрачные волосы и вообще примерно похожая анатомия, плюс она заложит непослушный локон за глаз… Ну, некоторые схватятся за осиновый кол.

Картинка иллюстрирует, как выделяются главные для нейросети объекты и гасятся второстепенные. Да-да, это тоже наш ультранормальный сигнал — быстрый для распознавания, но в реальном мире означающий ложноположительную сработку.  Знакомьтесь, мы только что посмотрели на картонку с тремя полосками. Аналогично грудь нереального размера у некоторых античных статуй — не ошибка физилогии, а художественная гипербола, подчёркивающая нужное качество.

Вот ещё пример для тех, кто не увидел симпатичную девушку на картинке выше:


Schyns P.G., Oliva A. J. Cognition — при загрузке деталей первое лицо злое, второе нет. Мне достаточно снять очки, а вам — возможно надо будет отойти подальше от монитора или уменьшить картинку или прищуриться. При достаточном уровне размытия наша нейросеть обопрётся вообще на другие точки, и выражения поменяются местами.

Второй баг этого же класса (но куда более высокоуровневый) — это проекция по неполным данным. Серия экспериментов Алана Миллера и уже упомянутого Бодалева доказала, что мы строим полный образ человека, на который опираемся до получения новых данных, на основе крайне обрывочных кусков информации.

Например, мы обучены, что все волосатые очкарики — ботаны (пока не получим в глаз от одного такого), все китайцы низкие (пока не увидим их представителей, присланных на парад к нам на прошлое 9 мая — не меньше 210 сантиметров каждый) и так далее.

Обращаясь к более простым реализациям этой функции, например, стоит вспомнить, что крысы пугаются любых пушистых предметов примерно размера кошки, потому что чем яснее будет распознана кошка, тем это важнее для выживания. Соответственно, больше FPR и минимуме FRR — крысы выживают именно за счёт снижения ложноотрицательных статусов.

У нас с вами есть такая милая фигня — генерализация страха. Например, если целенаправленно научить ребёнка бояться плюшевую крысу, то он будет пугаться вообще половины плюшевых игрушек, поскольку его нейросеть забрала не только основной классифицирующий признак, но и кучу вспомогательных — и решила, что высокий FPR в сравнении с опасностью не распознать сигнал — допустимая жертва.

Генерализация работает и у животных. Более того, она отлично сочетается именно с нейрообучением. Если крысе давать бегать в лабиринте в ветке с кругом, квадратом и прямоугольником с пропорциями 2:1, но кормить только после того, как она побежит к прямоугольнику — крыса научится отличать прямоугольник с пары попыток и будет бегать только к нему.

Заменим лабиринт — вместо круга теперь второй квадрат. Снова бежит к прямоугольнику с первой попытки. Теперь меняем лабиринт — оставляем квадрат, прямоугольник 2:1 и прямоугольник 3:1. Логика предполагает, что крыса бежит к уже знакомому ей 2:1. Но нет, она, оказывается, выучила, что чем прямоугольнее — тем лучше. И бежит в 3:1, полагая, что там еды больше. Потому что на этот прямоугольник её нейросеть «где еда» даёт более сильный сигнал срабатывания.

Ещё один эксплоит человека нашёл Мортен Крингельбах в Оксфорде, работая с «Крайслером». Доведённый до ума опыт выглядит так: показываем женщинам фотографии чего-то милого, например, младенцев. Фиксируем, что происходит в мозге. Теперь показываем женщинам фотографии новых вариантов экстерьера автомобиля, и ищем наибольшее соответствие предыдущему шаблону. Получаем самый милый из возможных автомобилей.

Сравните «Матиз» и «Смарт». 

Да-да, мы узнаём «детёнышей» и включаем родительскую реакцию при определённых пропорциях лица. Например, у щенка, зайчонка, котёнка, птенца и младенца будут явно укороченные и менее выступающие носы, большие глаза.

Ну и напоследок — гуппи распознают друг друга по оттенкам цвета. Самцы имеют большой жёлтый маркер во всё туловище. Этот жёлтый маркер ищут самки, которым неймётся размножаться.

Так вот, биологи решили проверить, как самки добились нужной точности. В результате опытов они покрасили самца в ярко-синий. И — та-дам! — выяснилось, что они действительно используют метрику «чем больше синий, тем лучше».

А колюшки-самцы (не путать с корюшкой) ловятся вообще на красную нитку — для них всё шевелящееся красное является мгновенным триггером на запуск инстинкта атаки. Потому что самец приманивает самок движениями туда-сюда и красной окраской брюха. А нитка ведёт себя даже более «самцово», чем настоящая рыба. Надо укусить эту наглую штуку, правда?

У галок есть триггер «напасть, если тащат что-то чёрное болтающееся» — это защита гнездовья от тех, кто ворует птенцов. Не подходите к ним с носками в руках.

Те же чайки выкидывают красные яйца из гнезда — инстинкт избавления от грязного кэша раненых птенцов.

В общем, очень советую — например, исследования 50-х вроде «Восприятие человека человеком» (А. А. Бодалев) и опыты, описанные Н. Тинбергеном в «Осы, птицы, люди» внезапно показывают невероятную хрупкость ветвера, которым мы прошиты. И дают понять, насколько странные у нас нейросети принятия решений.

Каким-то образом нейросеть(мозг) козла распознала в подвешенном мяче (кругловатом объекте, находящемся на уровне его головы) то ли соперника, то ли угрозу. При этом оно еще и «отбивается» и уперто возвращается обратно.

.

источник

Ошибись - поступи правильно хоть раз в жизни.

Ваш комментарий сохранен и будет опубликован сразу после вашей авторизации.

0 новых комментариев

    КАК ХАКНУТЬ МОЗГ ЧЕЛОВЕКА. ВЗЛОМЩИКИ СОЗНАНИЯ

    Мечта любого хакера выйти из тени и взламывать реальность. Вы удивитесь, но такие хакеры существуют, причем практикуют они очень давно. Их цель добраться до мозга на подсознательном уровне и внедрить вредоносный код.Мозг – это инструмент, с помощью которого человек обрабатывает потоки информации, полученные от органов чувств. Визуально человеческий мозг совсем не похо...
    -->
    237

    Сознание — это пассажир мозга

    Абсолютное большинство людей считают, что их личность – это их сознание, хотя на самом деле это не так. Исследования убедительно показывают, что  прежде чем, что-либо сделать/поступить/, ваш мозг уже " принял" решение, а вы его исполняете, думая , что именно вы так решили. Почитайте эксперимент Либета. Поэтому ваше правильное/ неправильное мышление ничего не дает...
    -->
    202

    Как же человек все-таки противостоит искушениям?

    Про стэнфордский зефирный эксперимент сегодня написано много ерунды. Нередко его сводят к следующему: мол, ученые проверили силу воли у детей, искушая их зефирками, а затем проследили, как сложилась их судьба. Те, кто еще в детстве проявляли выдержку, в будущем стали успешными людьми. А те, кто легко поддавались искушениям, со временем превратились в неудачников.Какой...
    -->
    768
    Дарина Литовиж 18 октября 14:08

    Знаю или верю?

    Сущность человека - это его вера. Мы привыкли рассматривать Веру применительно к религиозным аспектам нашего бытия, но редко задумываемся о том, что фактически Вера руководит всеми аспектами нашей жизни - отношением к друзьям, к любимым, вера незримо руководит отношением к  власти, к своей стране, к другим государствам, да и к пониманию мироустройства в целом.&n...
    -->
    786
    Дарина Литовиж 13 октября 21:12

    Как хорошо быть русским

    Прочитал тут наивный детский пост про причины любить русских, и задумался, а за что я люблю свой добрый народ? Даже молдаванин найдёт сто причин, по которым молдаване лучший народ на Земле, значит и у русских должны такие причины. За что мы, русские, любим нас, русских? (помимо очаровательной скромности, содержащейся в этом вопросе).За потрясающую смесь гордости и сам...
    -->
    2420
    Дарина Литовиж 13 октября 15:59

    Она не Бузова, не жена Джигарханяна. Она ИСТИННАЯ РУССКАЯ.

    О ней не говорят по телевизору, не пишут в СМИ, ведь она не Бузова, не жена Джигарханяна и уж тем более не Шурыгина – она истинная русская девочка, о которой из века в век писали поэты и писатели. Девочка выжила в трагедии на Сямозере в Карелии, где по халатности взрослых погибли 14 человек.13-летняя Юля Король, круглая сирота, все богатство которой состоит в бабушке ...
    -->
    3502
    Дарина Литовиж 11 октября 15:58

    Я хочу иммигрировать в СССР

    Это странное желание для человека, который живёт в великой стране. Настолько великой, что большая часть «лучшей части» населения этого государства мечтает о том, чтобы в этой великой стране наворовать побольше и свалить подальше.Я не хочу никого звать с собой – это бесполезно. Снова слушать про очереди за колбасой, про ленивое быдло, которое не хотело работать, а хоте...
    -->
    1489
    Дарина Литовиж 11 октября 15:06

    Портрету может быть больно

    Тайная связь, существующая между изображением, портретом человека, и им самим, известна была еще в древности. И сегодня у инденцев племени навахо (США) шаман, чтобы вылечить человека, изображает на земле с помощью окрашенного песка его портрет. Сходство с оригиналом при этом не требуется. Цель шамана - не внешнее сходство, а иные, более глубокие уровни подобия изображ...
    -->
    350
    Дарина Литовиж 29 сентября 01:35

    Удивительная визуализация мозга

    Несмотря на все достижения современной науки, человеческий мозг остается самым загадочным объектом. Невозможно "проникнуть" в глубины мозга, не нарушая его работы, и выяснить, каким образом происходит запоминание информации, обработка речи, как формируются эмоции.«Люди стали понимать, что мозг — некая загадочная вещь, которую мы по недоразумению почему-то называе...
    -->
    685
    Дарина Литовиж 24 сентября 20:19

    За тех, кто не все

    Человек, столкнувшись с досадными обстоятельствами, склонен обобщать своё видение на весь мир. Если  причинили боль, если человек не находит справедливости,или его обманули, предали, то... вера в хорошее уходит и человек закрывается обобщая свою злость, гнев, боль на всех, потому что так легче.Всем знакомы высказывания -Все мужики сво...!. Все бабы – дуры. Все ру...
    -->
    1514
    Дарина Литовиж 23 сентября 14:06

    Москва не поверила израильской хуцпе. Военная реакция России и Израиля за последние 48 часов

     Израиль ввел в мировую политику интересное понятие- право превентивного удара. То есть нанести удар не в качестве ответа за нападение, а в качестве меры профилактики. У других стран такого права нет. Интересно, что сказала бы мировая  общественность, если бы Россия   под предлогом превентивного удара начала бомбить базы НАТО , окружившие нашу...
    -->
    4600
    Дарина Литовиж 22 сентября 15:05

    Имеющий уши, да услышит, имеющий глаза, да увидит...

    Помните роман Д. Оруэлла "1984"? Напомню, по сюжету в обществе каждому жителю присуждена маркировка, определяющая его возможности и привилегии.За главным героем и другими сотрудниками неустанно следит Большой Брат, который все видит и все знает. Думаете, что это невозможно?? А зря.  Китай уже воплотил сюжет в жизнь и проект  начал свое шествие...
    -->
    3077
    Дарина Литовиж 21 сентября 23:47

    Где мой дом? Вопросы к цивилизации

    В  мире масок вдруг искренняя пронзительная история о поиске своего жизненного пути, о своем месте в этом мире.Я чувствовал себя маленьким и одиноким почти всегда.Не потому, что меня не любили, а потому что я не ощущал себя частью чего-то большего. Мне были чужды клубы по интересам, патриотизм, мужские сборища на футбол или водку, но я не хотел быть один и постоя...
    -->
    681
    Дарина Литовиж 19 сентября 20:47

    Избежание конфликта гарантирует конфликт, но более крупный и более опасный.

    Всё сходит с рук Израилю. Методично отгрызает  куски территории у соседних государств. Убивает палестинцев при малейшем чихе с их стороны, будь то даже женщины или дети. С момента своего создания провел более 20 войн.Отхватил безнаказанно у Сирии Голанские высоты. Осуществил в течении только этого года более 200 авианалетов на Сирию. И ни раз...
    -->
    5552
    Дарина Литовиж 17 сентября 21:23

    «Ты виноват уж тем, что хочется мне кушать»

    В СМИ сегодня активно обсуждаются новые доказательства причастности Украины к крушению "Боинга". К сожалению, эти доказательства могут быть убедительными только для тех, кто заинтересован в реальном расследовании. Запад к таким не относится, разве что Малайзия проявит интерес.Опять, к сожалению, но.. в современной политике принцип «ты виноват уж тем, что хочется м...
    -->
    1408
    Дарина Литовиж 23 августа 19:48

    Американский питон продолжает сжимать кольца.

    Как известно сегодня за закрытыми дверями проходила встреча Патрушева и Болтона в Женеве.  И опять американцы отказались подписывать итоговой заявление. И причина всё та же. В нашей логике,  правила, установленные  на международной арене, должны соблюдаться  всеми  одинаково, в американской же логике" джентльменские правила игры...
    -->
    5468
    Дарина Литовиж 16 августа 15:29

    Флешка

     Организмы не участвующие в круговороте веществ энергетически не целесообразны и обречены на вымирание. Вот и возникает вопрос - какой такой полезный продукт создает человек и кто его потребляет. (Если конечно человек не создан специально в качестве могильщика планеты:))) Всем известно, что все живые организмы на нашей планете являются частью биосферы и кажд...
    -->
    963
    Дарина Литовиж 26 июля 17:28

    Информация — это Еда!

    К информации нужно подходить так же как к питанию. По сути -это и есть питание, только не физического, а эмоционального и ментального тела. Любой, заботящийся о своем здоровье вдумчиво походит к покупке продуктов, обращая внимание на состав, на качество, свежесть, наличие или отсутствие ГМО. Есть продукты, вызывающие зависимость, а есть , как сладкая смерть- при...
    -->
    595
    Дарина Литовиж 21 июля 18:07

    Кто хранитель ключей..

    Насколько человек может управлять своими  желаниями?  Ведь не секрет, что все мы время от времени совершаем поступки на грани драмы и комедии.  Даже самые умные нет-нет да и затеют такое  глупое, что  все заканчивается грустно и печально, ломая всю жизнь... Иногда человек даже осознаёт, что действует не в своих  интересах. И тем не м...
    -->
    810
    Дарина Литовиж 20 июля 12:22

    Информационная безопасность

    Какое дело обычному человеку до вопросов информационной безопасности? Большинство людей, с которыми мне приходилось по жизни общаться на эту тему так и говорят, что им нечего скрывать, потому что они законопослушные граждане, а их личная жизнь никому не интересна.Однако, тут налицо элементарное непонимание того, что и кому они позволяют знать о своей личной жизни. Вед...
    -->
    2077
    Служба поддержи

    Яндекс.Метрика