Искусственный интеллект, разработанный в Сколково, посоветовал россиянам бежать из страны

Неудачей завершился дебютный эксперимент компании-резидента Сколково «Поп-тех» по созданию искусственного интеллекта. Заказчиком проекта выступило министерство социальной политики, попросившее летом этого года разработать уникальную программу по типу живого собеседника для граждан. Новый бот Василий должен был отвечать на все вопросы людей, и занимать при этом патриотическую позицию. В его функции входила разработка лайфхаков (удачных решений) для быта и ценные указания по экономии денег.

Работа над помощником длилась три месяца и, по заявлениям создателей, Василий полностью отвечал техзаданию, данному чиновниками из министерства. Более того, он проходил тестовые проверки в МФЦ, поликлинике, отделении пенсионного фонда и непосредственно в министерстве, чиновники которого смогли задать боту интересующие их вопросы и получить на них удовлетворяющие их ответы.

Неожиданный казус произошёл на презентации Василия во время дня открытых дверей в министерстве социальной политики. Чиновники позволили обратиться гражданам к искусственному интеллекту. Во время одного из вопросов на тему, как прожить в месяц на 12 тысяч рублей, механизм дал сбой и посоветовал спросившему срочно бежать из страны. Ведущий программист «Поп-теха» принял такой совет за сбой и перезагрузил Василия, но бот продолжил предлагать эмиграцию и другим гражданам. Его ответы стали носить более объёмный характер. Искусственный интеллект предлагал страны, а также контакты консульств, посольств и визовых центров. После этого заказчик и исполнитель пришли к выводу, что Василий ещё не готов и нуждается в доработке.

Официальный представитель «Поп-теха» Никон Илларионов предположил, что Василий подвергся хакерской атаке, но допустил, что бот может по-разному реагировать на запросы в зависимости от их адресата.

«По обнаруженному коду это похоже на иностранное вмешательство. Хотя вариант, что Василий получился слишком умным, тоже рассматривается. Поэтому он во время обкатки отвечал чиновникам то, что им нужно, а простым гражданам давал другие советы», — прокомментировал ситуацию Илларионов.

В настоящее время Василий отправлен на доработку. Для этих целей министерство выделит дополнительно 3 млрд рублей.

via