Сами не знают, что сотворили

Сегодня хочу поговорить про нейросети и искусственный интеллект. Просто глазами параноидального обывателя, любящего комфорт.

Сейчас семимильными шагами, по сравнению с прошлым десятилетием, а тем более с более прошлыми десятилетиями развиваются нейросети и искусственный интеллект. Сбербанк уже тестирует биометрический доступ к банкоматам, «умные дома» стали по-настоящему умными и при правильной настройке протоколов доступа по RFID-меткам они могут практически всё, на что позволяют текущие технологии… Яндекс (при соответствующей подписке) знает о нас всё от предпочтений в музыке или фильмах до адреса дома, работы, класса такси и любимых машин в каршеринге, предпочитаемых категориях на маркете и в еде. И так далее и тому подобное.

Система распознавания лиц в Москве позволила поймать энное количество преступников. Энное количество я упомянул не случайно – нам оглашают только официальную версию. Помимо неё «Эшники» и ФСБшники по этой же системе наверняка задержали ещё кучу подозрительных типов и преступников, о которых нам расскажут позже и не упомянут эту систему.

В этом есть огромный плюс. Садясь в каршеринг Яндекс Драйв машина опознаёт меня по смартфону и включает любимую музыку, знает где дом и работа. Будь у меня умный дом – Яндекс бы мог ещё больше. Я не скрываю своё лицо от камер в Москве, но скрыть своё лицо от камер в Москве не такая и проблема (вопрос в головном уборе) – это вопрос общественной и моей лично безопасности.

Я люблю, когда мне поисковики подсовывают то, что я искал для себя. Я терпимо отношусь к тому, что поисковики подсовывают мне то, что я искал по рабочим проектам. Это данность.

А теперь представьте себе, что разработчик (или разработчики) нейросетей по злому умыслу или просто поехав кукухой вдруг в протоколе использования и исполнения всяких сервисов вносят вредоносный код. Или нейросети и искусственный интеллект вдруг пересамообучались (а прогресс их самообучения не могут предсказать даже разработчики). Вот что тогда?

А просто теоретически (нет, до SkyNet нам всем далеко) если нейросети и искусственный интеллект переобучаются, да ещё и вредоносный для людей код - вот что тогда?