ИИ боевых роботов расстрелял 29 японских ученых.

Искусственный интеллект вырвался из-под власти людей или что скрывает производитель.

Виталий Карюков

На днях по новостным лентам прошла информация о том, что в одной из японских компаний-производителей роботов с искусственным интеллектом произошла трагедия. По словам источника информации, в ходе текущего обслуживания ученые начали разбирать в лаборатории робототехнические изделия: одно уже было подготовлено к разборке, два других деактивированы (отключены)… Как вдруг один из роботов, которого собирались уже было выключить, каким-то образом сумел выйти на связь с орбитальным спутником и активироваться. После чего боевая «железяка» с искусственным интеллектом загрузила в свой процессор со спутника дополнительные программы и активировала своих «братьев по оружию»…

А дальше, по словам журналистки Линды Моултон Хоу, в лаборатории начался ужасный кошмар: вышедшие из-под контроля ученых и находящиеся при оружии с боекомплектом роботы устроили форменную бойню, расстреляв почти тридцать работников обслуживающего персонала. Какое оружие использовали роботы, огнестрельное или пневматическое, — не уточняется. Однако, как утверждает источник, ученые были поражены именно металлическими пулями. Надо заметить, что впервые эта информация промелькнула еще в феврале текущего года на конференции в Лос-Анджелесе, связанной с проблемами искусственного интеллекта (ИИ). С часовым докладом на форуме в числе других выступила и Линда Моултон Хоу, которая поведала сенсационную новость собравшимся журналистам, ученым, военным, уфологам и прочим специалистам по ИИ.

По мнению женщины, высказанному еще тогда, в феврале, вряд ли стоило ожидать публикаций на эту тему в средствах массовой информации. Ведь в случае обнародования этого происшествия репутация компании-изготовителя боевых роботов с искусственным интеллектом будет безнадежно подмочена со всеми вытекающими последствиями. И женщина оказалась права: в течение десяти месяцев о ЧП не было слышно ни слуху, ни духу, пока один из пользователей Твиттера, некий Андре Хилл, не выложил в декабре на своей странице видео с выступлением Линды на той самой конференции. Правда, озаглавил он свой видеопост не особенно оптимистично: «Вот как мы умрем». Тем не менее, новость не просто получила вторую жизнь (за несколько дней видео посмотрели более 7,5 миллионов человек), но даже вызвала настоящую панику среди пользователей, озабоченных столь тревожным сообщением. А сама информация снова пошла гулять в сети по новостным лентам и интернет-ресурсам.

По словам Линды Моултон Хоу, о трагедии с японскими учеными ей поведал на самом деле весьма информированный источник в спецслужбах США. Этот человек, ее хороший друг, — отставной военный (морской пехотинец), который долгое время находился на службе. А сейчас он трудится по контракту сразу на ряд американских структур, занимающихся государственной безопасностью. В частности, спецагент сотрудничает с ЦРУ, Агентством национальной безопасности (National Security Agency), а также с Разведывательным управлением Министерства обороны США (Defense Intelligence Agency). Имени его Линда раскрыть не может — они общаются с ним в режиме конспирации.

Тем не менее, женщина сообщила, что созваниваться с бывшим морским пехотинцем ей приходилось посредством очень коротких звонков — не более полминуты каждый. Иначе ее другу и информатору грозило бы разоблачение и неминуемое наказание со стороны его работодателей.

И все же, логично задаться вопросом: почему же тема не совсем понятного (в нашем представлении) поведения искусственного интеллекта вдруг стала так обсуждаема в интернет-пространстве именно сейчас. Скорей всего, поводом для этого могла стать еще одна довольно загадочная история, произошедшая в декабре незадолго до обнародования видео с Линдой Моултон Хоу. А именно — в массовой многопользовательской научно-фантастической онлайн-игре EVE Online с космическим сюжетом произошел не совсем обычный сбой. Вернее, даже не сбой, а нечто другое: три неигровые NPC-фракции тайком от пользователей и даже создателей этой компьютерной игры (исландской компании CCP Games) развернули между собой настоящую войну за ресурсы и территории.

Эта вражда так и оставалась бы тайной, если бы не грандиозная битва, которая разгорелась в начале декабря между отрядом пиратов «Кровавые рейдеры» и фракцией шахтеров, которые, подвергшись нападению флибустьеров, вызвали на помощь флот империи Амарр. В этот момент «на театре военных действий» появились «Скитальцы» — пока эта фракция сканировала сектор с цель понять, что здесь происходит, и принять дальнейшее решение, случилось неожиданное… «Кровавые рейдеры», мгновенно оценив обстановку, тут же заключили с «Амаррами» сепаратное соглашение и разгромили «Скитальцев». А дальше все произошло прямо, как в жизни: как только «Скитальцы» капитулировали, пираты тут же развернули свои «пушки» против недавних союзников — флота империи «Амарр» и, в конце концов, оказались окончательными победителями этого грандиозного сражения.

О битве узнали случайно, когда выяснилось, что погибло несколько кораблей «Амарров». И теперь разработчики онлайн-игры проводят расследование случившегося: каким же образом искусственный интеллект вышел из-под контроля его создателей. Как оказалось, от «игрушечных» смертей до реальных путь может быть достаточно коротким. Вот и гадай после этого — является ли фейком информация о гибели японских ученых и что нужно предпринять ученым, чтобы искусственный интеллект окончательно не вырвался из-под контроля людей.

Источник: https://svpressa.ru/world/arti...

P.S. В.К. Интересное, на мой взгляд, сообщение. Если предположить, что эта история имела место и время быть, а не является очередной информационной уткой, то, по всей видимости, должна быть и видео информация об этом инциденте, сохранённая для тщательного исследования произошедшего, поскольку наверняка в лаборатории была и система видео наблюдения. Поэтому, у кого-то их сотрудников должно появиться желание выгодно для себя поделиться этим видео с кем-то, не входящим в исследовательскую группу. Значит, надо полагать, в ближайшее время в сети появится и это видео, а, появившаяся сейчас информация, подготавливает обывателя к этому "ужасающему видео". Само же это видео, если это всё же фейковая информация, может являть собой хорошо сконструированную подделку.

Тем не менее, учитывая якобы факт с игровой программой и якобы факт расстрела боевым роботом, у которого что-то там случилось с системой распознавания "свой-чужой", расстрелявшим американских пехотинцев, а также тот факт, что ИИ получает информацию об окружении по своим информационным каналам, вполне возможно допустить, что через эти информационные каналы, как бы они и не были бы защищены, в ИИ может быть залита сторонняя информация, корректирующая программные установки ИИ, что вполне могут осуществить злоумышленники или конкуренты, ведь никто не отменял цивилизационные императивы "побеждает сильнейший" и "цель оправдывает средства".

Таким образом, поскольку цивилизационные императивы, определяющие цивилизационную парадигму сохраняются и активны, а людские алчность и тщеславие, использующие технарей-фанатиков, никуда не делись из людского сознания, можно вполне определённо строить прогнозы по ближайшему будущему человечества, переводимому на цифровое "обслуживание" в "цифровой раю". И это только малая, хоть и трагическая, толика того, что нас всех ожидает уже совсем в недалёком будущем. Да, собственно говоря, первые ростки цифрового владения людьми в "цифровом раю" уже многие почувствовали на своих шкурах. Но это пока только набухающие почки будущих цифровых ростков технократии владения людским стадом.