Эксперт рассказал, зачем людей принуждают к искусственному интеллекту

С 2023 года, когда в Атлантическом океане взорвался подводный аппарат «Титан», совершавший туристические погружения к затонувшему лайнеру «Титаник», кто только не рассказал, каким этот аппарат был плохим и ненадежным! Рассказывают инженеры и компаньоны «Оушен Гейт» (компания, создавшая и использовавшая «Титан»), рассказывают неудачливые туристы — точнее, как выяснилось, очень удачливые, раз вернулись живыми, и мы теперь слушаем их пугающие истории. И молния-то в аппарат ударяла, и хранили-то его неправильно, и ломался он постоянно, и управлять им толком нельзя было (он управлялся джойстиком от «Плейстейшен», это не шутка), а главное — генеральный директор «Оушен Гейт» Стоктон Раш, который вел «Титан» навстречу плачевной судьбе, был самодуром, навигатором-любителем и «ковбоем». Всё это внезапно стало известно широкой публике: как говорится, «в том году его маленечко того, тогда правду мы узнали про него».

Из всего потока запоздалых откровений на меня наибольшее впечатление произвел рассказ документалиста Брайана Уида, который погружался на «Титане» в 2021 году, чтобы сделать съемку для канала «Дискавери». В тот раз всё тоже пошло не так, погружение толком не состоялось, двигатели отказали, джойстик от «Плейстейшен» не работал, и когда Уид осторожно спросил Стоктона Раша, что будет, если закончится воздух, а нас так и не найдут, тот ответил: «Ну, вы умрете».

Этот ответ мне нравится больше всего остального в причудливом нагромождении сюжетных подробностей вокруг «Титана». Он — камертон того явления, которое привело к гибели как «Титана», так и массы пассажиров «Титаника». А именно — безответственности. Когда я читала слова Стоктона Раша «ну, вы умрете», у меня в ушах будто звучали слова предпринимателя-миллиардера Илона Маска, сказавшего, что существует «10–20% вероятности», что искусственный интеллект уничтожит человечество.

Я не забиралась в тесную капсулу «Титана» — и не соблазнилась бы никогда, — но в случае с искусственным интеллектом это та самая подводная лодка, с которой вам некуда деться. ИИ опрокидывают прямо на вас, вынуждают вас жить среди обновлений, на которые вы не подписывались, и между делом сообщают, что вообще-то есть нехилая вероятность, что это вас погубит. И всех ваших близких тоже. Но совсем необязательно. Давайте надеяться на лучшее.

И ладно бы только Илон Маск. Может, он просто эксцентрик и валяет дурака. Но безответственность глядит из каждого угла — и страшнее всего то, что это безответственность интеллектуалов.

Вот директор Института когнитивных исследований СПбГУ, доктор биологических наук Татьяна Черниговская непринужденно сообщает, что «да, мы уступим» искусственному интеллекту, и — цитирую — «даже сами разработчики этих программ, а я говорила с несколькими из Кремниевой долины, уверяют, что они уже перестали понимать, что делает ИИ», и мы «пока даже не можем осознать», в каком направлении разовьется искусственный интеллект, не появятся ли у него какие-то свои планы…

Мне не интересно, появятся ли у искусственного интеллекта планы, и будут ли они зловещие или расчудесные. Мне достаточно вот этого «да, мы уступим». Достаточно того, что уже прямо сейчас происходит нечто малопонятное, потенциально очень опасное, и я хочу, чтобы интеллектуалы прямо сейчас перестали притворяться, что это — ничего особенного, просто прогресс, прогресс неостановим, вы что, против прогресса?

Да, я определенно против прогресса, которым управляет ковбой джойстиком от «Плейстейшен» или интеллектуал, слабо понимающий, что происходит. Я не хочу слушать постфактум причитания, что мы же предполагали, мы же всё видели — вот только до катастрофы ни черта не сделали. То, что ковбой при этом сам погиб — а Стоктон Раш тоже погиб среди других пассажиров «Титана», — меня нисколько не успокаивает. Я не хочу крови ковбоя — я хочу, чтобы не накрыло нас.

И когда генеральный директор одного из крупнейших новостных агентств России утешает журналистов тем, что «в ближайшие несколько лет, а может быть, и десятков лет» они «могут быть совершенно спокойны, не начнет искусственный интеллект делать за нас нашу работу», я не знаю, отдает ли он себе отчет, что «несколько лет» и «несколько десятков лет» — это далеко не одно и то же, во-первых, и что даже через несколько десятков лет жизнь не прекращается, во-вторых. Я понимаю, когда зеленый юнец не планирует на несколько десятков лет вперед. Когда это не делает руководитель крупнейшего новостного агентства, я не понимаю. Речь ведь не о частностях, которые мы действительно не обязаны предвидеть, речь о будущем профессии как таковой. И далеко не только профессии журналиста. Но нет — снова то же безответственное желание плыть по течению, и будь что будет.

Я словно слышу голос, расслабленный, отстраненный голос одного из ведущих разработчиков Open AI Ильи Суцкевера (теперь он уже ушел из компании и разрабатывает собственный искусственный интеллект), которого спросили, будет ли через тысячу лет вообще-то человечество. Этим самым расслабленным голосом Суцкевер ответил, что он не знает. И, судя по всему, ему не интересно. Гораздо интереснее ему разработать суперинтеллект, который будет превосходить человеческий и, по мнению Суцкевера, поспособствует просветлению человека.

Но мне — нет. Мне определенно важнее, чтобы через тысячу лет было человечество. Единственное просветление, которого желаю, — чтобы интеллектуалы просветлились и поняли, как безответственно себя ведут, отказываясь заглядывать за горизонт в несколько десятилетий. Как опасно играют, бросая вызов человеческой природе. Или позволяя бросать этот вызов, игнорируя его. Играют за всех нас, играют нами. Я искренне считаю, что людям, которым будущее человечества важнее искусственного интеллекта, необходимо объединяться.

Документалист Брайан Уид, счастливо выбравшись в 2021 году из погружения на «Титане», внезапно превратившемся в железный гроб, не стал рассказывать широкой публике о разгильдяйстве, которое ему открылось, и о своих сомнениях по поводу будущего этого подводного аппарата. Он не сказал, что «Титан» показался ему бомбой с тикающим часовым механизмом. Зато он опубликовал фотографию улыбающегося себя рядом с таким же улыбающимся Стоктоном Рашем внутри подлодки. Глядя на эту фотографию, вы видите довольных жизнью мужчин: они авторитетны, они успешны, у них всё хорошо, они устремляются навстречу приключениям на чуде техники… Что может пойти не так?

Автор: Татьяна Шабаева

МК