Великий калькулятор

«…Чего хотят простые люди? Спокойствия. Хлеба. Безопасности. Веры во что-нибудь. Перспективы. Вот наша позитивная программа.
— Вера в бога?
— Да, но в бога современного, космического. Вы верно выделили главное. Вера — вот цемент нашей программы. Чем больше изучаешь человека, тем лучше видишь, что вера для него все равно, что дыхание. Не так уж важно во что: отрицание веры тоже становится верой. Религия была отличной штукой, но она устарела. Любой дурак сейчас может сказать: “бога нет” — вот чем она плоха. А у нас бог будет, реальный, зримый, творящий хлеб, спокойствие, безопасность, перспективу.
— Уж не вы ли?
— О нет. Конечно, пример Гитлера и ему подобных показывает, что человеку занять место бога в наш просвещённый век не так уж трудно. Но у такого бога есть наряду с достоинствами серьёзные недостатки. Во-первых, у него есть национальность, а это обстоятельство раздражает другие народы. Во-вторых, он смертен, что и вовсе плохо. В-третьих, такой бог не нов, у людей есть кое-какой опыт, и с этим надо считаться. Наш бог будет лишён всех недостатков…»
(«Космический бог», Дмитрий Биленкин, 1967 год)

На днях в моих новостных лентах произошел всплеск всякого про нейросети. В частности, многие репостили «портреты» российских городов из этой серии https://t.me/neyroset_vidit/28... и обсуждали перечень профессий, где нейросеть не сможет заменить человека по версии самой нейросети. В начале я попытался переписываться непосредственно с теми, кто выкладывал эти темы. Но, быстро осознал глубину расхождения в наших взглядах и решил написать своё видение вопроса. Возможно, кому-то пригодится.

Для начала давайте разберемся с термином «искусственный интеллект», который плотно вошел в наш обиход в основном благодаря фантастам. Первоначально этот термин был использован научной средой для описания инженерии интеллектуальных машин и программного обеспечения «для выполнения функций, обычно требующих применения человеческого интеллекта». Если говорить простыми словами, то речь шла о некоторых устройствах, кое-где и ограничено имитирующих человека. Но, научный термин удачно лёг на давно описываемые фантастами человекоподобные устройства (роботов) и понеслось.

Особенно нехорошо получилось с русским дословным переводом исходно английского термина artificial intelligence. В английском языке словосочетание искусственный интеллект (ИИ) не имеет настолько яркой антропоморфной окраски. А в русском это по смыслу звучит именно как некое волшебное существо, созданное человеком – но почти равное ему (или превосходящее) по способности мыслить. Поэтому, термин ИИ мне категорически не нравится. Так как, для многих людей он вносит путаницу и иллюзорные ожидания.

Термин нейросеть более нейтральный, но он часто используется вперемешку с термином ИИ. Помимо того, в целом уже сформировано общее представление (можно даже сказать «миф») об искусственных устройствах, как о некоем классе существ начинающем соперничать с людьми. Несколько десятков лет промывания мозга страшилками об отмирании профессий не прошли даром. Так что, и нейросеть тоже воспринимается общественным сознанием как «живое» существо: в чём-то, по сравнению с нами, более ущербное, а в чём-то – неизмеримо нас превосходящее.

И вот обсуждение любой тематики про ИИ и нейросети происходит именно в этом контексте. Мы как будто обсуждаем результаты деятельности существ – не таких как мы, но тоже живых. Собственно, потому и кажется особенно любопытно рассмотреть, что они там напридумывали, эти нейросети – они ведь совсем другие. А дальше начинается прикручивание качеств в зависимости от фантазии конкретного человека. Один считает, что нейросеть не может ошибаться. Другой – что нейросеть нейтральна, безэмоциональна. Третий, что она способна хорошо объединять разрозненные признаки. В итоге, большинство людей принимают выдачу от ИИ любой информации как нечто более глубокое, качественное и беспристрастное, чем от человека. А это и есть самая интересная часть «марлезонского балета»… Но, об этом чуть позже. В начале давайте разберём что же такое этот ИИ.

Весной 1990 года я попал на физико-математическую олимпиаду для школьников в Тюменский гос.университет. Среди прочих, одна из задач не имела явного «красивого» решения. Организаторы олимпиады нарочно включили её в состав для отвлечения внимания. Кто был поумнее – быстро это поняли и отложили. Кто-то не сообразил и потратил драгоценное время. А у меня был с собой программируемый калькулятор МК-61. Поэтому, когда я догадался о подвохе, то задал задачу устройству. Был состряпан простейший алгоритм перебора вариантов численных ответов и запущен в калькуляторе. МК-61 имел чудовищно низкое быстродействие. Что-то типа пару десятков математических операций в секунду. Но, за 4 часа он сумел выдать мне результат с точностью до трех знаков после запятой. А всё это время, я спокойно решал другие задачи. Решение калькулятора мне в олимпиаде не засчитали, так как это не предусматривалось правилами. Но, сам подход отметили и пригласили без экзаменов поступить на математический факультет.

К чему эта история помимо хвастовства своими детскими достижениями? К тому, что это был конкретный случай применения того, что называется термином ИИ. Перебор заданных вариантов в соответствии с правилами алгоритма – это всё, что может делать любой компьютер. От примитивного МК-61 в 80-е годы, до самого наворочанного и скоростного современного кластера суперкомпьютеров – они просто перебирают варианты по заданной схеме. То, что называется нейросетями, перебирает варианты по разным схемам, но всё равно в некоторых заданных рамках. Этакие самоадаптивные алгоритмы. И это всё, ничего больше в этом нет.

Внешние проявления этих переборов по алгоритмам могут выглядеть очень впечатляюще. Выигрывать в шахматы у чемпионов мира, сдавать тесты Тьюринга и вполне правдоподобно сочинять некие тексты. И, когда нет ясного понимания, что за этим стоит высокоскоростной калькулятор, то легко очеловечить такое устройство. Особенно, если оно называется искусственным интеллектом - что воспринимается как созданное человеком сознание. Ах, как приятно щекочет чувство собственной важности мысль о том, что люди приблизились к самому Создателю и уже лепят механических существ по своему образу и подобию…

Но, нет. Не приблизились. И это довольно очевидно, если вспомнить, что у нас до сих пор нет хоть сколько-нибудь внятной модели собственного мозга. То есть, мы не понимаем, как мы на самом деле думаем. В чём именно заключается работа сознания? Как оно действует? Что такое мысли и откуда они приходят? Мозг – это черный ящик нашего организма. Полюбопытствуйте работы Бехтерева (Институт мозга), если сомневаетесь.

А можно ли построить действующую модель чего-то, если мы не понимаем самих принципов действия этого? Нет, ну кое-какие подходы к пониманию есть. Но, цельной картины нет и близко. И тогда получается анекдот про папуасов и непонятное устройство, которое они описывали. «Громко гудит» - резюме принципа действия электрического трансформатора в их изложении. Так и Алан Тьюринг составил свой знаменитый тест на искусственный интеллект. Как только мощность процессоров достигла нужного уровня – тест был пройден. Вот только думать компьютеры не начали.

Ну, да и бог бы с ними. Не думают, зато как имитируют! Особенно эти современные нейросети. ChatGPT так хорошо пишет тексты, а Midjourney так замечательно рисует. Смотрел недавно ролик молодого блоггера в Ютубе, который взахлёб рассказывал, что уже не нужно учиться рисовать и изучать хоть что-то, чтобы писать красивые тексты. Он предрекал потерю работы всем художникам и писателям, юристам и журналистам, декораторам и рекламщикам. Я аж заслушался. Вот только не поверил, уж больно напомнило «одно сплошное телевидение» из «Москва слезам не верит».

Все эти прекрасные нейросети берут информацию для своего «обучения» где? Правильно, в Интернете. А Интернет – это не источник информации, а информационная помойка. Сегодня в трейлере новой киноверсии «Трех мушкетеров» Д’Артатьяна играл негр. Ну, мы-то знаем, что это на западе такая повесточка. А нейросети об этом кто сказал? А то, что в Википедии понаписано по целой куче вопросов всякая бредятина - кто отфильтрует? Так что, извините, но лечить себя по рецептам нейросети я, пожалуй, поостерегусь.

Ну и давайте вернемся к теме очеловечивания механизмов. Эта история давняя, чего уж там. Один робот Вертер чего стоит! Ведь жалко его было, да?

Однако, в последние пару десятков лет резко увеличилась подача в искусстве (кинематографе, в первую очередь) роботов и компьютеров каким-то образом «оживших» и «очеловечившихся». На вскидку вспоминается: Бегущий по лезвию (Blade Runner, 1982) и продолжение в 2016, Короткое замыкание (Short Circuit, 1986), Двухсотлетний человек (Bicentennial Man, 1999), Искусственный разум (Artificial Intelligence: AI, 2001), Я, робот (I, Robot, 2004), ВАЛЛИ (WALL-E, 2008), Робот по имени Чаппи (Chappie, 2015). А также: вся серия Трансформеров, вся серия Терминаторов, Мир дикого запада и ещё очень много фильмов не топовой категории. И это только то, где тема искусственной жизни находится на первом плане кино. А ведь есть ещё море фильмов, где такие «живые» устройства просто рядовые участники действия. Звёздные войны с их R2D2 и C3PO, Интерстеллар с роботами-шкафчиками с шикарным чувством юмора и так далее.

Очевидно, что таким образом неискушенному массовому зрителю формируется некоторый образ. И образ этот довольно долго был мне непонятен. Ну зачем бы так старательно формировать у обывателя определенный рефлекс на железяку с сервоприводами или программный комплекс? А недавно всё встало на свои места.

Во-первых: у этого, так называемого, искусственного интеллекта сформирован образ более квалифицированного и надежного источника решений, чем человек.

Во-вторых: не смотря на всё своё могущество, искусственный интеллект как бы остаётся «слугой» человека.

В-третьих: даже если искусственный интеллект по чьему-то недосмотру вдруг стал человеку врагом – всегда есть кнопка, чтобы его выключить.

Сейчас нам начинают подавать разные «наработки» искусственного интеллекта в тестовом режиме. Вот, посмотрите, как выглядят картинки ваших городов. Прокомментируйте, нравится ли? (У меня лично большие сомнения, что их действительно формировал ИИ. Гораздо больше похоже, что кто-то дал конкретные указания по всему, начиная со стиля. Да, собственно «рисование» вполне могла сделать нейросеть MidJourney. Но, рисование и только.) А куча людей с восхищением обсуждают. Дескать, вот что творит Deus ex machina (бог из машины)!

Скорее всего, в обозримом будущем нам попробуют подсунуть историю про гениального парня из калифорнийского гаража, который таки создал настоящий искусственный интеллект в своём Маке. И этот ИИ окажется настолько умным и добрым, что начнёт решать сложнейшие задачи человечества. Ну, парочку точно решит (не зря же у нас прогресс встал, как вкопанный, последние лет 10-15). Или лекарство найдёт от КОВИДа. Кто сказал: «его создавали вместе с вирусом»?

А потом и власть этому ИИ можно будет передать всю. Ну, может не всю, но основные вопросы. И контроль тоже передать. Он ведь великий и добрый. И законы робототехники нас берегут, конечно же. Зря, что ли, Азимов старался? Понятно, что мудрые решения великому пропишут те, кто надо. Раньше у фараонов жрецы были. Теперь у супер-ИИ будут сисадмины. Но, о том нам не станут рассказывать. Зачем зря беспокоить?

Думаете не получится? Не отдадим власть? Не поверим?

Ну, как знать. Я бы не был так уверен. При хорошем PR знаете, что можно? На Штаты посмотрите, на президента их. Его, кстати, дед на перфокартах обзывают. Что, как бы намекает. (Перфокарты – это древнейшие компьютерные носители информации, бумажки с дырочками. А то не все в курсе.)

В общем, прежде чем создавать искусственный интеллект, неплохо бы победить естественный идиотизм.

P.S. И ещё, чтоб два раза не писать на одну тему. Вообще-то, все сложности в этом вопросе от того, что люди зачем-то перестали четко понимать разницу между живой и мертвый. И это весьма показательно.