ИИ-апокалипсис или все же нет? Инаугарационно-нейросетевая рефлексия

0 99

Главным технологическим инфоповодом прошедшей инаугурации Трампа стал конечно же анонс проекта Stargate. Инфраструктурного проекта под ИИ-нужды стоимостью $500 млрд. У меня есть несколько мыслей на этот счет, связанных с темой. 


Мысль первая. Связанная с проектом lastexam.ai Для тех, кто не в курсе что это такое расскажу. Это сложный специальный тест, который разработали американские специалисты в области машинного обучения. В этот тест включены экзаменационные вопросы по математике, естественным, гуманитарным и социальным наукам. И название он носит говорящее - Humanity's Last Exam ("последний экзамен человечества"). Тест предназначен для проверки уровня “эрудированности” распространенных генеративных нейросетей. И вот недавно разработчики теста наконец-то проверили его на практике. И результат их совсем не впечатлил.

Даже у самой успешной из моделей, o1 от Open AI, количество правильных ответов не достигло и 10%, а у большинства оно не превысило 5%. Все модели, традиционно с садистским удовольствием галлюцинировали и абсолютно самоуверенно отрицали даже какую-либо возможность ошибки.

Галлюцинирование или "машинные галлюцинации" - это реально существующий термин, обозначает он правдоподобно звучащую случайную ложь, которую генеративные нейросети (и прочие LLM ) встраивают в генерируемый ими контент и преподносят абсолютно безапелляционно. Именно галлюцинирование является той проблемой, из-за которой ценность LLM в точных науках стремится к нулю.

Интересно, что недавно анонсированная, но уже ставшая популярной (модной?) китайская нейросеть DeepSeek R1 смогла принять участие только в словесной части теста, т.к. не имеет мультимодальных способностей (не способна воспринимать формулы и изображения). Хотя стоит отметить, что в этой части она оказалась лучше всех других нейросетей, хотя результат ее не дотянул даже до 10%.

В общем радоваться абсолютному большинству жителей Земли результатам этой проверки не стоит (особенно если посмотреть КАКИЕ в том тесте задания). Но например, какой-нибудь Александр Друзь, наверное, может выдохнуть и ближайшие лет пару спать спокойно.

После прелюдии переходим возвращаемся опять к нашим баранам, точнее к проекту StarGate упомянутому в самом начале статьи. Только о нем уже несколько дней только и разговоров у разных говорящих голов блогеров и транслирующих и перепаковывающих их СМИ. Что же это такое?

А особенно ничего, ведь не стоит забывать про эффект “нация-презентация”. Используя все медийные PR-возможности инаугурации президента США было объявлено об основании Stargate – нового совместного предприятия SoftBank, OpenAI, Oracle и MGX, в которое правительство Трампа планирует вложить 500 млрд долларов. Деньги пойдут на строительство и развитие крупнейшей инфраструктуры для работы нейросетей на территории США (100 млрд выделяют сразу). Здесь SoftBank несет финансовая ответственность, а OpenAI - операционную ответственность. Т.е. фактически OpenAI будет курировать и осуществлять все развитие этого проекта (модели нейросетей, инфраструктура, найм инженеров, организация процессов). В числе “подписавшихся” партнеров ARM, Microsoft, NVIDIA, Oracle.

Больше всего вопросов у сторонних наблюдателей вызвало присутствие Oracle, хотя на мой взгляд удивляться здесь нечему. В рамках проекта Stargate было объявлено, что уже идёт строительство дата-центров в штате Техас, и рассматриваются новые площадки по всей стране (строятся 10 дата-центров, как часть из 20 запланированных, которые будут логически объединены позднее). Т.е. деньги берутся в долг под гарантии государства и строится инфраструктура. В данном случае это будут электростанции (газовые) в Техасе, благо там много обычного и попутного газа от нефтедобычи. Затем на эти электростанции цепляются сервера имени Oracle.

Если говорить честно, то я во всей этой PR-компании вижу только PR-компанию. Или даже какой-то странный “развод”, густо замешанный на активном пиаре связанным с инаугурацией Трампа. Прекрасная возможность донести даже совсем далеким от технологий людям важность вложений в ИИ, показать что в этим направления не стыдно и инвестировать, раз уж сам избранный президент поддержал идею. Мне эта информационная спецоперация очень напоминает недавнюю предновогоднюю презентацию Google, c их “квантовым чипом” Willow. Шумихи, маркетинга и СМИ было много, а практических результатов - с гулькин нос. 

Идем дальше. К сумме в 500 миллиардов долларов, которую планируется потратить на строительство дата-центров Stargate (а все мы помним, что и Сэм Альтман, и Илон Маск последний год хором ныли про то, что им не хватает компьютерных мощностей для обучения своих моделей, вот если бы они были неограниченными, вот тогда бы они ого-го). Сумма обывателю кажется огромной, благо все заявления фронтменов этого движения как раз на создание иллюзии масштабности и направлены. Не зря же сравнили и с лунной программой “Аполлон”, и с ядерным “Манхеттенским проектом”. Хотя это в корне не верно и мне лично резануло слух. В рамках Stargate не планируется никаких особых инноваций и изобретений, это условно говоря, просто большой суперкомпьютер, который будет обучаться на УЖЕ СУЩЕСТВУЮЩИХ ДАННЫХ. А два упомянутых проекта, как никак, принесли человечеству новые знания и открытия, а не как-то там суммировали уже существующие. Но это мелочь

Итак, 500 миллиардов долларов. Вроде бы много. Но на самом деле, такую сумму американцы потратили на покупку одежды и обуви в 2023 году. Для сравнения масштабов - за последние годы частные инвестиции в экономику США находились на уровне 5 трлн. долл. в квартал (!), даже не в год. Т.е. если разделить те 500 миллиардов на четыре года, то получится, что макроэкономическое воздействие этого проекта равно нулю. Хотя пафос конечно вышел знатный.

Многим знакома древнеримская фраза о том, что массам ничего не нужно, кроме “хлеба и зрелищ”. Закрыл ли анонс Stargate “хлеба” - большой вопрос, а вот “зрелищами” массы он точно обеспечил. Именно для этого и нужен был Трамп, который будоражить публику умеет неплохо…


Больше интересного ищите на нашем канале https://t.me/atomic_archive

АН-2 - как убить нужное или Рентабельность души

Очень бы нужен сейчас Родине транспорт, способный соединить дали с центрами. Надёжный, непривередливый. Такой когда-то имелся.Больше половины граждан послевоенного СССР бытовало в малы...

О приёме Украины в НАТО

Сейчас много говорят о возможном (или невозможном) приёме Украины в НАТО. Зеленский утверждает, что только приём Украины в НАТО может стать достойной гарантией безопасности, компенсирую...

Без права на ошибку - 2

В предыдущей статье немного расписал цейтнот в 4 года, в котором находятся трамповские США и Россия, но упустил один момент: на самом деле у нас с Трампом всего 2 года, ибо в 2026-м буд...