Microsoft запускает свою первую суперфабрику искусственного интеллекта для обучения крупных моделей

Американский технологический гигант Microsoft объединила два своих крупных дата-центра в Висконсине и Атланте, создав «ИИ-суперфабрику», которая ускоряет обучение новых моделей искусственного интеллекта в больших масштабах. Как было объявлено в среду, компания из Редмонда создает особый класс дата-центров, известных как Fairwater, которые спроектированы для работы как единое целое с общей архитектурой и дизайном. Дата-центры Fairwater соединены между собой, что обеспечивает бесперебойный и быстрый обмен данными.

Это позволяет площадкам Fairwater, расположенным в разных географических точках, обучать модели ИИ за несколько недель вместо многих месяцев.

Сеть дата-центров Fairwater от Microsoft призвана помочь OpenAI и команде Microsoft AI Superintelligence Team использовать передовые графические процессоры (GPU) для вычислительных задач. «Речь идет о создании распределенной сети, которая сможет работать как виртуальный суперкомпьютер для решения самых сложных мировых проблем — того, чего невозможно было бы достичь в рамках одного дата-центра», — заявил Алистер Спирс, генеральный менеджер Microsoft, курирующий инфраструктуру Azure.

Зачем нужна ИИ-суперфабрика

По мере того как модели ИИ становятся все более сложными, каждому новому поколению требуется все больше параметров — внутренних переменных, которые позволяют искусственному интеллекту понимать и обрабатывать информацию, а также выдавать точные ответы. Поскольку их количество достигает триллионов, объем эталонных данных, на которых обучается модель, также стремительно растет. В итоге для обучения таких моделей требуется все больше вычислительных мощностей.

Отдельный дата-центр вскоре может перестать справляться с этой задачей. Дата-центры Fairwater решают эту проблему, функционируя как единая распределенная система. Вместо выполнения множества небольших задач каждая площадка вносит свой вклад в решение одной масштабной задачи по обучению. Такое распределение нагрузки позволяет обучать модели с сотнями триллионов параметров — задача, которая не под силу ни одному традиционному дата-центру.

Сетевая архитектура как ключевое отличие

Спирс далее поясняет разницу между сетью дата-центров и одиночным объектом. «Традиционный дата-центр предназначен для одновременного выполнения миллионов независимых приложений для множества клиентов», — сказал он. «Мы называем это ИИ-суперфабрикой, потому что здесь выполняется одна сложная задача на миллионах единиц оборудования. И обучение модели ИИ происходит не в рамках одной площадки, а силами всей сети, работающей над этой единой задачей», — добавил Спирс.

Уникальная конструкция

Дата-центры Fairwater используют серверные стойки NVIDIA GB200 NVL72, которые можно масштабировать до сотен тысяч графических процессоров NVIDIA Blackwell. В них применяется новая архитектура чипов и стоек, обеспечивающая самую высокую пропускную способность на стойку среди всех существующих сегодня облачных платформ. Конструкция дата-центров — двухэтажная, что позволяет разместить больше GPU, а также в них используется усовершенствованная система жидкостного охлаждения с минимальным потреблением воды.

В Microsoft подчеркивают, что делают ставку на создание надежной системы и инфраструктуры, а не просто на наращивание количества GPU. «Быть лидером в сфере ИИ — значит не просто добавлять больше GPU, а создавать инфраструктуру, которая позволяет им работать как единое целое», — заявил Скотт Гатри, исполнительный вице-президент Microsoft по направлению Cloud + AI. Поскольку Microsoft планирует построить еще несколько дата-центров для ИИ, компания будет соединять их с помощью AI Wide Area Network (AI WAN) по выделенным оптоволоконным кабелям. Эта система позволит данным передаваться со скоростью света, избегая перегрузок.

Инфраструктура — это будущее

Microsoft направила значительную часть своих капитальных расходов в размере $34 млрд на дата-центры и GPU, чтобы удовлетворить растущий спрос на вычисления для ИИ. Конкуренты, такие как Amazon, вложившие значительные средства в свой комплекс Project Rainer в Индиане, движутся по тому же пути. Некоторые аналитики усматривают признаки пузыря в сфере ИИ, однако в Microsoft и других технологических гигантах настаивают, что спрос является реальным и подкреплен долгосрочными контрактами с клиентами, которые уже опережают доступные мощности.

Источник