Энергия и ИИ: Сколько энергии тратится на один вопрос к ChatGPT?

Похоже, пути назад уже нет — крупные языковые модели (LLM), такие как ChatGPT, скорее всего, останутся с нами. Эти алгоритмы, напоминающие ИИ, порой бывают полезными, но сейчас они буквально повсюду. Даже простой запрос в Google выдаёт вам ответ от ИИ прямо наверху страницы.

Одна из проблем ИИ (конечно же, их несколько) — это то, что они используют ОЧЕНЬ МНОГО энергии. Трудно назвать точную цифру, описывающую их энергопотребление, но вот оценка от Business Energy UK: ChatGPT использует 0.14 киловатт-часа на 100 слов. Это означает, что даже просто поблагодарить ИИ словами «спасибо» может потратить заметное количество энергии. Безумие (но я всё равно поблагодарю наших роботизированных повелителей).

Мощность и энергия

Начнём с краткого обзора разницы между мощностью и энергией. Вот пример: допустим, я поднимаю учебник с пола на стол. Энергия книги увеличивается примерно на 10 джоулей. Это значит, что моя внутренняя энергия уменьшилась на те же 10 джоулей, поскольку энергия сохраняется. Да, лучшей единицей измерения энергии (по крайней мере, на мой взгляд) является джоуль.

Мощность — это скорость изменения энергии в системе.

Так, если я поднимаю книгу за одну секунду, потребуется мощность 10 джоулей в секунду, то есть 10 ватт. Подъём той же книги за 10 секунд требует столько же энергии, но мощность составит лишь 1 ватт.

А теперь перейдём к этому странному юниту — киловатт-час. Это количество энергии, получаемое при мощности 1000 ватт в течение одного часа. Чтобы перевести в джоули, нужно использовать время в секундах: 1 час = 3600 секунд. Таким образом, 1 киловатт-час = 3.6 x 10⁶ джоулей.

Энергия на одно слово ИИ

Переходим к оценкам. Берём 0.14 киловатт-часа на 100 слов от языковой модели. Делим на 100 (чтобы получить количество на одно слово) и переводим в джоули: 5040 джоулей на слово. На самом деле это не так уж много энергии (примерно как поднять книгу на стол 500 раз). Давайте развлечёмся и придумаем несколько забавных физических задач с ответами.

Сколько слов в минуту может генерировать ИИ на ноутбуке?

Допустим, у вас есть ИИ, работающий на ноутбуке с блоком питания в 100 ватт. Сколько слов в минуту он сможет генерировать? Ответ: не так уж много — всего 1.19 слова в минуту. Вы, скорее всего, найдёте ответ быстрее самостоятельно.

Сколько шоколадок нужно ИИ, чтобы написать эссе на 1000 слов?

Для 1000 слов потребуется вычислительная энергия в размере 5 × 10⁶ джоулей. А сколько это шоколадок (если бы компьютеры ели)? Допустим, одна шоколадка содержит около 100 калорий — это калории из пищевой, а не химической энергетики. Это примерно 500,000 джоулей на одну шоколадку. Значит, наш "питающийся" компьютер-ИИ должен съесть 10 шоколадок, чтобы написать ваше эссе (которое вы, вероятно, должны написать сами).

Сколько энергии уходит на одно «спасибо»?

Да, другие уже отвечали на этот вопрос — но это никогда не мешает сделать это самому. По предыдущей оценке, одно слово — это 5040 джоулей. Робот может выдать ответ из 2–5 слов (пусть будет 3 слова). Но сколько «спасибо» мы говорим в день? Я точно не знаю, сколько людей регулярно используют ИИ. К тому же, некоторые могут быть грубы с роботами (что, впрочем, не считается грубостью). Пусть будет 10 миллионов "спасибо" в день в США. Это равно 150 миллиардов джоулей в день.

Какой размер солнечной панели нужен, чтобы обеспечить все «спасибо»?

Из предыдущего расчёта известно, сколько энергии требуется в день. Значит, солнечная панель должна производить 150 миллиардов джоулей в день. Предположим, световой день длится 8 часов, а угол солнечного света — 45 градусов. При эффективности панели в 25% (высокая оценка), нужен солнечный вход в 29 миллионов ватт. Солнечная интенсивность на Земле — около 1000 ватт на квадратный метр. Значит, нужна солнечная панель размером квадрат со стороной 171 метр. Я думал, она будет больше.

Сколько бензина нужно в день на «спасибо»?

Предположим, у нас есть большой бензиновый генератор. Энергетическая плотность бензина — 138 миллионов джоулей на галлон. Генераторы, конечно, не идеальны — допустим, их КПД составляет 25%. Итак, в день нужно сжигать 4500 галлонов бензина.

Сколько углекислого газа выделяется от «спасибо»?

Мы уже знаем, сколько бензина требуется. По оценке EPA, каждый сожжённый галлон даёт 8.9 кг CO₂. Помните, углерод берётся из бензина, а кислород — из воздуха. Это означает, что в день благодарности ИИ приводит к выбросу 39,000 килограммов CO₂.

А если бы ИИ получал энергию от людей, как в «Матрице»?

Роботы не хотят использовать бензин. Они хотят использовать людей как термоэлектрические генераторы на 20 ватт (привет, The Matrix). С 10 миллионами «спасибо» в день — это требуется мощность 1.7 миллиона ватт. При мощности 20 ватт на человека это 87,000 человек.

Сколько ChatGPT потребляет воды

По подсчетам аналитиков, только на создание и обучение ChatGPT на базе языковой модели GPT-3 потребовалось 700 000 литров воды в день. Это сопоставимо с ежедневным потреблением небольшого села из 5000 человек. Пока неясно, сколько именно проходил процесс обучения ChatGPT. Если он составлял около месяца, потраченной водой можно было бы напоить всю Москву.

На этом дело не заканчивается. Всем известно, что сервера потребляют питьевую чистую воду для охлаждения и избежание перегрузок. Каждый день миллионы пользователей задают вопросы ChatGPT, и серверам приходится работать во всю силу.

50 вопросов ChatGPT = 1 литр воды

Именно столько потребляют сервера нейросети, чтобы ИИ ответил на полсотни вопросов. Стоит отметить, что ChatGPT на базе GPT-3 потребляет в два раза меньше воды: 1 литр на 100 вопросов. Последнюю версию чатбота с языковой моделью GPT-4 смело можно назвать «водохлебом».

В день сервера ChatGPT потребляют столько воды, сколько требуется производству для создания 320 машин Tesla.

ChatGPT посещают 13 млн пользователей в день — это 150 людей в секунду. Страшно представить, сколько всего запросов выполнил ИИ-чат. Более жутко становится, если перевести все запросы в литры потраченной воды.

олько на прошлой неделе группа из более чем 100 организаций опубликовала открытое письмо, в котором призвала индустрию искусственного интеллекта и регулирующие органы позаботиться о том, чтобы новые центры обработки данных не истощали природные ресурсы и не вынуждали коммунальные предприятия полагаться на невозобновляемые источники энергии.

Ожидается, что масштабы внедрения искусственного интеллекта приведут к огромному расширению инфраструктуры, требующей больших затрат энергии. В ближайшие два года центрам обработки данных искусственного интеллекта может потребоваться почти вся мощность Калифорнии (в 2022 году это составляло 68 ГВт), согласно отчету Rand. Согласно докладу, к 2030 году для обучения передовой модели может потребоваться мощность, эквивалентная мощности восьми ядерных реакторов (8 ГВт).

Источник

Источник