«Больше, чем у кого-либо»: Цукерберг похвастался системой с более чем 100 тыс. Nvidia H100 — на ней обучается Llama 4
Гонка вооружений в сфере искусственного интеллекта переходит в новую, энергоёмкую фазу. То, что ещё недавно казалось технологическим рекордом, сегодня становится лишь поводом для публичного соперничества. Главы ведущих технологических корпораций перешли от демонстрации алгоритмов к соревнованию в размерах вычислительных кластеров, ставя под вопрос не только экологические обязательства, но и саму возможность устойчивого развития отрасли.
Миллиарды на вычислительную мощность: кто лидирует в гонке ИИ-кластеров
Заявление Марка Цукерберга об использовании более 100 тысяч графических ускорителей Nvidia H100 для обучения новой модели Llama 4 стало прямым ответом на недавнее достижение Илона Маска. Основатель Tesla ранее отчитался о завершении сборки суперкомпьютера xAI Colossus, располагающего аналогичным парком оборудования. Цукерберг подчеркнул, что его кластер превосходит всё, что ему известно о мощностях конкурентов, явно намекая на амбиции главы xAI. При этом технические детали о возможностях самой Llama 4 остаются за кадром: известно лишь, что модель получила «новые модальности», улучшенные способности к рассуждению и стала значительно быстрее.
Бесплатная стратегия Meta и коммерческие риски
В отличие от закрытых экосистем OpenAI и Google, Meta придерживается политики открытого распространения своих моделей Llama. Компания предоставляет их бесплатно, позволяя сторонним разработчикам и исследователям создавать на их основе новые продукты. Однако эта стратегия имеет свою цену: лицензия накладывает определённые ограничения на коммерческое использование, а сам процесс обучения остаётся засекреченным. Такой подход, с одной стороны, стимулирует инновации, а с другой — создаёт риски для самой Meta, лишая её эксклюзивного контроля над собственной технологией.
Энергетический аппетит ИИ: сколько электроэнергии потребляют суперкомпьютеры
Масштаб используемых мощностей порождает закономерный вопрос об их энергопотреблении. Каждый ускоритель Nvidia H100 потребляет до 3,7 МВт·ч в год. Таким образом, кластер из 100 тысяч таких чипов требует не менее 370 ГВт·ч электроэнергии — объёма, достаточного для обеспечения энергией более 34 миллионов среднестатистических американских домохозяйств. Сам Цукерберг признаёт, что в ближайшее время индустрия ИИ столкнётся с жёстким ограничением по доступным энергетическим мощностям.
Способы решения этой проблемы разнятся. Компания Илона Маска для питания своего суперкластера в Мемфисе использует гигантские мобильные генераторы, расположенные на площади более 7000 квадратных метров. Google, в свою очередь, столкнулась с ростом выбросов парниковых газов от своих дата-центров на 48% с 2019 года. На фоне этих проблем бывший глава Google даже предложил временно отказаться от климатических целей, чтобы дать ИИ-индустрии возможность развиваться в полную силу, а затем использовать сами технологии ИИ для решения экологического кризиса.
Meta предпочла не раскрывать детали того, как именно ей удалось запитать свой гигантский кластер. Однако очевидно, что традиционные источники энергии уже не справляются с растущими потребностями. Amazon, Oracle, Microsoft и Google уже активно инвестируют в атомную энергетику: одни вкладывают средства в разработку малых модульных реакторов, другие заключают контракты на перезапуск выведенных из эксплуатации атомных станций.
Ранее сообщалось о планах Маска утроить количество ускорителей в кластере xAI Colossus, а Meta также заявляла о намерении получить к концу года оборудование, эквивалентное полумиллиону H100. Эти цифры наглядно демонстрируют, что гонка за вычислительными мощностями только набирает обороты, а энергетический вопрос становится главным вызовом для всей индустрии. Эксперты предупреждают: если текущие темпы роста сохранятся, к концу десятилетия дата-центры могут потреблять до 8% всей мировой электроэнергии, что сделает их одними из крупнейших потребителей ресурсов на планете.
