Лента новостей

08:58
Квадроберы: на грани игры и реальности
08:41
Кадры применения ЛМУР в курском приграничье
08:31
Грузия готовится к бунтам - Новости
06:19
Северная Каролина просит у Киева сто миллиардов долларов из американского финансирования
04:57
Белый порошок в атомном реакторе подводной лодки из Уханя
04:47
Газ узбекский, газ туркменский, газ афганский
03:30
Украинская армия отступает: новости СВО от 9 октября 2024. Карта боёв на Украине сегодня, обстановка в Курской области, военная сводка, 958 день спецоперации России на Украине
02:36
Расчёт ПТРК «Корнет» поразил пункт управления БПЛА ВСУ пуском ракет с Кинбурнской косы
01:23
«Нейтралы» на тропе войны
00:34
Что будет с боевыми свидомитами после?
23:49
YouTube активно мешает переносу контента на RuTube и «VK Видео»
23:45
Молдова выдала в лапы СБУ помощника Сергея Глазьева Дмитрия Чистилина
23:44
Агенты СБУ и схрон с отравляющими веществами: ФСБ продолжает зачистку освобождённых территорий
22:51
Важная помощь от читателей «Русской Весны» бойцам, освободившим от врага Угледар и наступающим дальше (ВИДЕО)
22:03
Discord официально заблокировали в России
21:59
На Украине хотят наладить отношения с Польшей с обновления памятника боевикам УПА
21:58
«Милтон» разрушил планы Зеленского на встречу с Байденом
21:41
Специальная военная операция ВС РФ и события на Украине 8 октября, вечер
21:40
«Хочу быть владычицей морскою», или Киевская власть продолжает попытки разрушить Крымский мост
21:07
В Санкт-Петербурге лишили родительских прав отца из-за того, что его сын Иван захотел быть девочкой Дашей
20:31
Почему Украине может быть выгодно открытие белорусского фронта
20:29
Что даст Киеву французский «Мираж»?
20:16
Евросоюз отказался передавать Грузии €121 млн из-за «отката демократии»
20:15
ЧП в Новосибирске. В местном магазине обнаружена минералка с надписями на украинском языке
20:07
Украинский суд отправил политолога Чистилина в СИЗО
19:37
Почему Киеву может быть выгодно открытие белорусского фронта
19:30
Шри-Ланка намерена подать заявку на вступление в БРИКС
19:25
Microsoft Word начал удалять документы вместо их сохранения
19:21
Сводка Минобороны России о ходе проведения спецоперации на 8 октября
19:20
Премьер Буркина-Фасо обвинил Украину во вмешательстве в дела Африки с целью ослабления России
19:19
Хуситы обвинили США в конфликте на Украине
19:18
ВСУ ведут обстрелы ДНР, Белгородской и Херсонской области. Обзор ситуации в прифронтовых регионах России на вечер 8 октября
19:16
Украинцы оседают в Великобритании. Это создает проблему
19:10
Невзирая на санкции: как и почему Европа ведет бизнес с Россией
19:07
Депутат Иванов: Франция не подготовилась к конфликту с Россией
19:06
Путин и Пашинян договорились об охране границы Армении с Турцией и Ираном
19:04
Discord заблокирован в России
18:47
Как рождаются технологии: три истории успешных стартапов
18:38
Curiosity предоставил новую информацию о том, как Марс стал таким негостеприимным
18:21
Молдова помогла СБУ задержать гражданина России Дмитрия Чистилина
18:20
Экс-глава СВР Украины: истребители F-16 ни на что не влияют
18:12
Украина отменила ноябрьский «саммит мира»
18:07
Снайперы Ленинградского военного округа совершенствуют навыки стрельбы из СВДС
17:57
Украинцев может спасти только Россия - Новости
17:28
В Польше не будут снимать уголовную ответственность за наёмничество в ВСУ
Все новости

Архив публикаций



Мировое обозрение»Технологии»Amazon представила мощные ускорители Trainium2 для обучения больших ИИ-моделей, а также Arm-процессоры Graviton4

Amazon представила мощные ускорители Trainium2 для обучения больших ИИ-моделей, а также Arm-процессоры Graviton4


Рост спроса на генеративный искусственный интеллект, который зачастую обучается и запускается на специализированных ускорителях на графических процессорах (GPU), во всём мире наблюдается дефицит таких ускорителей. На этом фоне облачные гиганты создают свои чипы. И Amazon сегодня на ежегодной конференции re:Invent продемонстрировала новейшие собственные ускорители для обучения нейросетей — Trainium2. А ещё были представлены серверные процессоры Graviton4.

 Источник изображения: Unsplash

Источник изображения: Unsplash

Первый из двух представленных чипов, AWS Trainium2, способен обеспечить в четыре раза более высокую производительность и в два раза более высокую энергоэффективность по сравнению с первым поколением Trainium, представленным в декабре 2020 года. Trainium2 будет доступен клиентам Amazon Web Services в инстансах EC Trn2 в кластерах из 16-ти чипов. В решении AWS EC2 UltraCluster клиенты смогут получить в своё распоряжении до 100 000 чипов Trainium2 для обучения больших языковых моделей. К сожалению, Amazon не уточнила, когда Trainium2 станут доступны клиентам AWS, предположив лишь, что это произойдёт «где-то в следующем году».

По заявлению Amazon, 100 000 чипов Trainium2 обеспечат теоретическую вычислительную мощность в 65 Эфлопс (квинтиллионов операций в секунду), что в пересчёте на одно ядро составляет 650 Тфлопс (триллионов операций). Конечно, это лишь теоретические показатели, и стоит брать во внимание факторы, усложняющие расчёты. Однако, если предположить, что одно ядро Trainium2 сможет обеспечивать реальную производительность около 200 Тфлопс, то это значительно превысит возможности чипов того же Google для обучения моделей ИИ.

В Amazon также подчеркнули, что кластер из 100 000 чипов Trainium2 способен обучить большую языковую модель ИИ (LLM – large language model) с 300 миллиардами параметров всего за несколько недель. Раньше на такие задачи уходили месяцы обучения. Отметим, что параметры в парадигме LLM — это элементы модели, полученные на обучающих датасетах и, по сути, определяющие мастерство модели в решении той или иной задачи, к примеру, генерации текста или кода. 300 миллиардов параметров — это примерно в 1,75 раза больше, чем у GPT-3 от OpenAI.

«Чипы лежат в основе всех рабочих нагрузок клиентов, что делает их критически важной областью инноваций для AWS, — отметил в пресс-релизе вице-президент AWS по вычислениям и сетям Дэвид Браун (David Brown). — Учитывая всплеск интереса к генеративному ИИ, Trainium2 поможет клиентам обучать их ML-модели быстрее, по более приемлемой цене и с большей энергоэффективностью».

 Источник изображения: Amazon

Слева — процессор Graviton4, справа — ускоритель Trainium2. Источник изображения: Amazon

Второй чип, анонсированный Amazon сегодня — Arm-процессор Graviton4. Amazon утверждает, что он обеспечивает на 30 % более высокую производительность, на 50 % больше ядер и на 75 % более высокую пропускную способность памяти, чем процессор предыдущего поколения Graviton3 (но не более современный Graviton3E), работающий применяемый в облаке Amazon EC2. Таким образом Graviton4 предложат до 96 ядер (но будут и другие конфигурации) и поддержку до 12 каналов оперативной памяти DDR5-5600.

Ещё один апгрейд по сравнению с Graviton3 состоит в том, что все физические аппаратные интерфейсы Graviton4 зашифрованы. По заявлению Amazon, это должно надёжнее защищать рабочие нагрузки клиентов по обучению ИИ и клиентские данные с повышенными требованиями к конфиденциальности.

«Graviton4 — это четвёртое поколение процессоров, которое мы выпустили всего за пять лет, и это самый мощный и энергоэффективный чип, когда-либо созданный нами для широкого спектра рабочих нагрузок, — говорится в заявлении Дэвида Брауна. — Затачивая наши чипы на реальные рабочие нагрузки, которые очень важны для клиентов, мы можем предоставить им самую передовую облачную инфраструктуру».

Graviton4 будет доступен в массивах Amazon EC2 R8g, которые уже сегодня открыты для пользователей в предварительной версии.



Опубликовано: Мировое обозрение     Источник

Читайте нас:





Напишите ваш комментарий к статье:

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх