Лента новостей

15:57
Почему ВСУ могут вскоре пойти в «Рождественское наступление»
15:43
Орбан: необходимо срочно снять санкции против России, которые очень вредят Европе
14:56
В Новой Москве 40 школьников-мигрантов избили трёх подростков
14:55
Хинштейн объявил о компенсациях пострадавшим после обстрела Рыльска
14:48
The Economist упрекнул Украину в сносе памятников Пушкину
14:47
Западные страны недооценили технологический потенциал России
14:38
Как BlackRock осваивает Украину
14:05
Шольц заступился за активы России, которые хотят отдать Украине в виде кредитов
14:01
Бои в приграничье: «Северяне» охотятся на танки и другую технику врага (ВИДЕО)
13:58
Муниципалитеты Восточной Финляндии требуют государство усилить конкурентоспособность региона
13:55
Кондратьев пообещал убрать весь мазут с побережья за месяц
13:36
Зенитные расчёты прикрывают позиции ВС РФ от беспилотников ВСУ на Красноармейском направлении
13:27
На что рассчитывает Киев, отказываясь продлевать транзит российского газа в ЕС?
12:42
Когда Земля треснула пополам: геологи установили, что разлом Денали виновен в расколе древнего суперконтинента
12:22
Молодые волки американской оборонки объявили войну матёрым хищникам ВПК
12:19
Фон дер Ляйен попросили вступить в ряды ВСУ
12:10
Специальная военная операция ВС РФ и события на Украине 21 декабря, день
12:06
Невидимые северокорейцы продолжают наступление - Новости
12:02
Сводки с фронта на 21 декабря 2024 года | Обстановка на линии боевых действий на Украине
11:50
IceCube всматривается в ничто: что на самом деле показали 10 лет поисков темной материи?
11:34
Фицо рассказал, что Зеленский пытался его купить за €500 млн
11:27
Варшава потребовала от Киева объяснений за флаги УПА на польских БТР
11:21
Разрыв по шву: как в наступающем году изменятся отношения с «союзниками» всей Украины и лично Зеленского
11:11
Мощный ответ: армия России нанесла удары по ключевым объектам Украины, новости на утро 21.12.2024
11:05
Десантники группировки войск «Днепр» уничтожили временный пункт дислокации ВСУ — видео
10:43
Украина осуществила атаку дронами на российские регионы. В Казани горят жилые дома
10:39
Атака БПЛА по жилым многоэтажкам в Казани: начались пожары (ФОТО, ВИДЕО)
10:38
Кадры авиаудара ВКС России по мосту через реку Волчья (ВИДЕО)
10:20
Курская область сегодня, 21.12.2024: линия боев, продвижение ВС РФ и ожесточенные сражения
10:14
«Мерлин», «Орлан», Supercam, «Форпост»: как разведывательные БПЛА помогают российской армии в зоне СВО
10:12
Шесть человек погибли в результате обстрела Рыльска в Курской области
10:06
Мифы о черных дырах рушатся? Гравитационные волны не подтверждают дефицит черных дыр определенной массы
09:41
СВО. Донбасс. Оперативная лента за 21.12.2024
09:03
«У украинцев два врага - Россия и украинская власть, вторые намного страшнее первых»
07:13
Сырский готовится сдать Покровск - Новости
05:58
Война в Испании – борьба за ресурсы
05:53
Учёные обнаружили «эликсир» молодости, который вырабатывается печенью человека
04:04
Итоги недели с Дмитрием Пучковым
03:22
В Литве и Польше не рады белорусским неонацистам
03:21
Поляки возмущены условиями Киева для эксгумации жертв Волынской резни
03:14
Ожесточённые бои на Украине: новости СВО от 21 декабря 2024. Карта боёв на Украине сегодня, обстановка в Курской области, военная сводка, 1031-й день спецоперации России на Украине
02:22
В Московской области похоронили погибшего в результате теракта Игоря Кириллова
02:03
В Epic Games Store стартовала раздача новой тайной игры — она доступна в России и продлится всего сутки
01:12
Для Запада Зеленский стал лишней фигурой
01:09
«Во благо Родины и нашей нации!» — сильная песня о важной и рискованной службе по защите России (ВИДЕО)
Все новости

Архив публикаций



Мировое обозрение»Технологии»Amazon представила мощные ускорители Trainium2 для обучения больших ИИ-моделей, а также Arm-процессоры Graviton4

Amazon представила мощные ускорители Trainium2 для обучения больших ИИ-моделей, а также Arm-процессоры Graviton4


Рост спроса на генеративный искусственный интеллект, который зачастую обучается и запускается на специализированных ускорителях на графических процессорах (GPU), во всём мире наблюдается дефицит таких ускорителей. На этом фоне облачные гиганты создают свои чипы. И Amazon сегодня на ежегодной конференции re:Invent продемонстрировала новейшие собственные ускорители для обучения нейросетей — Trainium2. А ещё были представлены серверные процессоры Graviton4.

 Источник изображения: Unsplash

Источник изображения: Unsplash

Первый из двух представленных чипов, AWS Trainium2, способен обеспечить в четыре раза более высокую производительность и в два раза более высокую энергоэффективность по сравнению с первым поколением Trainium, представленным в декабре 2020 года. Trainium2 будет доступен клиентам Amazon Web Services в инстансах EC Trn2 в кластерах из 16-ти чипов. В решении AWS EC2 UltraCluster клиенты смогут получить в своё распоряжении до 100 000 чипов Trainium2 для обучения больших языковых моделей. К сожалению, Amazon не уточнила, когда Trainium2 станут доступны клиентам AWS, предположив лишь, что это произойдёт «где-то в следующем году».

По заявлению Amazon, 100 000 чипов Trainium2 обеспечат теоретическую вычислительную мощность в 65 Эфлопс (квинтиллионов операций в секунду), что в пересчёте на одно ядро составляет 650 Тфлопс (триллионов операций). Конечно, это лишь теоретические показатели, и стоит брать во внимание факторы, усложняющие расчёты. Однако, если предположить, что одно ядро Trainium2 сможет обеспечивать реальную производительность около 200 Тфлопс, то это значительно превысит возможности чипов того же Google для обучения моделей ИИ.

В Amazon также подчеркнули, что кластер из 100 000 чипов Trainium2 способен обучить большую языковую модель ИИ (LLM – large language model) с 300 миллиардами параметров всего за несколько недель. Раньше на такие задачи уходили месяцы обучения. Отметим, что параметры в парадигме LLM — это элементы модели, полученные на обучающих датасетах и, по сути, определяющие мастерство модели в решении той или иной задачи, к примеру, генерации текста или кода. 300 миллиардов параметров — это примерно в 1,75 раза больше, чем у GPT-3 от OpenAI.

«Чипы лежат в основе всех рабочих нагрузок клиентов, что делает их критически важной областью инноваций для AWS, — отметил в пресс-релизе вице-президент AWS по вычислениям и сетям Дэвид Браун (David Brown). — Учитывая всплеск интереса к генеративному ИИ, Trainium2 поможет клиентам обучать их ML-модели быстрее, по более приемлемой цене и с большей энергоэффективностью».

 Источник изображения: Amazon

Слева — процессор Graviton4, справа — ускоритель Trainium2. Источник изображения: Amazon

Второй чип, анонсированный Amazon сегодня — Arm-процессор Graviton4. Amazon утверждает, что он обеспечивает на 30 % более высокую производительность, на 50 % больше ядер и на 75 % более высокую пропускную способность памяти, чем процессор предыдущего поколения Graviton3 (но не более современный Graviton3E), работающий применяемый в облаке Amazon EC2. Таким образом Graviton4 предложат до 96 ядер (но будут и другие конфигурации) и поддержку до 12 каналов оперативной памяти DDR5-5600.

Ещё один апгрейд по сравнению с Graviton3 состоит в том, что все физические аппаратные интерфейсы Graviton4 зашифрованы. По заявлению Amazon, это должно надёжнее защищать рабочие нагрузки клиентов по обучению ИИ и клиентские данные с повышенными требованиями к конфиденциальности.

«Graviton4 — это четвёртое поколение процессоров, которое мы выпустили всего за пять лет, и это самый мощный и энергоэффективный чип, когда-либо созданный нами для широкого спектра рабочих нагрузок, — говорится в заявлении Дэвида Брауна. — Затачивая наши чипы на реальные рабочие нагрузки, которые очень важны для клиентов, мы можем предоставить им самую передовую облачную инфраструктуру».

Graviton4 будет доступен в массивах Amazon EC2 R8g, которые уже сегодня открыты для пользователей в предварительной версии.



Опубликовано: Мировое обозрение     Источник

Читайте нас:





Напишите ваш комментарий к статье:

Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

Новости партнеров

Наверх