Интернет-компания Amazon.com объявила в четверг о переносе части вычислительных операций, обеспечивающих функционирование голосового помощника Alexa, на чипы собственной разработки, отказавшись таким образом от микросхем компании NVIDIA. Как ожидается, это сделает работу сервиса Alexa быстрее, снизив при этом расходы Amazon.
REUTERS/Elijah Nouvelage
Когда пользователи таких устройств, как, например, умных динамиков семейства Amazon Echo, задают какой-либо вопрос голосовому помощнику, запрос отправляется в один из ЦОД Amazon для его обработки и формирования ответа. Этот ответ имеет текстовый формат, и впоследствии его необходимо перевести в слышимую речь, которую произнесёт голосовой помощник.
Ранее все эти операции производилась с использованием микросхем NVIDIA, но теперь «большая часть» процесса будет осуществляться с использованием вычислительного чипа Inferentia, созданного самой Amazon. Процессор Amazon, впервые анонсированный в 2018 году, специально разработан для ускорения решения масштабных задач машинного обучения, таких как перевод текста в речь или распознавание изображений.
Владельцы сервисов облачных вычислений, такие как Amazon, Microsoft и Google, стали одними из крупнейших потребителей вычислительных ИИ-чипов для своих ЦОД, что привело к буму продаж специализированных решений Intel, NVIDIA и других. Но крупные технологические компании всё чаще отказываются от услуг традиционных поставщиков полупроводников, занимаясь разработкой собственных процессоров. В этот же ряд можно поставить и Apple, которая анонсировала свои первые компьютеры Mac с собственным процессором M1 с Arm-архитектурой, отказавшись услуг Intel.
Amazon сообщила, что переход на чип Infertia для выполнения некоторых операций по обработке запросов Alexa привёл к снижению задержки на 25 % при сокращении затрат на 30 %.
Компания также заявила, что её облачная служба распознавания лиц Rekognition тоже начала внедрять чипы Inferentia. Однако она не уточнила, какие микросхемы ранее использовала служба распознавания лиц, и какая часть операций была перенесена на её собственные чипы.
Подпишись: