ASUS предложит ИИ-серверы AFS Appliance с обученными языковыми моделями — клиенты смогут устанавливать их локально

Тайваньская Asustek Computer Inc. (ASUS) планирует представить один из первых сервисов, позволяющих компаниям использовать преимущества генеративного ИИ, при этом сохраняя контроль над своими данными. Серверы AFS Appliance на базе чипов NVIDIA A100 будут устанавливаться в помещениях клиентов — за работу и обновление вычислительной платформы будет отвечать сама ASUS.

Источник изображения: ThisisEngineering RAEng/unsplash.com

Основную озабоченность у корпоративных пользователей сервисов вроде тех, что предлагаются компанией OpenAI, вызывает то, что использование облачных ЦОД может привести к утечке данных. Например, Samsung Electronics уже запретила сотрудникам пользоваться чат-ботом ChatGPT после того, как выяснилось, что те загружали на чужую платформу важный программный код. С аналогичным запретом выступила и Apple, ряд американских инвестиционных банков тоже поддержали тенденцию.

ASUS будет комплектовать железо AFS Appliance собственной большой языковой моделью Formosa, эквивалентной ChatGPT 3.5 и натренированной на «традиционном» китайском. Компания намерена брать за обслуживание порядка $6 тыс. ежемесячно, самый дорогой вариант с использованием платформы NVIDIA DGX AI будет стоить около $10 тыс. в месяц. ASUS рассчитывает получить 30-50 корпоративных клиентов и выйти на международный рынок до конца года.

Как сообщают в компании, партнёрство с NVIDIA позволит ускорить массовое распространение технологии. В ASUS подчеркнули, что до появления ChatGPT многие компании просто не знали, зачем им вообще большие вычислительные мощности.

Теперь большинство клиентских бизнесов будут использовать генеративный ИИ в собственных помещениях — это позволит им ограничить доступ к корпоративной информации. Сообщается, что немалый интерес уже проявили банки и больницы. Например, генеративный ИИ поможет врачам документировать лечение и быстрее обслуживать пациентов, заодно помогая более доступно излагать информацию о диагнозах. Пригодятся такие системы и в других сферах, например — в крупных юридических компаниях.

По данным ASUS, дефицита чипов NVIDIA A100, лежащих в основе системы AFS Appliance, пока не наблюдается и уже имеющиеся связи между двумя компаниями обеспечивают уверенность в том, что перебоев не возникнет и в будущем, когда компания выпустит систему на рынок.