Cisco представила сервер и инфраструктурные блоки для развертывания ИИ-решений
Компания Cisco представила сервер UCS C885A M8, созданный в рамках концепции United Computing System (UCS), и инфраструктурные блоки AI Pods, адаптированные для конкретных вариантов использования искусственного интеллекта.
Размещаемый в стойке сервер, который выполнен в форм-факторе 8U, предназначен, по данным Cisco, для рабочих нагрузок ИИ, требующих высокой производительности. К таким нагрузкам относятся обучение больших языковых моделей, их тонкая настройка, формирование логических выводов больших моделей, поддержка поисковой расширенной генерации (Retrieval-augmented generation, RAG).
UCS C885A M8 создан на основе снабженной графическими процессорами платформы Nvidia HGX.
В этом сервере можно установить до 8 графических процессоров Nvidia H100 и H200 Tensor Core или AMD MI300X OAM, повышающих производительности сетей ИИ. Предусмотрены также блоки обработки данных Nvidia BlueField-3 DPU, ускоряющие доступ графических процессоров к информации в кластерах серверов. Платформа Nvidia HGX поддерживает, согласно Nvidia, ряд сетевых опций, включая быстродействие 400 Гбит/с за счет решений Nvidia Quantum-2 InfiniBand или Spectrum-X Ethernet.
Для управления UCS C885A M8 используется программная система Cisco Intersight, которая предоставляется как SaaS-пакет для управления из единого центра серверами и другими объектами ИТ-инфраструктуры.
Новые серверы, полагают в Cisco, будут использоваться совместно с недавно объявленными 800-гигабитными коммутаторами Nexus 9364E-SG2. Эти коммутаторы с быстродействием портов от 100 до 400 Гбит/с и поддержкой высокоскоростных оптических сетевых интерфейсов Open System Form Factor Plus (OSPF) и Quad Small Form Factor Pluggable Double Density (QSPF-DD) в компании называют основой масштабируемой сетевой инфраструктуры кластеров ИИ.
Поставки серверов UCS C885A M8 ожидаются к концу 2024 года, заказы Cisco AI Pods начнутся в ноябре.