Inferência de IA gerativa com servidores blade Cisco UCS X-Series M7 / Processadores Intel Xeon da 5ª Geração

Descrição

Uma solução baseada na Cisco UCS® com processadores escaláveis Intel® Xeon® e na Cisco Nexus® oferece uma base atraente e escalável para implantar IA gerativa em escala. Esta arquitetura oferece uma combinação de:

• Desempenho ideal: O Cisco UCS com processadores escaláveis Intel Xeon com aceleradores de IA especializados e estruturas de software otimizadas melhora significativamente o desempenho e a escalabilidade da inferência. Os Comutadores Cisco Nexus 9000 fornecem alta largura de banda, baixa latência, mecanismos de gerenciamento de congestionamento e telemetria para atender aos exigentes requisitos de rede de aplicações de IA/ML.
• Arquitetura equilibrada: O Cisco UCS se destaca em computação de aprendizado profundo e não-aprendizagem profunda, crítico para todo o pipeline de inferência. Essa abordagem equilibrada leva a um melhor desempenho geral e utilização de recursos.
• Escalabilidade sob demanda: O Cisco UCS escala facilmente com suas necessidades de inferência de IA gerativa. Adicione ou remova servidores, ajuste as capacidades da memória e configure os recursos de forma automatizada à medida que seus modelos evoluem e as cargas de trabalho crescem usando o Cisco Intersight®.

O Cisco UCS X-Series Modular System, e os servidores de rack C240 e C220, suportam processadores escaláveis Intel Xeon da 5ª Geração para que você tenha a opção de executar inferências no data center ou na borda, usando um formato modular ou um fator de forma de rack.