Operações de inferência de IA gerativas com processadores Cisco UCS / 5ª Geração e 4ª Geração Intel Xeon

Descrição

O Cisco UCS, com tecnologia dos processadores Intel® Xeon® da 5ª Geração e do Cisco Nexus, é uma base escalável para a implantação de IA gerativa em escala. Essa arquitetura oferece:

• Desempenho ideal: O Cisco UCS com processadores escaláveis Intel Xeon com aceleradores de IA especializados e estruturas de software otimizadas melhora significativamente o desempenho e a escalabilidade da inferência.
• Arquitetura equilibrada: O Cisco UCS se destaca em aprendizagem profunda e computação não-profunda, fundamentais para todo o fluxo de inferência. Essa abordagem equilibrada leva a um melhor desempenho geral e utilização de recursos.
• Escalabilidade sob demanda: O Cisco UCS escala facilmente com suas necessidades de inferência de IA gerativa. Adicione ou remova servidores, ajuste as capacidades da memória e configure os recursos de forma automatizada à medida que seus modelos evoluem e as cargas de trabalho crescem usando o Cisco Intersight.

Você tem a opção de executar inferências no data center ou na borda, usando um formato modular ou em rack.