FPGAi
Acelere a capacitação de IA da sua solução personalizada. Saiba como a FPGAi permite habilitar e implantar IA em sua solução personalizada para obter baixa latência, eficiência energética e agilidade necessárias para inovações contínuas.
Liderando uma nova era em IA com FPGAs Altera
Unir FPGAs e IA não é apenas uma evolução — é uma revolução.
Altera está oferecendo a nova era de FPGAi com tecido FPGA de alto desempenho e infundido por IA. Nossa lógica programável e IA fortemente integradas permitem adaptação de dados em tempo real e tomada de decisões autônomas, equipando sistemas para alcançar complexidades de última geração.
Por que FPGAs para IA?
As cargas de trabalho de IA estão se tornando cada vez mais complexas e exigentes, portanto, escolher o hardware certo para a aceleração de IA é fundamental. Saiba como FPGAs podem oferecer soluções poderosas e flexíveis para aplicativos de IA.
Por que os FPGAs são bons para implementar aplicativos de IA de borda e aprendizado de máquina
Leia os casos de uso emergentes de inferência de IA baseada em FPGA nos aplicativos de IA de borda e personalizados, e nas soluções de software e hardware da Intel para IA de FPGA de borda.
FPGA em comparação com GPU para aprendizado profundo
Embora nenhuma arquitetura funcione idealmente para todos os aplicativos de aprendizado de máquina e profundo, os FPGAs podem oferecer vantagens significativas em comparação com as GPUs e outros tipos de hardware.
Redes neurais quantizadas para inferência de FPGA
A quantização de baixa precisão para redes neurais suporta especificações de aplicativos de IA ao fornecer maior taxa de transferência para a mesma área de trabalho ou reduzir o uso de recursos
Parceiros acelerando a IA na borda
Assista a estes vídeos para saber como os parceiros da Altera podem ajudar você a acelerar cargas de trabalho de IA em FPGAs.
Aplicações do FPGAi
IA na borda
FPGAs são especialmente adequadas para IA de borda em várias aplicações industriais, médicas, de testes e medição, aeroespacial, de defesa e de transmissão. Processadores Arm integrados, processadores soft processors Nios® V e protocolos de E/S diversificados compatíveis com dados diversos na borda, juntamente com baixa latência determinística, baixa potência e longevidade oferecem aos FPGAs vantagens adicionais na borda.
GenAI ou personalizado
O FPGA Agilex™ 7 série M pode ser usado para inferência LLM baseada em transformers, superando as GPUs em potência e tamanho.
Com o HBM2E de 32 GB oferecendo 820 GBps e DDR5 de até 512 GB a 224 GBps, é ideal para caches LLMs e KV. SERDES de alta velocidade (116 Gbps), suporte para 800 GbE e PCIe 5.0 (64 GBps) garantem um escalonamento rápido e transferência de dados. Os DSPs de precisão variável do dispositivo suportam formatos compatíveis com inferências de IA, como FP16, bfloat16 e INT8. A arquitetura Hyperflex™ permite operação de 500 MHz+ para inferência rápida de IA.
Conexão de IA
Com suporte de 800 GbE, soluções feitas sob medida podem ser projetadas para criadores de cluster de IA com FPGAs atuando como FPGA NICs de IA para reduzir o jitter de ingestão de dados e o congestionamento da rede de GPUs durante o treinamento ou inferência. As opções personalizadas e com padrões Abertos para escalonamento horizontal e horizontal são suportadas.
FPGAs são ótimas para o pré-processamento de IA, onde os dados são formatados e filtrados para serem usados de forma eficiente em treinamento ou inferência de IA.
FPGAs podem acelerar bancos de dados de empresas privadas para rápida recuperação de dados.
Capacidade da solução: FPGAs de alto desempenho
O Agilex™ 7 FPGA série M com 89 TOPS em INT8, capacidade de memória HBM2e no pacote (largura de banda de 32 GB e 820 Gbps) e controlador de memória DDR5/LPDDR5 reforçada (compatível com 5600 MBPs) alivia os gargalos para modelos de IA vinculados à memória, como os modelos de transformer baseados em AI LLM.
Os dispositivos FPGA Agilex™ 5, com até 56 TOPs INT8, apresentam a primeira malha FPGA infundida com blocos tensores de IA para maior densidade de computação. Os tensores podem executar 20 BlockFP16 ou multiplicações INT8 acumuladas em um ciclo de clock, resultando em um aumento de 5x na densidade de computação em relação a outros dispositivos do portfólio Agilex FPGA.
Usabilidade do desenvolvedor: conversão de modelo pré-treinada perfeita e otimização automática para recursos de FPGA
FPGA AI Suite oferece uma conversão por botão do modelo pré-treinado para IP de inferência de IA usando OpenVINO. A ferramenta Auto-optimizer do suite amplia o espaço de projeto para a implementação ideal de modelos de IA.
A emulação de software do FPGA AI Suite IP é acessível por meio da interface OpenVINO plugin, permitindo uma avaliação rápida da precisão do FPGA IP de IA sem a necessidade de hardware (disponível apenas para FPGA Agilex™ 5).
FPGA AI Suite integra o Software de projeto Quartus® Prime e o Platform Designer para simplificar a incorporação do IP de inferência de IA.
Agilidade das aplicações: habilite a inovação contínua
Os engenheiros podem desenvolver e evoluir soluções de IA com FPGAs para se manter na vanguarda da tecnologia usando a reprogramação de dispositivos1 , ciclos de vida do produto estendidos e opções de E/S versáteis que permitem inovação e adaptação contínuas.
FPGAs são inerentemente adequadas para IA. Os FPGAs milhares de blocos de DSP, hierarquias de memória e amplo suporte a E/S permitem a personalização de projetos e a construção de redes de IA desde o início para obter um desempenho ideal.
Modelos de IA de vários tamanhos podem ser implementados de forma eficiente, desde tinyML com eficiência energética até modelos médios e grandes na borda e modelos GenAI LLM Transformer em data centers.
Explore os recursos para começar a usar
Intel® FPGA AI Suite
Acelere seu desenvolvimento de FPGA para inferência de IA usando frameworks como TensorFlow ou PyTorch e o kit de ferramentas OpenVINO, e aproveite os fluxos de desenvolvimento de FPGA robustos e comprovados com o software Intel Quartus Prime.
Saiba mais
Intel® Distribution of OpenVINO Toolkit
Um kit de ferramentas de código aberto que facilita a escrita uma vez e a implantação em qualquer lugar.
Saiba mais
Precisa de mais informações?
Envie-nos suas dúvidas para sabermos como podemos ajudar.
Entre em contato conosco