A construção de uma marca confiável requer uma estratégia de conteúdo bem elaborada. A produção de conteúdo e o alinhamento de mídia devem ser seguros para a marca e adequados para os públicos-alvo. No entanto, o enorme volume de conteúdo digital e uma ampla variedade de canais torna quase impossível para as empresas garantir que o que elas distribuem atenda de forma consistente aos padrões da marca.
A Seekr está ajudando a resolver esse problema do setor de publicidade com o SeekrAlign, uma solução que aproveita tecnologia de pontuação e análise proprietária para ajudar as marcas a encontrar o conteúdo on-line mais adequado e aumentar seu alcance de forma responsável.
Construída, treinada e implantada em um cluster de aceleradores de IA Intel® Gaudi® 2 de oito nós na nuvem de IA Intel® Tiber™, a primeira solução de IA da Seekr obteve rapidamente uma impressionante lista de clientes de marcas líderes de vários setores. Da Moderna e SimpliSafe à Babbel, as empresas estão percebendo o valor do uso de soluções de IA para resolver desafios empresariais. A plataforma de aceleração de IA da nuvem de IA Intel Tiber está na vanguarda desse movimento, permitindo que as empresas acelerem e escalem suas estratégias de IA com clusters econômicos dos hardwares e softwares Intel mais recentes.
Desafios e oportunidades da IA
Desinformação, alucinações e conteúdo inadequado podem corroer rapidamente a confiança da marca. Mesmo associar-se inadvertidamente a plataformas que hospedam conteúdo em risco pode prejudicar a reputação de uma marca. Por esse motivo, muitas empresas examinam cuidadosamente o conteúdo que distribuem. Essa prática é demorada, cara, não confiável e altamente subjetiva.
Um caso de uso primário são os podcasts. A popularidade dos podcasts cresceu exponencialmente nos últimos anos e, para muitas empresas, os podcasts são uma parte essencial de sua estratégia de conteúdo e receita de publicidade. Infelizmente, o cenário de podcasts tem sido especialmente difícil para as marcas se orientarem, pois, até agora, não havia uma maneira confiável de avaliar episódios individuais que não fosse pelo esforço humano.
O SeekrAlign resolve esse desafio ao permitir que as empresas façam uma triagem de centenas de milhares de podcasts com rapidez e precisão. “O Align simplifica a busca de podcasts seguros e adequados ao combinar engenharia de classe mundial com classificações inovadoras e transparentes, permitindo que as marcas naveguem pelas nuances para que possam crescer com confiança suas campanhas de áudio com maior clareza e velocidade”, afirma Dan Granger, CEO da agência de publicidade de podcasts Oxford Road.1
O painel fácil de usar do Align classifica o conteúdo de podcasts em uma escala entre 0 e 100. Com base no framework de segurança GARM, este sistema de classificação patenteado, chamado Seekr Civility Score™, oferece aos profissionais de marketing e anunciantes um padrão objetivo para julgar a segurança e a adequação do conteúdo. “Este desafio, nesta vasta escala, só poderia ter sido resolvido combinando uma potência de computação superior com uma detecção inovadora de sinal”, diz Rob Clark, presidente e diretor de tecnologia da Seekr. “O Civility Score sintetiza dezenas de considerações em uma única métrica que abre as portas para oportunidades mais adequadas às marcas e públicos maiores.”2
A plataforma Align já pontuou 20 milhões de minutos de podcasts, um número que deve chegar a 40 milhões até o final de 2024. Além disso, a plataforma tem pontuações em tempo real de mais de 8.000 episódios de podcasts, totalizando mais de 10 milhões de minutos de áudio. “Mostramos que, quando a IA é aplicada de forma responsável e transparente, ela pode resolver desafios comerciais reais à medida que essa tecnologia continua a se desenvolver e avançar”, informa Clark. “Espero desenvolver esse sucesso por meio de inovação contínua, incluindo o desenvolvimento de LLMs avançados que podem ajudar a resolver algumas das questões sociais mais incômodas e impulsionar o crescimento dos negócios com incrível velocidade e precisão.”3
Fornecimento de alto desempenho com custos reduzidos de computação em nuvem
Os sofisticados requisitos de carga de trabalho de IA da Seekr exigem uma imensa capacidade de computação. Historicamente, essa potência de computação exigiria um investimento significativo em infraestrutura e custos de nuvem consideráveis. Mas, com a nuvem de IA Intel Tiber, a Seekr pode acessar hardware e software da Intel de ponta por uma fração do preço. Para uma empresa de escalonamento rápido como a Seekr, a capacidade de conservar capital e aumentar a receita ao mesmo tempo em que tem acesso à mais recente tecnologia de aceleração de IA é uma proposta incrivelmente atraente.
“Essa colaboração estratégica com a Intel permite que a Seekr construa modelos de base ao melhor preço e desempenho usando um supercomputador de milhares dos mais recentes chips Intel Gaudi, tudo apoiado por interconectividade de alta largura de banda”, afirma Clark. Os produtos de IA confiáveis da Seekr, combinados com a nuvem de IA Intel Tiber "AI-first", reduzem erros e vieses, para que organizações de todos os tamanhos possam acessar LLMs confiáveis e modelos de base para desbloquear a produtividade e impulsionar a inovação, com a execução em hardware confiável.”
“Essa colaboração estratégica com a Intel permite que a Seekr construa modelos de base ao melhor preço e desempenho usando um supercomputador de milhares dos mais recentes chips Intel Gaudi…”
Soluções de IA flexíveis para resultados confiáveis
O SeekrFlow, uma ferramenta de desenvolvimento de LLM completa focada na construção de LLMs alinhados a princípios usando pipelines escalonáveis e combináveis, é a base dessa solução inovadora. Projetado para máxima eficiência e flexibilidade, o SeekrFlow permite que os desenvolvedores treinem e criem LLMs usando fluxos de trabalho escalonáveis e combináveis. Todo o pipeline de LLM é gerenciado com uma API e pode ser adaptado com componentes personalizados. As especificações de gráficos computacionais, como recursos e dependências, são flexíveis, permitindo inúmeras opções de configuração.
O fluxo de trabalho do SeekrFlow é compilado em um executável versionado, repetível e reproduzível. Também integra algoritmos de alinhamento robustos para garantir que o comportamento do LLM esteja em conformidade com os padrões, intenções, regras ou valores prescritos. Esses LLMs também se beneficiam do pipeline de inferência robusto da empresa, permitindo que a plataforma transcreva, diarize e atribua pontuações ao áudio em escala. Uma vez otimizados, esses LLMs personalizados são canalizados para a plataforma Seekr Align, fácil de usar, onde são usados para fornecer avaliações rápidas e precisas de conteúdo digital.
Implementação da Seekr na nuvem de IA Intel Tiber
A Seekr estava usando um provedor de colocação regional para hospedar uma frota de servidores de sistemas habilitados para GPUs e CPUs. A infraestrutura de computação autogerenciada é usada para LLM e desenvolvimento de modelos multimodais e é compatível com o Seekr Align.
Com o crescimento de clientes e o crescente tamanho da implantação de LLMs, a Seekr procurou um provedor de serviços de nuvem para ajudar a crescer seus negócios por meio de preço e desempenho superiores. Após ajustar e inferir benchmarking de LLMs com sucesso no Intel Gaudi 2, a Seekr decidiu aproveitar a nuvem de IA Intel Tiber como sua infraestrutura de computação preferida para desenvolvimento de LLMs e suporte de implantação de produção.
As Figuras 1 a 3 mostram o desempenho obtido por meio de otimizações de software e usando o ambiente de nuvem de IA Intel Tiber.
A Seekr planeja uma implantação em fases para migrar sua plataforma de soluções para a nuvem de IA Intel Tiber. Utiliza várias instâncias de computação otimizadas por IA em nossa nuvem para otimizar a relação custo/desempenho na implantação de cargas de trabalho de aplicativos, incluindo:
- Aceleradores Intel Gaudi 2: o modelo LLM de 7B que alimenta a solução SeekrAlign é implantado em um cluster de sistemas Intel Gaudi 2 para realizar categorização de conteúdo sensível e avaliações de risco.
- Intel® Data Center GPU Max Series 1550: a Seekr usa Intel® Extensions for PyTorch para processamento de transcrição e diarização em um cluster de sistemas com GPUs Intel.
- Processadores escaláveis Intel® Xeon®: a empresa usa um cluster de sistemas habilitados com CPUs Intel® Xeon® da 4ª geração para monitoramento de aplicativos, gerenciamento de armazenamento e serviços de bancos de dados de vetores e índices invertidos. Eles são compatíveis com os serviços de Geração Aumentada por Recuperação da Seekr e o SeekrFlow na construção de LLMs alinhados a princípios, utilizando pipelines escalonáveis e combináveis.
- Os planos incluem a utilização de processadores escaláveis Intel® Xeon® da 5ª geração no final deste ano.
Como Stefanos Poulis, chefe de pesquisa e desenvolvimento de IA da Seekr, analisa: “A colaboração Seekr-Intel desbloqueia as capacidades de execução de IA em computação híbrida. As GPUs Intel e os chips Intel Gaudi 2 são aproveitados para treinar e servir em escala transformadores de grande e médio porte. Vimos um desempenho aprimorado de treinamento e inferência de modelos em comparação com outros chips do mercado. Especificamente em inferência de LLMs, a grande capacidade de memória das HPUs e GPUs Intel nos permitiu ajustar parâmetros específicos para cargas de trabalho, como tamanhos de lotes. Do lado do software, as várias extensões da Intel nos permitiram mover nossa pilha de ML para o hardware Intel sem problemas.”
Como parte da próxima fase de integração da nuvem de IA Intel Tiber, a Seekr planeja aproveitar os clusters Intel Gaudi 2 de grande escala com o Intel® Kubernetes Service para treinar seu modelo de base de LLM e adicionar capacidade de computação de CPU e GPU para aumentar sua oferta de serviços de IA confiáveis.
A SimpliSafe® alcança um público mais amplo e personalizado de segurança doméstica usando a solução de LLM da Seekr: a SeekrAlign
A SimpliSafe® é uma solução de segurança doméstica premiada com a missão de “tornar todas as casas seguras”, fornecendo a seus clientes a mais recente e melhor tecnologia. A empresa tem muito orgulho de ser pioneira no setor de casas inteligentes, em constante evolução, e esse sentimento é refletido em suas funções comerciais de suporte, incluindo testes de tecnologia de marketing emergente, que ajudam a expandir o alcance de mercado da empresa de forma cuidadosa e eficiente. Além disso, construir e manter a confiança do cliente é fundamental para a estratégia de expansão de clientes da SimpliSafe. A empresa não apenas faz isso por meio de seus produtos e serviços inovadores, mas também com suas práticas publicitárias criteriosas.
A SimpliSafe utiliza o SeekrAlign para alcançar clientes em potencial nos momentos certos por meio dos canais de conteúdo mais adequados. Com o SeekrAlign, a SimpliSafe tem acesso a avaliações de conteúdo de milhares de podcasts em tempo real e pode isolar o contexto no nível de conversa. As capacidades de análise de conteúdo orientadas por LLM da Seekr vão além de tudo o que está disponível no mercado hoje e ajudam a SimpliSafe a descobrir conteúdo alinhado à identidade da marca para alcançar públicos relevantes.
“Como uma marca guiada pela confiança e segurança, era importante encontrar uma solução que compartilhasse os nossos valores na SimpliSafe. A Seekr, com tecnologia Intel® Developer Cloud [Intel Tiber AI Cloud], é exatamente essa plataforma, pois nos permite lidar com o problema de escala no monitoramento de podcasts de forma cuidadosa e garantir que os locais onde anunciamos estejam alinhados com os perfis de nossos clientes. Com a Seekr, somos capazes de encontrar podcasts seguros para marcas com os quais podemos alcançar os públicos certos e, finalmente, apresentar as soluções de segurança residencial da SimpliSafe a mais proprietários.”
— Nicholas Giorgio, Diretor de Aquisição de Clientes, SimpliSafe
Mais informações
- Seekr
- Nuvem de IA Intel Tiber
- Intel® Liftoff
- Acelerador de IA Intel Gaudi 2 – habana.ai
- Soluções de software empresarial Intel
Sobre o programa Intel® Liftoff for Startups
O Intel Liftoff é um programa virtual gratuito que ajuda as startups de IA e aprendizado de máquina em estágio inicial a inovar e escalar. Lançado em 2022 pela Intel, este programa individualizado capacita as startups a remover barreiras de código, aumentar o desempenho e transformar suas ideias em empresas de IA escalonáveis que definem o setor.