Acelerando a Inferência HunyuanVideo com ParaAttention: Um Avanço WaveSpeed

Na WaveSpeed, estamos constantemente ampliando os limites do que é possível na geração de mídia com IA. Estamos entusiasmados em compartilhar como aproveitamos ParaAttention e outras técnicas de ponta para dramaticamente acelerar a inferência HunyuanVideo, tornando a geração de vídeo em tempo real uma realidade.

O Desafio dos Modelos de Geração de Vídeo

Embora modelos de geração de vídeo de código aberto como HunyuanVideo, CogVideoX e Mochi tenham demonstrado progresso notável, a velocidade de inferência permanece um gargalo significativo para aplicações no mundo real. Esses modelos demonstraram capacidades notáveis na geração de vídeos de alta qualidade a partir de descrições textuais. No entanto, apesar dessas realizações, o campo ainda enfrenta desafios substanciais. A complexidade computacional e os requisitos de memória desses modelos representam obstáculos significativos para aplicações no mundo real, especialmente ao gerar vídeos de alta resolução com numerosos quadros. Isso limitou a adoção generalizada e a utilidade prática das tecnologias de geração de vídeo com IA em indústrias onde o desempenho em tempo real é crucial.

Nossa Solução: ParaAttention e Além

Paralelismo de Contexto e Cache do Primeiro Bloco

Nossa abordagem começa com Paralelismo de Contexto e Cache do Primeiro Bloco (FBC), implementados através da nossa biblioteca ParaAttention. Essas técnicas nos permitem:

• Cachear saídas de blocos transformer: Ao cachear e reutilizar essas saídas quando a diferença residual é pequena o suficiente, podemos pular etapas inteiras de denoising sem comprometer a qualidade do vídeo.
• Paralelizar a inferência: Usando Paralelismo de Contexto, podemos escalar o processo de inferência em múltiplas GPUs de forma eficiente.

Quantização Dinâmica FP8

Para otimizar ainda mais a velocidade e o uso de memória, implementamos quantização dinâmica FP8. Essa técnica reduz a precisão dos pesos e ativações do modelo mantendo a precisão, permitindo-nos aproveitar os Tensor Cores de 8 bits das GPUs NVIDIA para cálculos acelerados.

Resultados que Falam por si

O impacto de nossas otimizações é dramático:

Tipo de GPU	Número de GPUs	Otimizações	Tempo de Parede (s)	Aceleração
NVIDIA L20	1	Baseline	3675.71	1.00x
NVIDIA L20	1	FBCache	2271.06	1.62x
NVIDIA L20	2	FBCache + CP	1132.90	3.24x
NVIDIA L20	4	FBCache + CP	718.15	5.12x
NVIDIA L20	8	FBCache + CP	649.23	5.66x

Com apenas 8 GPUs NVIDIA L20, alcançamos uma aceleração notável de 5.66x comparada à configuração baseline. Isso significa que gerar um vídeo de 129 quadros e 720p que anteriormente levava quase uma hora agora pode ser produzido em pouco mais de 10 minutos.

A Vantagem WaveSpeed

O que diferencia nossa abordagem é a combinação de múltiplas técnicas de otimização em uma solução coesa:

• Otimização abrangente: Não confiamos em uma única técnica, mas combinamos Paralelismo de Contexto, Cache do Primeiro Bloco e quantização FP8 para máximo efeito.
• Escalabilidade: Nossa solução escala eficientemente em múltiplas GPUs, tornando-a adequada tanto para estações de trabalho com GPU única quanto para ambientes de servidor com múltiplas GPUs.
• Preservação de qualidade: Apesar das otimizações agressivas, mantemos qualidade de vídeo quase perfeita, garantindo que a velocidade não venha ao custo da integridade do conteúdo.

Esse avanço na velocidade de geração de vídeo abre novas possibilidades para aplicações em tempo real em várias indústrias, desde entretenimento até publicidade e além. Na WaveSpeed, estamos comprometidos em continuar essa inovação, explorando novas técnicas de otimização e ampliando os limites do que é possível na criação de vídeo orientada por IA.

Fique atento para mais atualizações sobre nossa jornada para tornar a geração de vídeo com IA mais rápida, mais eficiente e mais acessível a todos.