Accélération de l’inférence HunyuanVideo avec ParaAttention : Une avancée WaveSpeed

Chez WaveSpeed, nous repoussons constamment les limites de ce qui est possible en matière de génération de médias IA. Nous sommes enthousiastes de partager comment nous avons exploité ParaAttention et d’autres techniques de pointe pour accélérer dramatiquement l’inférence HunyuanVideo, rendant la génération vidéo en temps réel une réalité.

Le défi des modèles de génération vidéo

Bien que les modèles de génération vidéo open-source comme HunyuanVideo, CogVideoX et Mochi aient montré des progrès remarquables, la vitesse d’inférence reste un goulot d’étranglement important pour les applications réelles. Ces modèles ont démontré des capacités remarquables pour générer des vidéos de haute qualité à partir de descriptions textuelles. Cependant, malgré ces réalisations, le domaine fait toujours face à des défis substantiels. La complexité computationnelle et les exigences en matière de mémoire de ces modèles constituent des obstacles importants pour les applications réelles, en particulier lors de la génération de vidéos haute résolution avec de nombreuses images. Cela a limité l’adoption généralisée et l’utilité pratique des technologies de génération vidéo IA dans les industries où les performances en temps réel sont cruciales.

Notre solution : ParaAttention et bien au-delà

Parallélisme contextuel et cache du premier bloc

Notre approche commence par le parallélisme contextuel et le cache du premier bloc (FBC), implémentés via notre bibliothèque ParaAttention. Ces techniques nous permettent de :

• Mettre en cache les sorties des blocs transformateur : En mettant en cache et réutilisant ces sorties lorsque la différence résiduelle est suffisamment petite, nous pouvons ignorer des étapes de débruitage entières sans compromettre la qualité vidéo.
• Paralléliser l’inférence : En utilisant le parallélisme contextuel, nous pouvons mettre à l’échelle le processus d’inférence sur plusieurs GPU efficacement.

Quantification dynamique FP8

Pour optimiser davantage la vitesse et l’utilisation de la mémoire, nous avons implémenté la quantification dynamique FP8. Cette technique réduit la précision des poids et activations du modèle tout en maintenant la précision, ce qui nous permet d’exploiter les cœurs tensoriels 8 bits des GPU NVIDIA pour des calculs accélérés.

Des résultats qui parlent d’eux-mêmes

L’impact de nos optimisations est dramatique :

Type de GPU	Nombre de GPU	Optimisations	Temps écoulé (s)	Accélération
NVIDIA L20	1	Baseline	3675.71	1.00x
NVIDIA L20	1	FBCache	2271.06	1.62x
NVIDIA L20	2	FBCache + CP	1132.90	3.24x
NVIDIA L20	4	FBCache + CP	718.15	5.12x
NVIDIA L20	8	FBCache + CP	649.23	5.66x

Avec seulement 8 GPU NVIDIA L20, nous avons atteint une accélération remarquable de 5,66x par rapport à la configuration de base. Cela signifie que la génération d’une vidéo de 129 images en 720p qui prenait auparavant près d’une heure peut maintenant être produite en un peu plus de 10 minutes.

L’avantage WaveSpeed

Ce qui distingue notre approche est la combinaison de plusieurs techniques d’optimisation dans une solution cohésive :

• Optimisation complète : Nous ne nous appuyons pas sur une seule technique, mais combinons plutôt le parallélisme contextuel, le cache du premier bloc et la quantification FP8 pour un effet maximum.
• Scalabilité : Notre solution se met à l’échelle efficacement sur plusieurs GPU, ce qui la rend adaptée aux postes de travail à GPU unique et aux environnements serveur multi-GPU.
• Préservation de la qualité : Malgré les optimisations agressives, nous maintenons une qualité vidéo quasi parfaite, garantissant que la vitesse ne se fait pas aux dépens de l’intégrité du contenu.

Cette avancée dans la vitesse de génération vidéo ouvre de nouvelles possibilités pour les applications en temps réel dans diverses industries, du divertissement à la publicité et au-delà. Chez WaveSpeed, nous nous engageons à poursuivre cette innovation, en explorant de nouvelles techniques d’optimisation et en repoussant les limites de ce qui est possible dans la création vidéo pilotée par l’IA.

Restez à l’écoute pour plus de mises à jour sur notre parcours pour rendre la génération vidéo IA plus rapide, plus efficace et plus accessible à tous.

Source du contenu : fastest_hunyuan_video.md