WaveSpeed 在加速 FLUX.1-dev 圖像生成中的解決方案

在不斷演進的 AI 驅動圖像生成領域中，WaveSpeed 持續開創創新解決方案，填補計算效率與視覺卓越之間的鴻溝。我們的最新成就涉及優化 FLUX.1-dev 模型，在保持其眾所周知的高質量輸出的同時，顯著提升了推理速度。

AI 圖像生成的現狀

AI 圖像生成模型發展迅速，開源模型如 FLUX.1-dev 和 SD3.5-large 走在前沿。這些開源模型在從文本提示生成高質量圖像方面展現了令人印象深刻的能力。然而，這些模型的推理速度仍然是實時應用和部署的瓶頸。

WaveSpeed 的多層面優化方法

AI 圖像生成模型發展迅速，開源模型如 FLUX.1-dev 和 SD3.5-large 走在前沿。這些開源模型在從文本提示生成高質量圖像方面展現了令人印象深刻的能力。然而，這些模型的推理速度仍然是實時應用和部署的瓶頸。

上下文並行性和首塊快取

我們的解決方案始於上下文並行性和首塊快取 (FBC)，通過我們的 ParaAttention 庫實現。這些技術使我們能夠：

快取 transformer 塊輸出：通過快取和重用這些輸出（當殘差足夠小時），我們可以跳過整個去噪步驟而不影響圖像質量。 並行推理：使用上下文並行性，我們可以在多個 GPU 之間有效地擴展推理過程。

FP8 動態量化

為了進一步優化速度和內存使用，我們實現了 FP8 動態量化。該技術降低了模型權重和激活的精度，同時保持準確性，使我們能夠利用 NVIDIA GPU 的 8 位 Tensor Core 進行加速計算。

切實成果和性能指標

我們優化的影響是戲劇性的：

GPU 類型	GPU 數量	優化方式	時間 (秒)	速度提升
NVIDIA L20	1	基線	26.36	1.00x
NVIDIA L20	1	FBCache(rdt=0.08)	17.01	1.55x
NVIDIA L20	1	FP8 DQ	13.40	1.97x
NVIDIA L20	1	FBCache(rdt=0.12) + FP8 DQ	7.56	3.49x
NVIDIA L20	2	FBCache(rdt=0.12) + FP8 DQ + CP	4.92	5.36x
NVIDIA L20	4	FBCache(rdt=0.12) + FP8 DQ + CP	3.90	6.75x

僅用 4 個 NVIDIA L20 GPU，我們相比基線配置實現了驚人的 6.75 倍加速。這意味著生成一張之前需要 26 秒的 1024x1024 圖像，現在只需不到 4 秒。

WaveSpeed 方法的獨特之處

全面優化策略：我們結合多種技術——上下文並行性、首塊快取和 FP8 量化——以實現最大性能提升。 自適應可擴展性：我們的解決方案能在各種 GPU 配置中高效擴展，從單 GPU 設置到多 GPU 環境，為不同的運營需求提供靈活性。 質量中心的優化：儘管進行了激進的速度增強，我們保持了接近完美的圖像質量，確保性能改進不會影響生成內容的視覺完整性。

在 WaveSpeed，我們致力於持續創新，探索新的優化技術，並推動 AI 驅動圖像創建領域的可能邊界。