Решение WaveSpeed для ускорения генерации изображений FLUX.1-dev

В постоянно развивающемся ландшафте генерации изображений на основе ИИ, WaveSpeed продолжает пионерские разработки инновационных решений, которые преодолевают разрыв между вычислительной эффективностью и визуальным совершенством. Наше последнее достижение включает оптимизацию модели FLUX.1-dev, значительно повышающую скорость вывода при сохранении высокого качества результатов, за которое она известна.

Современный ландшафт генерации изображений на базе ИИ

Модели генерации изображений на основе ИИ развивались стремительно, причём FLUX.1-dev и SD3.5-large возглавляют эту гонку. Эти модели с открытым исходным кодом демонстрируют впечатляющие возможности в создании высокачественных изображений из текстовых подсказок. Однако скорость вывода этих моделей по-прежнему является узким местом для приложений реального времени и развёртывания.

Многоаспектный подход к оптимизации WaveSpeed

Модели генерации изображений на основе ИИ развивались стремительно, причём FLUX.1-dev и SD3.5-large возглавляют эту гонку. Эти модели с открытым исходным кодом демонстрируют впечатляющие возможности в создании высокачественных изображений из текстовых подсказок. Однако скорость вывода этих моделей по-прежнему является узким местом для приложений реального времени и развёртывания.

Параллелизм контекста и кэш первого блока

Наше решение начинается с параллелизма контекста и кэша первого блока (FBC), реализованного через нашу библиотеку ParaAttention. Эти техники позволяют нам:

Кэшировать выходы блоков трансформера: путём кэширования и повторного использования этих выходов, когда остаточная разница достаточно мала, мы можем пропустить целые этапы denoise без потери качества изображения. Параллелизировать вывод: используя параллелизм контекста, мы можем эффективно масштабировать процесс вывода по нескольким GPU.

Динамическое квантование FP8

Для дальнейшей оптимизации как скорости, так и использования памяти мы внедрили динамическое квантование FP8. Эта техника снижает точность весов модели и активаций при сохранении точности, позволяя нам использовать 8-битные тензорные ядра GPU NVIDIA для ускоренных вычислений.

Осязаемые результаты и показатели производительности

Воздействие наших оптимизаций драматично:

Тип GPU	Количество GPU	Оптимизация	Время (с)	Ускорение
NVIDIA L20	1	Базовая конфигурация	26.36	1.00x
NVIDIA L20	1	FBCache(rdt=0.08)	17.01	1.55x
NVIDIA L20	1	FP8 DQ	13.40	1.97x
NVIDIA L20	1	FBCache(rdt=0.12) + FP8 DQ	7.56	3.49x
NVIDIA L20	2	FBCache(rdt=0.12) + FP8 DQ + CP	4.92	5.36x
NVIDIA L20	4	FBCache(rdt=0.12) + FP8 DQ + CP	3.90	6.75x

С всего 4 GPU NVIDIA L20 мы достигли замечательного ускорения в 6.75 раз по сравнению с базовой конфигурацией. Это означает, что создание изображения размером 1024x1024, которое раньше занимало 26 секунд, теперь можно создать менее чем за 4 секунды.

Что делает подход WaveSpeed отличительным

Комплексная стратегия оптимизации: мы комбинируем несколько техник — параллелизм контекста, кэш первого блока и квантование FP8 — для достижения максимальных улучшений производительности. Адаптивная масштабируемость: наше решение эффективно масштабируется по различным конфигурациям GPU, от одного GPU до многоGPU окружений, обеспечивая гибкость для различных операционных потребностей. Оптимизация с приоритетом качества: несмотря на агрессивные улучшения скорости, мы сохраняем практически идеальное качество изображения, гарантируя, что улучшения производительности не компрометируют визуальную целостность создаваемого контента.

В WaveSpeed мы привержены продолжению этих инноваций, исследованию новых техник оптимизации и расширению границ того, что возможно в создании изображений на основе ИИ.

Источник содержания: fastest_flux.md