...
https://lambdalabs.com/blog/inference-benchmark-stable-diffusion
https://huggingface.co/latent-consistency/lcm-lora-sdxl
| Model | Params / M |
|---|---|
| lcm-lora-sdv1-5 | 67.5 |
| lcm-lora-ssd-1b | 105 |
| lcm-lora-sdxl | 197M |
https://huggingface.co/blog/lcm_lora
| Hardware | SDXL LoRA LCM (4 steps) | SDXL standard (25 steps) |
|---|---|---|
| Mac, M1 Max | 6.5s | 64s |
| 2080 Ti | 4.7s | 10.2s |
| 3090 | 1.4s | 7s |
| 4090 | 0.7s | 3.4s |
| T4 (Google Colab Free Tier) | 8.4s | 26.5s |
| A100 (80 GB) | 1.2s | 3.8s |
| Intel i9-10980XE CPU (1/36 cores used) | 29s | 219s |
A100과 같이 용량이 많은 카드의 경우 일반적으로 프로덕션 워크로드의 경우처럼 여러 이미지를 한 번에 생성할 때 성능이 크게 향상됩니다.
https://huggingface.co/spaces/latent-consistency/lcm-lora-for-sdxl