升级了Pytorch后,StableDiffusion最新版本就可以有使用FP8的基础了,因此把秋叶的LINUX包也升级到了最新的版本。
升级Pytorch参考我的升级记录:
ComfyUI SDWebUI升级pytorch随记-CSDN博客
然后下一步就是如何开启FP8了。与ComfyUI不同,SDWebUI不是通过启动参数来开启,而是在配置界面找到这个位置:
记得点保存生效。
本人16G显卡,开启最高分辨率2048x2048。模型使用更耗显存的SDXL,配置未开启额外的controlnet,直接跑图
请无视魔幻的界面,直接出图的正常现象
未开启FP8时
此时如果不开启TiledVAE,是会OutOfMemory的。在开启TiledVAE情况下,显存占用
开启FP8时
然后采用同样的参数,跑图时显存占用
可见降低了2.8G左右显存,确实极大的节约了显存占用。
因此开启了FP8后,使SDXL在8G显存稳定出1080P图成为了可能