Hi!请登陆

Stable Diffusion 多显卡设置教程,同时调用多张GPU进行绘图!

2023-5-24 1,186 5/24

Stable Diffusion 多显卡设置教程,同时调用多张GPU进行绘图!

如果你想在Stable Diffusion 绘图的时候,同时调用多张显卡来进行加速!那么使用以下方法即可开启多GPU工作模式:

使用torch支持的CUDA_VISIBLE_DEVICES参数
编辑launch.py, 在顶部加入如下代码

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '1'

这样就可以指定显卡ID为1的显卡进行推理了

GPT

在 Stable Diffusion 中,可以通过设置 CUDA_VISIBLE_DEVICES 环境变量来指定程序使用的显卡设备。具体来说,您可以在运行 launch.py 脚本之前将该环境变量设置为您想要使用的显卡设备的编号或者编号列表。

以下是一些示例:

如果您只想使用第 0 号显卡,可以执行以下命令:

export CUDA_VISIBLE_DEVICES=0
如果您想同时使用第 0 号和第 1 号显卡,可以执行以下命令:

export CUDA_VISIBLE_DEVICES=0,1
如果您想使用除了第 2 号显卡以外的所有显卡,可以执行以下命令:

export CUDA_VISIBLE_DEVICES=0,1,3,4,5,6,7
设置环境变量后,再运行 launch.py 脚本即可。Stable Diffusion 会自动检测并使用指定的显卡设备进行计算。

相关推荐