OutOfMemoryError: CUDA out of memoryの解決法
AUTOMATIC1111版Stable Diffusion web UIの実行中に以下のエラーが出てしまいました。
OutOfMemoryError: CUDA out of memory.
Tried to allocate 8.38 GiB (GPU 0; 8.00 GiB total capacity; 2.22 GiB already allocated;
4.16 GiB free; 2.28 GiB reserved in total by PyTorch)
If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.
See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
経過時間0.90sTorch active/reserved: 2313/2336 MiB, Sys VRAM: 3936/8192 MiB (48.05%)原因はCUDAのメモリ不足らしいです。
いろいろ解決法がありましたが以下の方法が簡単でした。
まずwebui-user.batを開きます。
6行目にある赤枠の「set COMMANDLINE_ARGS=」の後に「--lowvram --always-batch-cond-uncond --xformers」を書き加えます。
set COMMANDLINE_ARGS=
↓
set COMMANDLINE_ARGS=--medvram --always-batch-cond-uncond --xformers
@echo off
set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=--medvram --always-batch-cond-uncond --xformers
call webui.batこれでOKです。
保存して、webuiを起動しましたがエラーは起きませんでした。
ただ画像の作成に少し時間がかかるようになりました。
これでもエラーが出る場合は--medvramを--lowvramにしたら動くようです。
--lowvramにするとさらに画像の作成に時間がかかるので--medvramで動くのなら--medvramの方が良いと思います。