Tesla K80でStable Diffusion

もはやAI実験機と化したサブPCで、RTX A2000を使ってサクッとStable Diffusionが動いたのは先日の記事の通りだが、その一方で RTX A2000のメモリが6GBしか無いという制限は厳に存在する。 ということで、24GB搭載のTesla K80 でも試してみることにした。 空冷ファンの都合上サブPCには収まらないのでメインPCで実験。一度、RTX A2000でcuda 12.0の環境にしてしまっていたので、K80に戻して動作確認するまでにドライバやcuda tool kitの再インストールとかで手間取ったが、あとはstable-diffusion-webui をインストールしてStable Diffusionがさくっと動いたが、...

1. K80をちゃんと冷やさないとcudaのエラーで止まる. やけに処理に時間がかかるな、と思ってshellの画面をみるとcudaのエラーで stable-diffusionが落ちているという事がある。
2. K80の半分しか使われていない。Tesla K80はソフトから見ると12GBのメモリを搭載した2台のGPUなのだが、そのうち1台しか利用されない。どうも、複数のGPUを束ねて利用する機能は無いようだ。その代わり、Stable Diffusionを二つ立ち上げて、それぞれが別のGPUを使うというやり方があるそうな。
3. 遅い. RTX A2000で4枚40秒だったのがTesla K80だと2分16秒. まあ、K80はTensor コアも半精度も無い古いアーキテクチャなので当然の結果と言えなくもないが。

という事で、Stable Diffusionについてはヤフオクなどで捨て値で手に入るTesla k80で楽しめなくもないが、冷却のためのあれやこれやを考えたらアクティブ冷却(=冷却ファン内蔵)のGPUを選んだ方が合理的だろうというのが私の結論。

Stable Diffusion を動かしてみた

いまさらながらStable Diffusionに興味を持ったので、動かしてみた記録。参考書は「画像生成系AI Stable Diffusion ゲームグラフィクス自動生成ガイド」※1

マシンは、CPUが Core i5-10600、主記憶 16GB、CドライブはM.2のSSD、グラボは RTX A2000 6GB。
OS は Windows 11 Home 22H2。

Githubからstable-diffusion-webui をgitでclone。

Pythonは、Anacondaでインストール。デフォルトだと Pythonは 3.11.4 だが、Stable Diffusion web UIのサイトや参考書には3.10.6と指定されている。
なので、Anaconda Navigatorで Environments タブを開き、 下にあるCreate をクリックして新しいenvironment を追加。
選択肢にあるPythonのバージョンは3.10.13だけど、結果として問題なし。

Anaconda Navigatorで、図のように3.10.13のenvironemtのプルダウンからOpen Terminalでターミナルを開く。


Cloneしてきたディレクトリに移動し、webui-user.bat を実行すると初回はダウンロード&インストールが行われて、最後にEdgeが起きてWeb UIの画面が開く。
python仮想環境(venv) を使う設定になっているのでありがたい。
２度目以降は、webui-user.batを実行するとさくっとWeb UIが開く。
なお参考書では、VRAM 4GBのグラボでも動かせるようにwebui-user.batを小変更しているが、変更なしのそのままで使用した。
学習モデルもいくつかダウンロード。学習モデルの切り替えは時間がかかるように書かれていたが、derrida_final.ckptへの切り替えで５秒程度だった。
VAEの追加はパス。
で、参考書にあった呪文を試してみた一例が次の図。かかった時間は、４枚の画像を作成して20秒ほど。手軽に生成はできるけど、狙ったイメージの欲しい画を得るにはかなり試行錯誤がいりそうだと実感。


今回、stable-diffusion-webuiのおかげで環境構築がサクッとできたのはありがたかった。

※1 「画像生成系AI Stable Diffusion ゲームグラフィクス自動生成ガイド」、クロノス・クラウン 柳井政和 著、秀和システム ISBN978-4-7980-6233-4