【彩度アップ】Stable Diffusionで必須のVAEとは?初期設定と使い方を解説!

AIイラスト

    ※当ブログはアフィリエイト・アドセンスによる収益で運営されています。

こういったお悩みにお答えします。

Stable Diffusionでイラストを生成するうえでVAEは必須。VAEがないと、出力されるのはぼんやりと色あせたようなイラストばかり…。

この記事では

これらについて解説していくので、最後まで読むとVAEを導入してイラストの質をグッと上げることができます。

Stable Diffusionのダウンロード方法や使い方については以下の記事で詳しく解説しています。Stable Diffusionに関してわからないことがある方は読んでみてください。

>>【完全初心者用ガイド】Stable Diffusionの使い方を徹底解説!

Stable Diffusionで必須のVAEとは?

VAE:Variational Auto Encorder(変分オートエンコーダ)の頭文字です。

しっかり学ぼうとすると、分布とか潜在空間とか近似とか推定とか難しい単語が山ほど出てきます。残念ながら筆者にはさっぱり。

めちゃくちゃざっくり解説すると、VAEはStable Diffusionでイラストを生成するときにお手伝いをしてくれるツール。イラスト生成時にStable Diffusion内で行われる拡大・縮小処理にかかわっているため、VAEの質によって色彩や線に違いが出るようです。

…ぜんぜん違ってたらごめんなさい。

仕組みはわかりませんが、実際にVAEを使うと

VAE適用前
このように灰色がかったイラストが

VAE適用後
はっきりと色鮮やかに。かなり印象が変わりますよね。

VAEの有無や種類によってイラストのクオリティが大きく変わる、ということは押さえておきましょう。

VAEのダウンロード・初期設定(変更方法)


VAEの仕組みは複雑でも、使い方はいたって簡単。

今回は多くのユーザーに使われている代表的なVAE『vae-ft-mse-840000-ema-pruned』をダウンロードしていきます。これはStable Diffusion公式が作ったVAEで、多くのモデルに適用することができます。

ほとんどの方に必須級のVAEなので、もしまだ導入していない方は一緒に初期設定まで完了させてしまいましょう。

なお他のVAEに関しても同様の手順で導入することができます。

VAEのダウンロード

vae-ft-mse-840000-ema-pruned.safetensorsダウンロードページ
出典元:Hugging Face

vae-ft-mse-840000-ema-prunedのダウンロードはHugging Faceから行います。

一番下のvae-ft-mse-840000-ema-pruned.safetensorsをクリックし、ダウンロードしてください。

VAE格納場所
ダウンロードが完了したら、ファイルをstable-diffusion-webuiフォルダ内のmodels → VAEの中に入れておきましょう。

VAEの初期設定(変更方法)

stable-diffusion設定画面
Stable Diffusionを起動し『Settings』タブ → Stable Diffusionの項目を選択しましょう。すでにStable Diffusionを起動済みの方はそのままで(わざわざ再起動しなくて)大丈夫です。

stable-diffusionVAE選択画面
画面右側の更新マークを押した後で『SD VAE』のプルダウンを開くとダウンロードしたVAEファイルの名前が表示されます。

今回初めてVAEをダウンロードした方は

  • Automatic
  • None
  • vae-ft-mse-840000-ema-pruned.safetensors

この3択が表示されるはず。選択肢の中から『vae-ft-mse-840000-ema-pruned.safetensors』をクリックしましょう。

これで設定は完了です。今後ほかのVAEに切り替えたいときも同じ手順でOK。

stable-diffusionVAE設定完了
初期設定が完了したら画面左上の『Apply settings』を押して変更内容を保存し、左上の『txt2img』タブからイラスト生成画面に戻りましょう。

違いを確かめるために、さっそくイラストを生成してみてください。以前よりも色鮮やかなイラストが出力されるはずです。

※モデルによっては変わらないことも。もともとVAEが内蔵されているものもありますからね。

【おすすめ】VAEをもっと簡単に切り替える方法


VAEの設定・変更についてはここまで解説してきた通りですが、いちいちSetting画面に移動しなくてもVAEの切り替えができる方法があります。

頻繁にVAEを変更しながらイラストを生成していく人も多いはず。そんなとき、毎回Setting画面に行くのめんどくさいですよね?

stable-diffusion User interfaceSetting画面
先ほどと同じようにStable DiffusionのSetting画面に行き、左側にある『User interface』をクリックしましょう。

stable-diffusionQuicksettinglist設定画面
Quicksetting listの項目に『sd_model_checkpoint』と記載されているので、末尾に『,sd_vae』と追記してください。

stable-diffusion設定完了リロード
入力が完了したら左上の『Apply settings』をクリックし、設定内容を保存してから右上の『Reload UI』を押します。

stable-diffusionVAE追加完了
するとUIが再起動され、プロンプトの入力画面の上側にVAEを切り替えるタブが表示されるのです。これでVAEの切り替えが楽ちんですね。

毎回Setting画面に移動しなくてもいいように、サクッと設定しておきましょう。

必要なVAEはモデルごとに異なる


『他にはどんなVAEを入れればいいの?』と思う方もいるでしょうが、それはあなたが使用するモデルによって異なります。

今回ダウンロード・設定を行ったvae-ft-mse-840000-ema-prunedは様々なモデルに適用できる汎用性の高いVAEでした。

しかし、中にはモデル専用のVAEも。

Counterfeit V2.5ダウンロードページ
出典元:Hugging Face

例えば、Counterfeit V2.5というモデルではsafetensorsファイルと並んで専用のVAEファイルが提供されています。

『このモデルにはどのVAEを使えばいいんだ?』と思ったら、まずはそのモデルをダウンロードしたページに飛んでVAEに関する記載を確認してみてください。

RealDosMixダウンロードページ
出典元:Civitai

RealDosMixというリアル系のモデルのダウンロードページでは『vae-ft-mse-840000-ema-pruned or kl f8 amime2』が推奨VAEとして記載されています。

この場合『さっきvae-ft-mse-840000-ema-prunedは入れたんで、kl f8 amime2もダウンロードしておくか。』という感じに考えられますよね。

VAEのレパートリーを増やしつつ、気軽に切り替えながらあなた好みのイラストをガンガン生成していきましょう。

もっとスムーズにイラストを生成したいなら…


もしあなたがもっと快適にAIイラストを生成したいなら、グラボを見直してみるのがおすすめです。

グラボはAIイラストを生成するうえで最も重要なパーツ。いくらCPUやメモリが高性能でもグラボがしょぼかったら致命的です。

本格的に取り組んでいくのなら、グラボにはケチらず投資しましょう。最低でも12GBのVRAMは確保しておきたいところ。VRAMが2GB・4GBくらいしかない古いグラボだと高解像度化や学習に大きな支障が出てしまいます。

コスパを重視する方・予算が5万円以下の方はRTX 3060一択と言っていいでしょう。

もう少し予算が確保できて、さらにハイスペックなグラボに興味がある方は以下の記事もお読みください。きっとあなたに合ったグラボが見つかりますよ。

>>【コスパ重視】Stable Diffusionにおすすめのグラボ3選!

PCごと買い替えを検討している方は以下の記事をお読みください。快適にStable Diffusionを使えるマシン3選を紹介しています。

>>Stable Diffusionにおすすめのパソコン3選と推奨スペックを解説!

生成した大量のイラストを簡単に管理する方法


Stable Diffusionで生成した大量のイラストを効率的に管理するなら『Eagle』というツールがおすすめ。

Eagle使い方①
イラストを生成するとメタデータが自動でEagleに送られ、タグやメモとして保存されます。このタグを使うことで検索や管理がとても楽ちん。

Eagle使い方②
例えば『a dog』というタグで検索すると、そのプロンプトで生成されたイラストだけを表示することができます。『あのイラストどんなプロンプトで生成したっけ?』『LoRAのトリガーワード忘れた』なんて迷わずに済みますよ。

Eagleは本来『約4,000円・買い切り型』の有料ツールですが、30日間の無料体験ができるので、とりあえず試してみてください。

>>公式サイトでEagleを無料体験してみる

『Stable Diffusionで必須のVAEとは?初期設定と使い方を解説!』のまとめ

  • VAEの仕組み難しすぎわろた
  • VAEを使うことでイラストが鮮やかに
  • 気軽にVAEを切り替えて変化を楽しもう

ここまでお読みいただきありがとうございました!

他にもわからないことがあったら以下の記事をお読みください。初心者向けにStable Diffusionの使い方を一から解説しています。

>>【完全初心者用ガイド】Stable Diffusionの使い方を徹底解説!