【SDXL】VAEで高画質で画像生成！導入・設定方法を徹底解説 | romptn Magazine

【SDXL】VAEで高画質で画像生成！導入・設定方法を徹底解説

2025.03.19
Stable Diffusion

Stable Diffusionを使っていると、生成画像の色味やディテールに違和感を感じることはありませんか？特にSDXLモデルを使用する場合、適切なVAEを使うことで画質が大きく向上します。

VAEとは変分オートエンコーダー(Variational Auto-Encoder)の略で、画像をコンピューターが扱いやすい形に変換し、鮮明な画像生成をサポートする技術です。SDXLモデル専用のVAEを使うことで、色のくすみやボヤけを解消し、より鮮やかで高品質な画像を生成できるようになります。

本記事では、SDXL VAEの基本から設定方法、おすすめのVAEモデルまで、画質向上のための情報を徹底解説します！

今回の記事で分かること
  • VAEとは？
  • SDXL VAEのインストール方法
  • SDXL VAEの設定と使い方
  • おすすめのSDXL VAEモデル
  • VAEをモデルに焼き込む方法
  • SDXL VAEのエラーと解決方法

※Stable Diffusionの使い方については、下記記事で詳しく解説しています。

【超初心者向け】Stable Diffusionの使い方完全ガイド
Stable Diffusionの使い方を初心者の方にも分かりやすく丁寧に説明します。Stable Diffusionの基本操作や設定方法に加えて、モデル・LoRA・拡張機能の導入方法やエラーの対処法・商用利用についてもご紹介します！
romptn.com
2023.08.24
スポンサーリンク

VAEとは？画像生成における役割を理解しよう

VAE（変分オートエンコーダー）は、簡単に言うと、高次元の画像データを低次元の潜在表現（ベクトル）に変換し、処理後に再び高次元の画像データに戻す仕組みです。

Stable Diffusionでは非常に多くの計算処理が必要となります。そのため、高次元の画像データをそのまま扱うと処理量が膨大になり、時間がかかってしまいます。VAEによってデータを圧縮することで、計算量を減らして効率的に処理できるようになります。

VAEなしの生成画像
　全体にモヤがかかっている

VAEありの生成画像
　画像全体がハッキリする

特にSDXL VAEは、画像の鮮明さを向上させる効果があります。SDXLに合ったVAEを導入することで、同じプロンプトでも画質が良くなり、くすんだ色味や暗い部分、ぼやけた箇所が鮮やかになります。

VAEの種類とSDXLの特徴

VAEには大きく分けて2種類あります。

  1. 汎用VAE：Stability AI社が公開している「stabilityai/sd-vae-ft-mse」のように、どのモデルでも使用できるVAE
  2. モデル専用VAE：特定のモデル専用に設計されたVAE（他のモデルと組み合わせても効果がない）

SDXL専用のVAEは、SDXL 1.0モデルの特性に最適化されており、より高品質な画像生成をサポートします。ただし、SDXL自体がSD 1.5と比較して基本的に高画質なため、VAEの違いがわかりにくい場合もあります。

Stable Diffusionの画像生成を最速で学びたいあなたへ！
  • Stable Diffusionの基礎を2時間でマスター！
  • 高スペックPCがない方向けに徹底解説。
  • ControlNetなど、必須級の拡張機能も網羅。
  • 今話題のSDXL、AI動画生成も。
  • 特典として、大人気「おすすめ拡張機能・モデル解説」「プロンプト大全」つき！
＼このボタン限定！70%オフキャンペーン実施中！／
＼70%オフキャンペーン実施中！／

SDXL VAEのインストール方法

ここからは、SDXL専用のVAEをStable Diffusion Web UIに導入する方法を順番に解説します。

VAEファイルのダウンロード方法

VAEファイルは主に以下の2つのサイトからダウンロードできます。

  1. Hugging Face
    • メニューバーから[Models]をクリック
    • 検索窓に「stabilityai/sdxl-vae」などのVAE名を入力
    • 詳細ページで[Files and versions]をクリック
    • safetensors形式のファイルをダウンロード
  2. Civitai
    • Civitaiで「SDXL VAE」などで検索
    • 目的のVAEモデルページにアクセス
    • Downloadボタンからファイルをダウンロード

VAEファイルの拡張子には.ckptと.safetensorsの2種類がありますが、セキュリティの観点から.safetensors形式をおすすめします。

VAEファイルの配置先

ダウンロードしたSDXL VAEファイルは、以下のフォルダに配置します。

  • Windows/Mac/GPUSOROBANの場合： [stable-diffusion-webui] > [models] > [VAE]

Forge版の場合は、[stable-diffusion-webui-forge]フォルダ配下となります。

  • Google Colabの場合：以下のコードを実行してください。
#フォルダに移動 %cd /content/stable-diffusion-webui/models/VAE 
# VAEファイルをダウンロード 
!wget https://huggingface.co/stabilityai/sdxl-vae/resolve/main/sdxl_vae.safetensors
プロンプトジェネレーターで画像生成プロンプトの参考に！
  • Stable Diffusionのプロンプトの見本が知りたい
  • 画像生成が思ったようにできない
  • 色々なプロンプトを探したい
など、画像生成AIのプロンプトに関する疑問が解決するかもしれません。
プロンプト生成ページを見てみる

SDXL VAEの設定と使い方

VAEファイルを配置したら、Stable Diffusion Web UIで設定を行いましょう。

①Stable Diffusion Web UIを起動

②上部メニューから[Settings]タブを開く

③左側メニューから[VAE]を選択

④[SD VAE]の更新アイコンをクリックし、プルダウンメニューから配置したVAEファイルを確認

VAEセレクターの設定（おすすめ）

毎回設定画面を開くのは面倒なので、VAEセレクターを表示させる方法がおすすめです。

①[Settings]ページを開く

②左側メニューから[User Interface]を選択

③[Quicksetting list]に「sd_vae」と入力

④候補に表示される[sd_vae]をクリック

⑤[Apply Settings]→[Reload UI]でWeb UIをリロード

これにより、メイン画面にSDXL VAE選択用のドロップダウンメニューが表示されるようになります。

VAEを切り替える方法

モデルによって適したVAEが異なる場合は、簡単に切り替えることができます。

  1. VAEセレクターの更新アイコンをクリック
  2. プルダウンメニューから使用したいVAEを選択
  3. 設定後、画像生成を行うと選択したVAEが適用される

おすすめのSDXL VAEモデル

続いては、SDXL用のおすすめVAEモデルを紹介します。モデルごとの特徴や生成画像の違いを解説しますので、ぜひ参考にしてください！

Stability AI公式のSDXL VAE

Stability AI公式のSDXL VAEは最も基本的なモデルです。

  • ダウンロード先：Hugging Face/Civitai
  • 特徴：標準的な色味とディテールを維持しつつ、スキントーンをより自然に表現
  • データサイズ：約335MB

低メモリ対応のSDXL VAE

VRAM不足で処理が遅い場合におすすめのモデルは、「FIX FP16 Errors SDXL – Lower Memory use」です。

  • ダウンロード先：Civitai
  • 特徴：FP16形式に最適化され、低メモリで高速処理が可能
  • 画質：標準VAEとほぼ同等の結果

アニメ特化のSDXL VAE

アニメ風イラスト生成に適したVAEモデルは、「XL_VAE_F」です。

  • ダウンロード先：Civitai
  • 特徴：コントラストが強調され、アニメイラストの発色が良くなる
  • データ形式：safetensors

その他の特徴的なSDXL VAE

①FlatpieceXL (flatpiecexlVAE_baseonA1579)

  • 特徴：標準のSDXL VAEより明るい画像を生成
  • 適した用途：明るく鮮やかな風景や人物画像

②XL_VAE_C f1

  • 特徴：彩度の高い画像が生成される
  • 適した用途：鮮やかな色彩が必要なイラスト

VAEをモデルに焼き込む方法

毎回VAEを設定するのが面倒な場合は、少し上級ですが、モデルにVAEを焼き込むこともできます。

①Stable Diffusion Web UIの「CheckpointMerger」タブを開く

②焼き込む対象のモデルをAとBの両方に指定（同じモデルを指定）

③Custom Nameに新しいわかりやすい名前を設定

④Interpolation Methodは「Weighted sum」を選択

⑤Checkpoint formatは「safetensors」を選択

⑥Bake in VAEで焼き込みたいVAEを指定

⑦Mergeボタンをクリックして焼き込み開始

こんな感じの画像を生成できるようになります！

これにより、VAEが焼き込まれた新しいモデルファイルが生成され、毎回VAEを設定する手間が省けます。

※詳しい使い方については、下記記事を参考にしてください！

Stable Diffusionの「階層マージ」とは？やり方や影響について詳しく解説
「階層マージ」でMeageモデルを作ろう！拡張機能Super Mergerを使って実写系モデルとイラスト系モデルをマージしてオリジナルモデルを作成する方法を解説しています。階層マージでは特定の階層のみを限定して調整ができるので、理想的なモデルを作成できる可能性があります。
romptn.com
2023.12.27

【FAQ】SDXL VAEのエラーと解決方法

SDXL VAEを使用する際によくあるエラーと解決方法について、FAQ形式で分かりやすく解説します。

Q
SDXL VAEを使うと「CUDA out of memory」エラーが出ます。どうすれば解決できますか？
A

このエラーはVRAMが不足している場合に発生します。以下の方法を試してみてください。

  • FP16対応のVAEモデル（「sdxl-vae-fp16-fix」など）を使用する
  • バッチサイズを1に減らす
  • 生成する画像の解像度を下げる（768×768など）
  • 「–medvram」や「–lowvram」オプションでStable Diffusion Web UIを起動する
  • 不要な拡張機能を無効化する
Q
VAEを選択したのに「VAE has incorrect dimensions」というエラーが表示されます
A

このエラーはSDXLモデルとSD 1.5用のVAEを組み合わせようとした場合などに発生します。モデルに合った適切なVAEを選択しましょう。

  • SDXL modelには「sdxl-vae」などのSDXL用VAE
  • SD 1.5モデルには「vae-ft-mse-840000-ema-pruned」などのSD 1.5用VAE
Q
VAEを設定しても画質に変化が見られません。なぜですか？
A

以下の原因が考えられます。

  • VAEファイルが正しく配置されていない → models/VAEフォルダに配置されているか確認
  • 「Automatic」設定になっている → 明示的にVAEを選択する
  • SDXLモデル自体が既に高画質 → SDXLはVAEの効果が分かりにくい場合もある
  • VAEとモデルの相性が悪い → 別のVAEを試してみる
Q
SDXL用のVAEを使うと画像が緑色になってしまいます
A

これはVAEとSDXLモデルの互換性の問題です。

  • 別のSDXL用VAEを試す（特に「sdxl-vae-fp16-fix」を試してみる）
  • VAEの設定を「None」に戻し、デフォルトのVAEを使用する
  • 最新版のStable Diffusion Web UIにアップデートする
Q
VAEを使うと「Failed to load VAE」というエラーが出ます
A

ファイルの破損や互換性の問題が考えられます。

  • safetensors形式のVAEファイルを使用する
  • Stable Diffusion Web UIを再起動する
  • モデルと同じバージョン向けのVAEを使用する
Q
fp16形式のVAEでも「FP16のエラー」が出る場合の対処法は？
A

以下の方法を試してください。

  • 設定画面から「Stable Diffusion」→「Precision」を「Full」に変更
  • 「–no-half-vae」オプションを追加してStable Diffusion Web UIを起動
  • 最新の「madebyollin/sdxl-vae-fp16-fix」を使用する
  • VRAM 8GB以上のGPUを使用する
Q
VAEセレクターが表示されません。どうすれば表示できますか？
A

以下の手順で設定してください。

  1. 設定画面を開く
  2. 左側メニューから「User Interface」を選択
  3. 「Quicksetting list」欄に「sd_vae」と入力
  4. 「Apply Settings」をクリック
  5. 「Reload UI」でWeb UIを再起動
Q
VAEを変えると生成時間が長くなりました。対処法はありますか？
A

VAEの計算負荷が原因です。

  • 軽量化されたFP16対応VAEを使用する
  • 「Use CPU for VAE」のチェックを外す（Settings → Optimizations）
  • VAEの使用を控える、または重要な画像生成時のみ使用する
  • より高性能なGPUを使用する
Q
VAEを使うと保存した画像のメタデータにVAE情報が記録されません
A

メタデータに記録されるよう設定する方法は、以下の通りです。

  • 設定画面で「Saving images」→「Add VAE info to metadata」をチェック
  • 「Apply Settings」後「Reload UI」で再起動
Q
モデルに焼き込んだVAEが正しく機能しません
A

焼き込み処理に問題がある可能性があります。

  • CheckpointMergerで同じモデルを指定したか確認
  • Interpolation Methodが「Weighted sum」になっているか確認
  • モデルサイズによっては焼き込みがうまくいかない場合もある
  • 別の方法でVAEを焼き込む（Advanced設定から「Bake VAE into .safetensors」機能など）

上記の対処法を試しても問題が解決しない場合は、Stable Diffusion Web UIのバージョンアップや、別のVAEの使用を検討してみてください。

※Stable Diffusionの更新方法は、下記記事で詳しく解説しています。

Stable Diffusionのアップデート方法！更新できない・エラーが出る場合の対処法も紹介
Stable Diffusionは定期的にバージョンアップされています。本記事ではご自身の制作環境をアップデートするための方法や、エラー発生時の対応方法について解説しています。更新後に起きるバグやエラーの原因や対処法も解説しています。
romptn.com
2023.09.08

まとめ

いかがでしたでしょうか？

SDXL VAEの基本から設定方法、おすすめモデル、さらに発生しがちなエラーと解決方法まで詳しくご紹介しました。

この記事で紹介したことをまとめると次のようになります。

  • SDXL VAEは画像の鮮明さを向上させる技術で、色味やディテールを改善する
  • VAEファイルはHugging FaceやCivitaiからダウンロードして[models]/[VAE]フォルダに配置する
  • VAEセレクターを設定すれば、簡単にVAEを切り替えながら画像生成ができる
  • SDXL用のVAEは「sdxl-vae」「sdxl-vae-fp16-fix」「XL_VAE_F」などがおすすめ
  • VRAM不足エラーはFP16対応のVAEを使ったり、解像度を下げたりして解決できる
  • 頻繁に同じVAEを使用する場合は、モデルに焼き込むと便利

SDXL VAEの設定がうまくいかず悩んでいる方や、より高品質な画像を生成したいという方に、かなり助けになる情報だったのではないでしょうか？

ぜひ、皆さんの環境に合ったVAEを導入して、Stable Diffusionでより魅力的な画像生成を楽しんでみましょう！

スポンサーリンク