ComfyUI Managerで量子化（GGUF）モデルを使う

環境：Stability Matrix 2.15.5, ComfyUI 0.8.2

ComfyUI Managerはカスタムノードを使うときに必要になる拡張機能。GGUFモデル等を使うために必要になる。

正式に本体に統合されたみたいですが、Stability Matrix経由のComfyUIには手動で導入する必要がある。

GitでComfyUI Managerをダウンロードする

事前にGitをインストールしておく。

Stability MatrixのComfyUIパッケージのディレクトリへ行き、ComfyUI/cusotom_nodesフォルダを開く。

私の環境の場合
D:/GenerativeAI/StabilityMatrix/Data/Packages/ComfyUI/custom_nodes

右クリックを押し、「ターミナルで開く」を選びPowerShellを起動する。

以下を入力してgit cloneする。

git clone https://github.com/Comfy-Org/ComfyUI-Manager.git

clone後にcustom_nodes配下にComfyUI-Managerフォルダができていればインストール完了。

ComfyUIを開き、右上のところにManagerアイコンが出来ているはずなので、これをクリックする。

出てきたウインドウから「Custom Node Manager」ボタンを押す。

ComfyUI-GGUFを探し、インストールする。

量子化されたGGUFファイルはComfyUI/models/unetフォルダに保存しておく。

Add Node > Bootleg > Unet Loader(GGUF) ノードで読み込む。

テキストエンコーダーのGGUFファイルはComfyUI/models/clipフォルダに入れる。

Add Node > Bootleg > Unet Clip(GGUF) ノードで読み込む。