LLM 【Q4_K_M】量子化の読み方【Q5_K_L】
LLM（大規模言語モデル）でよく見るQ4_K_MやQ5_K_Lなどの量子化表記は重みを何ビットで、どんな単位・方式で量子化しているかを表している。Q4 _K _M│ │ └─ 量子化バリアント（品質寄り / 速度寄り）│ └──── K-q...
2025-09
LLM 
ハードウェア AI処理と必要なGPU環境【2025年度】
ローカル環境でAIを動かすことにロマンを感じる人です。昨今のハードウェア事情に疎かったため、GPU性能と扱えるAIモデルをまとめてみました。VRAM容量生成AIにはVRAMの容量が重要画像生成AIやLLMのモデルは数GB～数十GBのパラメー...
雑記 Stable Diffusionを始めてみる
いよいよ画像生成AIを始めてみました。遅くなったことに心理的な抵抗があったことは否めない。昔アメリカの美大でコンセプトアーティストに憧れて油彩やイラストレーションの勉強をしていた身としては、面白そうと思いつつも触れてはいけない分野という気が...