LLM 【Q4_K_M】量子化の読み方【Q5_K_L】 LLM（大規模言語モデル）でよく見るQ4_K_MやQ5_K_Lなどの量子化表記は重みを何ビットで、どんな単位・方式で量子化しているかを表している。Q4 _K _M│ │ └─ 量子化バリアント（品質寄り / 速度寄り）│ └──── K-q... 2025.09.18 LLM
LLM