ローカルLLM

  • Qwen3シリーズ

    中国アリババのQwen系LLMの第3世代のQwen3のよく使うものの分類メモ。いろいろあってわかりにくい。 テキストLLM(Qwen3) Qwen3 Qwen3はアリババのオープンソース大規模言語モデル。用途に応じた複数

  • ローカルLLMを用いたWebリサーチ

    環境:LM Studio 0.3.37 ローカルLLMにウェブ検索をさせて新しい情報を取得させたり、まとめさせたり、調査させる方法です。今回はWebSearch-MCPをインストールし、LM Studioで利用します。

  • ローカルLLMをLM Studioで動かしてみる

    環境:LM Studio 0.3.36 ローカルLLMを始めるにあたって、わかりやすくて簡単なツールのひとつが LM Studio です。LLMとは何なのか、その性質や特徴を学ぶ入門用としてもちょうどよいツールだと思いま

  • 【Q4_K_M】量子化の読み方【Q5_K_L】

    LLM(大規模言語モデル)でよく見るQ4_K_MやQ5_K_Lなどの量子化表記は重みを何ビットで、どんな単位・方式で量子化しているかを表している。 結論から書くと、迷ったらQ4_K_Mを選べば間違いない。 Q4_K_M

← 記事一覧へ