LLM

スポンサーリンク
LLM

ローカルLLMを用いたWebリサーチ

環境:LM Studio 0.3.37ローカルLLMにウェブ検索をさせて新しい情報を取得させたり、まとめさせたり、調査させる方法です。今回はWebSearch-MCPをインストールし、LM Studioで利用します。動機ローカルLLMモデル...
LLM

VS Code + ContinueでローカルLLMと一緒に文章編集する

環境:LM Studio 0.3.37, Visual Studio Code 1.107.1, Continue 1.2.11はじめに長文の文章を、エディタに本文を表示したまま、人間とLLMが局所的な修正を繰り返しながら進めていく形で文章...
LLM

ローカルLLMをLM Studioで動かしてみる

環境:LM Studio 0.3.36ローカルLLMを始めるにあたって、わかりやすくて簡単なツールのひとつが LM Studio です。LLMとは何なのか、その性質や特徴を学ぶ入門用としてもちょうどよいツールだと思います。日常や仕事ではCh...
LLM

【Q4_K_M】量子化の読み方【Q5_K_L】

LLM(大規模言語モデル)でよく見るQ4_K_MやQ5_K_Lなどの量子化表記は重みを何ビットで、どんな単位・方式で量子化しているかを表している。Q4 _K _M│ │ └─ 量子化バリアント(品質寄り / 速度寄り)│ └──── K-q...
スポンサーリンク