環境：LM Studio 0.3.37, Visual Studio Code 1.107.1, Continue 1.2.11
はじめに
長文の文章を、エディタに本文を表示したまま、人間とLLMが局所的な修正を繰り返しながら進めていく形で文章を書きたいと思いました。AIコーディングエディタのような感覚で文章を書きたい、という感じです。
ブラウザ版のChatGPTやClaudeの場合、同じ文章を何度も貼りなおして修正依頼することになり、チャットが長くなりスクロールが面倒なことになります。
必要なツール
LM Studio
ローカルLLMを動作させるために使います。今回はAPIサーバーのようにふるまってもらい、Continueからのリクエストをさばいてもらいます。
Continue
Continueは、VS Codeなどで動作するオープンソースのAIコードアシスタント拡張です。GitHub Copilotと同様に、AIモデルを活用したコード補完、チャット、コマンド生成といった機能を提供します。
設定手順
LM Studio側の設定
LM Studioを起動し、Developerアイコンをクリックする。開くと管理画面のようなものが表示される。画面上部左上のStart Severボタンをクリックしてサーバーを開始する。
Continue側の設定
VS Codeの拡張機能からContinueをインストールする。
VSCodeで追加されたContinueのサイドバーを開き、「+」ボタンをクリックしてモデルの追加画面を開く。
ProviderをLM Studioに設定する。Modelはもし指定したいものがあればする。例えば「gpt-oss-20b」など。ここで設定しなくても後で選ぶことができる。
使い方
通常のチャット
Agentにモデルを設定し、@のところには何も設定しないままにしておくと、モデルとの対話になります。
LM Studioが裏で動きはじめ、このように返事が返ってきます。LM Studioのログも同時に表示しておくと何が起こっているのかわかりやすくなります。
右上の「＋」アイコンを押すと次のチャットへ切り替わります。ある程度会話が続き、コンテキストが最大に達したあたり（確認方法はなさそう）で切り替えたほうがいいです。
「＋」アイコンのとなりの履歴アイコンを押すと、過去のチャットの一覧がでてきます。
テキストファイルを指定したチャット
現在アクティブのテキストを対象にしたチャットの仕方。
テキストファイルを作成し、簡単なプロットを書き、これを表示した状態で、「@Current File」で対象を指定する（直接書いてもいいし、下にある「@」ボタンで選択できる）。
この状態でメッセージを書き、エンターを押すと、文章を読んだうえでLLMが返答をしてくれる。
選択範囲を修正してもらう
修正したい部分を範囲選択し、Ctrl + I を押す。
修正のリクエストを書く。
修正案が提示され、Accept を押すことで、適用される。修正しない場合はRejectを押す。
感想
適当に書いたプロットでもLLMに任せたらそれっぽい文学的で高尚な物語に昇華してくれたりして面白いです。LLMのおかげで物語を書く楽しさをちょっとだけ知ることができました。
こんなことができるのはローカルLLMだけだろうと思ってたら、普段コードを書くために利用しているGithub Copilotでも同じことができました。そりゃそうか・・。
でもローカルLLMには、無規制版モデルを使うことができるというメリットもありますからね・・。
たとえばこんな質問をすると、gpt-oss-20bは回答を拒否しますが・・
Qwen3の無規制版は攻めた回答をしてくれます。笑
