ローカルLLM おすすめ 2026年版：Qwen3.6、Gemma 4、gpt-oss、Phi-4を徹底比較

32 GBのマシンに最適なローカルLLMはQwen3.6-35B-A3Bです。現在の4ビットOllamaビルドは24 GBであり、ランタイム、OS、コンテキストキャッシュが消費する前に8 GBの余裕を残せます。8 GB環境ならQwen3.5-9Bを、16 GB環境ならマルチモーダル用途にGemma 4 12B、推論用途にgpt-oss-20bを選ぶのが賢明です。

結論：各マシンスペックに応じたローカルLLM おすすめモデル

ローカルモデルは、ベンチマークを論じる前にまずメモリに収まらなければ動作しません。当たり前のように思えますが、誤った推奨の多くはここを見落としています。スパース（MoE）モデルはトークンごとに数パーセントのパラメータしかアクティブ化しないとしても、すべての重みをメモリ上に常駐させる必要があります。

本ランキングは、現在ダウンロード可能な成果物のサイズから出発し、動作に必要な余裕（ヘッドルーム）を加味したうえで、各モデルの得意分野を評価しています。未検証のテストによるパフォーマンス主張ではなく、最新のモデルカードおよびランナー公式情報に基づいた比較です。

単一のデフォルトとして最もおすすめなのは、利用可能なシステムメモリまたはユニファイドメモリが約32 GBあるマシンでのQwen3.6-35B-A3Bです。オープンウェイト、マルチモーダル入力、エージェント型コーディング性能を兼ね備え、現行のQ4_K_Mパッケージで24 GBに収まります。このファイルサイズで作業領域を確保できない場合は、より大型のモデルを無理にスワップへ追いやるよりも、Qwen3.5-9Bへ一段落とす方が賢明な判断です。

16 GB枠には用途に応じて2つの有力候補があります。アシスタントに画像、動画、音声の検証を求めるならGemma 4 12Bが適しています。推論やツール利用を重視するならgpt-oss-20bですが、14 GBのファイルサイズにより、システムの他プロセスに残されるメモリはわずか2 GBです。

ローカルLLMの動作に実際に必要なメモリ量

ローカルモデルを議論する際、総パラメータ数、アクティブパラメータ数、量子化ファイルサイズ、作業用メモリという4つの数値が混同されがちです。これらはそれぞれ異なる意味を持ちます。

総パラメータ数は、モデル内のすべての学習済み重みの総量を表します。アクティブパラメータ数は、Mixture-of-Experts（MoE）モデルが1トークンを処理する際に使用するサブセットを指します。後者は計算効率を説明する指標ですが、ストレージやメモリへの常駐には総パラメータ数が依然として影響します。GoogleはGemma 4 26B A4Bにおいてこの区別を明示しており、アクティブなのは40億パラメータのみであるものの、260億パラメータすべてをメモリにロードする必要があると記載しています。

量子化は、これらの重みをより低い数値精度で格納する技術です。4ビットビルドは全精度版に比べて大幅に小さくなり、機能面で一定のトレードオフが発生する可能性があります。これは道路の4分の3を消去するのではなく、詳細な地図をポケット版に圧縮するようなものです。構造は維持されますが、わずかな精度が失われます。

作業用メモリは、モデルファイル本体に加えて動作に必要なすべてのメモリの合計です。ランナー自体もメモリを消費します。OSもメモリを消費します。プロンプトと生成された会話履歴を高速に保持するスクラッチパッドであるKVキャッシュは、コンテキスト長に応じて増大します。Google自身のGemmaの表でも、静的な重みサイズの見積もりには周辺ソフトウェアやコンテキストウィンドウの分が含まれていないことが警告されています。

だからこそ、スペック表に256Kコンテキスト対応と書かれているモデルがメモリに収まったとしても、256Kのコンテキスト長全体を実機でロードできるとは限らないのです。コンテキスト制限値はアーキテクチャ上の最大許容量であり、お使いのノートPCでの動作を保証するものではありません。Qwen3.5-9BとQwen3-Coder-Nextの双方とも、メモリ不足（OOM）エラーが発生した際にはコンテキスト長を縮小するようユーザーに促しています。

メモリ層から逆算してローカルLLMのおすすめを選ぶ

以下の基準は、あらゆるコンテキスト長を保証するものではなく、実用的なデプロイの下限値として活用してください。

• 専用VRAM 4 GB: マシンに通常のシステムRAMが備わっている場合、Phi-4-miniの2.5 GB（Q4_K_M）ファイルが現実的な小型モデルの選択肢です。CPUのみで動作させる場合は、システムRAM 8 GBを下限と考えるのが適切です。
• 専用VRAM 8 GB: コンテキスト長を控えめに抑える前提であれば、Qwen3.5-9Bの6.6 GBパッケージが適合します。合計12 GB以上のシステムメモリまたはユニファイドメモリがあるとより安全です。
• 空きメモリ 16 GB: Gemma 4 12Bであれば余裕を持った配置が可能です。gpt-oss-20bはOpenAI公式の16 GB下限に達しますが、かなり窮屈な運用になります。
• 空きメモリ 32 GB: Qwen3.6-35B-A3Bが総合的に最もおすすめの候補です。24 GBのパッケージサイズにより、ランタイムとコンテキスト用に8 GBの余裕を確保できます。
• 64 GB以上: Qwen3-Coder-Nextが実用視野に入ります。ただし、52 GBのパッケージサイズのため、残るヘッドルームは12 GB程度です。

ヘッドルームを計算すると、各モデルの余裕度の違いが浮き彫りになります。Qwen3.5-9Bは8 GBの割り当てに対して1.4 GB（17.5%）を残します。gpt-oss-20bは16 GBに対して2 GB（12.5%）を残します。Qwen3.6は32 GBに対して8 GB（25%）を残します。Qwen3-Coder-Nextは64 GBに対して12 GB（18.75%）を残します。

これらのパーセンテージは、起動後に自由に使えるメモリではありません。ランナー、OS、KVキャッシュがメモリを消費する前の理論上の上限値です。したがって、gpt-ossの構成は技術的な下限値であり、Qwen3.6の構成が4つの中で最も健全なマージンを保っています。

1. Qwen3.6-35B-A3B：32 GB環境におけるローカルLLM おすすめ総合1位

Qwen3.6-35B-A3Bは、32 GBのメモリを確保できる環境において総合ベストとなるローカルLLMです。Qwen公式によると、総パラメータ数350億、アクティブパラメータ数30億のMixture-of-Expertsモデルであり、オープンウェイト、マルチモーダル推論、エージェント型コーディングに重点を置いて設計されています。現在のOllamaパッケージ（Q4_K_M）は24 GBであり、この数値がお手元のマシンで動作可能かを左右します。

このモデルは、リポジトリへの質問、実装設計、画像の検証、長文コーディングを1台のローカルアシスタントで完結させたい創業者やシニアエンジニアに適しています。同じアシスタントにスクリーンショットや図表、ドキュメントの読み取りも行わせたい場合、コーディング特化型モデルよりも優れた選択肢になります。30億のアクティブパラメータは実行効率を高めますが、パッケージ自体が3 GBになるわけではありません。インストールされる4ビット成果物は依然として24 GBです。

実用上の障壁はコンテキスト長です。会話を開始する前から、32 GBの割り当て枠の4分の3をモデルファイルが消費します。大規模なリポジトリ、多数の画像、長い会話履歴はいずれもキャッシュを急激に肥大化させるため、マシンをスワップに追い込むカタログスペック上の最大値を目指すよりも、短く実用的なコンテキスト長で運用するのが得策です。

最適な用途: コーディング、論理推論、画像解析を1つの高機能ローカルモデルでこなしたい32 GBマシン。
注目点: 総パラメータ数350億、アクティブ30億、マルチモーダル入力対応、24 GBのQ4_K_Mビルド。
価格: 現在のOllama成果物に適用されているApache License 2.0に基づくオープンウェイト。ローカルハードウェアの稼働コストのみ。
無料トライアル: ダウンロード可能な重みファイルのため該当なし。

Ollamaで総合1位モデルを実行する手順

1. 1

   専用に割り当て可能なメモリを確認する

   この24 GBの成果物を動かすための実用的な下限値として32 GBを基準にします。ユニファイドメモリ環境では、OSや他のアプリがすでに消費している分を差し引いて計算してください。

2. 2

   Ollamaをインストールする

   Ollama公式サイトから最新のデスクトップ版またはCLIビルドをダウンロードします。自身のハードウェア上での無制限利用であればFreeプランで十分です。

3. 3

   指定のモデルタグで起動する

   ollama run qwen3.6:35b-a3b を実行します。このタグにより、Ollamaのモデルページに記載されている最新の24 GB Q4_K_M成果物が解決されます。

4. 4

   短い作業コンテキストから開始する

   デフォルトでアーカイブ全体を読み込ませるのではなく、タスクに必要なリポジトリフォルダやファイルのみから開始します。スワップが発生したりOOMエラーが出た場合は、低精度版に落とす前にまずコンテキスト長を縮小してください。

2. Qwen3.5-9B：8 GB GPUに最適なローカルLLM

Qwen3.5-9Bは、8 GBの専用GPU向けとして最もコンパクトで優れたローカルLLMです。公式モデルカードではビジョンエンコーダーを備えた90億パラメータの因果言語モデルと説明されており、現在のOllamaパッケージはテキストおよび画像入力に対応して6.6 GBです。日常的なマルチモーダルアシスタントとして実用に耐えるものとしては、本リスト中で最も小型の選択肢となります。

具体的なユースケースは、エラー画面のスクリーンショットやUIモックアップ、構成図の読み取りもこなせるデスクトップ上のコーディングコンパニオンです。8 GB GPUを持つ個人開発者であれば、Qwen3.6のように24 GBを割り振ることなく、コード解説や簡単なリファクタリング、視覚的な質問応答を行えます。上位モデルがスペック上は動くもののメモリページングで動作が重くなっている場合の、妥当なフォールバック先でもあります。

ただし、256Kコンテキストという表記には注意が必要です。Qwenのモデルカードには262,144トークンのネイティブ上限が記載されていますが、OOM発生時にはコンテキスト長を減らすよう明記されています。6.6 GBのファイルは8 GBのVRAM予算内でキャッシュやランタイム前にわずか1.4 GBしか残さないため、最大コンテキスト長を使い切るにはより上位のハードウェアが必要です。

最適な用途: 8 GBの専用GPU、コンパクトなマルチモーダル対話、日々のコーディング支援。
注目点: テキストと画像入力に対応した6.6 GBの成果物。
価格: ダウンロード可能なモデルウェイト。配布元ページにモデルサブスクリプションの記載なし。ハードウェアおよびホスティング環境は別途。
無料トライアル: ダウンロード可能な重みファイルのため該当なし。

3. Gemma 4 12B：16 GB環境で最強のマルチモーダルローカルLLM

Gemma 4 12Bは、マルチモーダル入力が重視される業務において16 GB環境でのベストな選択肢です。Googleの最新ファミリーはテキスト、画像、動画を処理でき、12Bサイズではさらに音声入力にも対応しています。Gemma利用規約に沿った責任ある商用利用が認められたオープンウェイトであり、規約がプロジェクト要件に合致していれば、プライベートなドキュメント・メディアアシスタントとして高い威力を発揮します。

このモデルは、スクリーンショットの比較、録音された通話の要約、短い動画の確認、付随するテキストの考察を同一マシン上で行いたいプロダクト担当者に最適です。テキスト限定のgpt-oss-20bよりも幅広い入力に対応できます。メモリの収まりも良く、Ollamaの現行gemma4:12b成果物は7.6 GBで、16 GBの割り当て枠内に十分な余裕を保てます。

Google公式のQ4_0見積もりは6.7 GBであるのに対し、Ollamaの現行成果物は7.6 GBです。ビルド構成や量子化パッケージが異なるため、これらの数値に矛盾はありません。重要なのはGoogleの注記にある通り、静的なモデルメモリには周辺ソフトウェアやコンテキストウィンドウが含まれないため、どちらの数値も動作全体のフットプリントと同一視してはならないという点です。

12BモデルはGemmaファミリーのミディアムグループに属し、256Kのコンテキスト上限を備えています。Qwenと同様に、このアーキテクチャ上の天井値は16 GB環境でのデフォルト値としては適切ではありません。タスクに必要なドキュメントやメディアから小さく開始し、マシンの応答性が維持できる範囲でのみコンテキストを拡大してください。

最適な用途: テキスト、画像、動画、音声に対応する16 GBマルチモーダルアシスタント。
注目点: 最新の7.6 GB Ollama成果物による広範な入力サポート。
価格: Gemma利用規約に基づくオープンウェイト。重みのダウンロードにモデルサブスクリプションは不要。
無料トライアル: ダウンロード可能な重みファイルのため該当なし。

4. gpt-oss-20b：16 GB下限で動く最高峰のローカル推論モデル

gpt-oss-20bは、厳格な16 GBのメモリ下限を満たせるマシンにおいて、推論能力を最優先する場合のローカルモデルです。OpenAIは総パラメータ数210億、アクティブパラメータ数36億、最大128Kコンテキスト、Apache 2.0ライセンスを提示しており、ツール利用、Function Calling、Structured Outputs（構造化出力）、および低・中・高の推論労力（Reasoning Effort）調整をサポートしています。現在のOllamaパッケージは14 GBで、テキスト入力のみを受け付けます。

構造化されたタスクを論理的に推論し、人間のレビュー前にサポートリクエストを分類するなど、予測可能なスキーマを出力する必要があるローカル自動化処理に適しています。また、画像入力よりも調整可能な推論ステップを重視する開発者にも有用です。STEM、コーディング、一般知識に重点を置いた英語中心のテキストデータで学習されているため、ビジョンモデルと誤認してはなりません。

OpenAIは本20Bモデルが16 GBのメモリで動作可能であるとしています。Ollamaの14 GB成果物はその下限値を裏付けていますが、ランナー、OS、KVキャッシュがメモリを確保する前に残る容量はわずか2 GB（割り当ての12.5%）です。短いプロンプトへの応答ではなく継続的な処理を行わせる場合は、合計24 GBのシステムを用意するのがより安心な推奨構成となります。

最適な用途: テキスト推論、ツール連携、構造化出力、エージェントワークフロー。
注目点: アクティブパラメータ数36億、調整可能な推論労力、公式の16 GB動作下限。
価格: Apache 2.0に基づくオープンウェイト。ローカル利用にモデルサブスクリプションは不要。
無料トライアル: ダウンロード可能な重みファイルのため該当なし。

5. Phi-4-mini-instruct：CPUおよび4 GB VRAM向けの軽量ローカルLLM

Phi-4-mini-instructは、限られたハードウェアリソースで動作する本リスト中最小のローカルLLMです。Microsoftのモデルカードには、38億（3.8 billion）パラメータ、128Kのコンテキスト上限、テキスト専用入力、24言語対応、MITライセンスが記載されています。OllamaのQ4_K_M成果物は2.5 GBであり、4 GBの専用GPU、あるいは8 GB以上のシステムRAMを持つCPU専用マシンでも現実的に稼働します。

実用的な場面としては、サポート返信の下書き作成、短いドキュメントからの特定フィールド抽出、メモの分類、ホスト型モデルにテキストを送信しない小規模なPythonスクリプト作成支援など、限定的なローカルユーティリティが挙げられます。Microsoftはこれをメモリ制限、計算能力制限、レイテンシ制限のある環境や、論理的推論・数学向けとして公式に位置付けています。24 GBクラスのモデルと全タスクで競合させようとするのではなく、軽量特化の用途で選ぶのが理にかなっています。

最大の弱点は明快です。静的な学習カットオフがJune 2024であり、小型モデルゆえに膨大な事実知識を蓄積できないため、事実誤認（ハルシネーション）が発生しやすいとMicrosoft自身が警告しています。モデルカードでは検索やRAG（検索拡張生成）による緩和策が提示されています。要するに、最新の事実を記憶から引き出させるのではなく、ファクトチェック用の元ソースをプロンプト内に与えて処理させる必要があります。

最適な用途: CPU中心のユーティリティ、旧型ハードウェア、短いテキストタスク、4 GB GPU環境。
注目点: MITライセンス下のコンパクトな2.5 GB Q4_K_M成果物。
価格: MITライセンスのダウンロード可能な重み。ローカルハードウェア費用のみ。
無料トライアル: ダウンロード可能な重みファイルのため該当なし。

6. Qwen3-Coder-Next：64 GB以上の環境に最適なコーディング特化型LLM

Qwen3-Coder-Nextは、64 GB以上のメモリを搭載したマシン向けの最高峰コーディング特化ローカルLLMです。Qwenはこれをコーディングエージェントおよびローカル開発用途として設計しており、総パラメータ数800億、アクティブパラメータ数30億、長大ステップの論理推論、複雑なツール利用、実行エラーからの自動復旧、ネイティブ262,144トークンのコンテキストを備えています。現在のOllama Q4_K_M成果物は52 GBです。

このモデルは、大規模リポジトリの探索、ツール呼び出し、ファイル編集、コマンド失敗時のリカバリをローカルエージェントに自律実行させたいシニアエンジニア向けです。一般的な日常会話や画像処理、あるいは32 GBのノートPC向けのデフォルトモデルではありません。公式カードによると「non-thinking mode」のみで動作し、可視化された思考ブロックは出力されません。

名称にある30億アクティブという数値は、他のMoEモデル同様の誤解を生みがちです。Ollama成果物が52 GBあるのは、総パラメータ数800億のすべての重みをパッケージ内に保持する必要があるためです。これを64 GB環境に読み込むと、ランタイムやキャッシュの確保前に残る容量は12 GB（18.75%）となるため、64 GBはあくまで最低動作ラインであり、リポジトリ全体のコンテキストを扱うにはそれ以上のメモリが推奨されます。

Qwen公式は、OOMエラーが発生した場合はコンテキストを32,768まで減らすよう明記しています。これは64 GBマシンにおいて極めて適切な一次対処です。262,144トークンの上限に固執して動作不能になるよりも、コンテキストを絞ってエージェントの応答性を保つ方が実用的です。

最適な用途: 64 GB以上の環境におけるローカルコーディングエージェント、大規模コードベース解析、高度な開発自動化。
注目点: 総パラメータ数800億、アクティブ30億、52 GBのQ4_K_Mパッケージ、コーディングエージェント特化。
価格: 現在のOllama成果物に付帯するApache License 2.0に基づくオープンウェイト。ハードウェアは別途。
無料トライアル: ダウンロード可能な重みファイルのため該当なし。

Ollama vs LM Studio vs llama.cpp：実行環境の比較

どのモデルにするかで到達できる能力の上限が決まりますが、ダウンロードからローカルエンドポイントとしての稼働までにどれだけ手間がかかるかは、選択するランナーによって決まります。自動化ならOllama、GUI重視ならLM Studio、細かな制御ならllama.cppが適しています。同一のマシン上でこれらを使い分けることも可能です。

Ollama：CLIやAPIエンドポイントを最速で構築

ローカルモデルをコマンドライン、スクリプト、またはAPIエンドポイントとして素早く活用したい場合、Ollamaが最も簡潔でおすすめです。最新のFreeプランには、ローカルハードウェア上でのモデル実行、CLI、API、デスクトップアプリが含まれます。自身のマシン上で実行するローカルモデルは常に無制限であり、完全ローカル構成において考慮すべきコストはハードウェアのみです。

Ollamaの有料プランはローカル推論に課金するものではなく、クラウド処理能力を追加するためのものです。以下の料金および制限はAugust 5, 2026時点で確認されたものです。

個別のクラウドセッション制限は5時間ごとにリセットされ、週間制限は7日ごとにリセットされます。これらの制限はお手元のローカルハードウェア上で動作するモデルには一切適用されません。本記事総合1位のモデルであれば、インストール後に ollama run qwen3.6:35b-a3b のコマンド1行ですぐにセットアップが完了します。

最適な用途: 明快なローカルCLI、API、デスクトップアプリ、安定したモデルタグ管理を求めるエンジニア。
注目点: 無料で無制限のローカルハードウェア利用と、オプションのクラウド階層。
価格: Free $0、Pro 月額$20または年額$200、Max 月額$100（新規停止中）、Team 1ユーザーあたり月額$25（5席以上）、Enterprise 要問い合わせ。
無料トライアル: Freeプランは無期限であり、期間制限付きトライアルではありません。

LM Studio：最も洗練されたGUI操作環境

モデルの検索、ダウンロード、ロード、チャットまでの全工程をグラフィカルなUIで完結させたい場合は、LM Studioが適しています。公式ガイドに従えば、「Discover」タブでの検索、「Model Loader」での展開、「Chat」タブでの対話へとスムーズに進めます。Freeプランでは手元のマシン上でローカルLLMとオフライン音声文字起こしが動作し、料金ページにはローカル利用においてデバイスからデータが外部送信されることは一切ないと明記されています。

LM Studioはクラウド推論も統合しているため、ローカル利用とクラウド利用の料金体系を切り分けて理解する必要があります。August 5, 2026時点での料金は以下の通りです。

• Free, $0: ローカルLLM、Bionic Agent、llama.cppおよびMLXランタイム、オフライン音声文字起こし、ログイン時のデータ保持なし（zero-data-retention）Web検索ツール、最大5台までのLM Link。
• 従量課金（Pay as you go）: 100万トークン単位のクラウドクレジット課金。DeepSeek V4 Flashは入力$0.13、キャッシュ入力$0.028、出力$0.26。DeepSeek V4 Proは入力$1.74、キャッシュ入力$0.15、出力$3.48。
• 従量課金（続き）: GLM-5.2は入力$1.50、キャッシュ入力$0.30、出力$4.50。Kimi K2.6は入力$0.95、キャッシュ入力$0.16、出力$4.00。Kimi-K2.7-Codeも入力$0.95、キャッシュ入力$0.16、出力$4.00。Kimi K3は入力$3.00、キャッシュ入力$0.30、出力$15.00。
• Bionic Pass: 料金プランの詳細は準備中。

1台のマシン上で各種モデルの比較検証を行いたい開発者にとって、無料のGUIフローはLM Studioを選ぶ決定的な理由になります。一方で、バージョン管理された再現性の高いバックエンドサービスを構築したい場合は、Ollamaやllama.cppの方が運用に適しています。

最適な用途: 視覚的なモデル探索、ワンクリックロード、手軽なローカルチャット。
注目点: llama.cppおよびMLXランタイムを統合した完全無料（$0）のデスクトップ体験。
価格: Free $0、クラウド推論は上記モデル別従量課金、Bionic Passは価格未定。
無料トライアル: Freeプランは無期限であり、期間制限付きトライアルではありません。

llama.cpp：ハードウェア制御とハイブリッド推論の決定版

使用するマシン、コンパイルフラグ、レイヤーの配置配分をミリ単位でチューニングしたいなら、llama.cppが究極の選択肢です。MITライセンスで提供される本プロジェクトは、MetalによるAppleシリコン、CUDAによるNVIDIA GPU、HIPによるAMD GPUのほか、VRAM容量を超える大型モデルを動かすためのCPU＋GPUハイブリッド推論に対応しています。CLI、サーバー機能、内蔵Webインターフェースが用意されています。

具体的なユースケースは、モデルの一部レイヤーをGPUに載せ、残りをシステムメモリへ溢れさせて動作させる自作ワークステーション環境や、特定のバックエンド最適化が必要なシステム開発です。llama serve を実行すれば専用サーバーが立ち上がります。自由度が高い反面、適切なGGUFファイルの選定や起動時フラグの調整など、自身で管理すべき項目が増加します。

llama.cppには有料プラン表などは存在しません。完全なMITライセンスのオープンソースプロジェクトです。発生するコストはハードウェアの実費と、環境構築にかける自身のエンジニアリング工数のみです。

最適な用途: 自作カスタムハードウェア、CPU/GPUハイブリッド推論、低レイヤーのデプロイ制御。
注目点: 圧倒的なハードウェアバックエンド対応力と、完全無料のローカルサーバー機能。
価格: MITライセンスのオープンソース。公式の有料製品プランなし。
無料トライアル: 該当なし。

今回のローカルLLMおすすめ選定基準

本記事の比較調査はAugust 5, 2026を基準点としています。選定にあたっては、公式ドキュメントが存在すること、ダウンロード可能な重みファイルがあること、個人開発者・プロシューマー向けの実用的なワークロードに対応していること、そして主要ランナーの公式ページでファイルサイズが検証可能な成果物であることを必須条件としました。

以下の6つの評価基準を採用しています。

1. 実用的な4ビットフットプリント: 対象のメモリ層に対して、成果物パッケージを展開した上で一定の余白が残ること。
2. 明確な実用ユースケース: マルチモーダル、推論・ツール利用、省メモリ、コーディング特化など、選ばれる明確な理由があること。
3. 最新ファミリーの採用: 既存の定番モデルであっても、後継となる新ファミリーが既に公開され稼働可能であれば新世代を優先。
4. 公式の制約条件: コンテキスト長、モダリティ、ライセンス、既知の弱点は各ベンダーのモデルカードや公式ドキュメントに準拠。
5. ランナーでの入手性: 最新のOllama成果物や主要ランナーでの確実なサポートが存在すること。
6. 安易な選定の排除: スパース構造のアクティブパラメータ数が小さく見えても、実態として巨大なサーバー向けモデルは一般向けとして推奨しない。

各ベンダー間で共通の評価ベンチマーク基盤が共有されていないため、単一のスコアによる順位付けは行っていません。巨大なファイルをダウンロードする前にユーザー自身が検証可能な「デプロイ適合性」と「ワークロードの適合」を最終判定の軸としています。

そのため、古いまとめ記事のように数を水増しせず、厳選した6モデルに絞っています。Qwen3.6やGemma 4が旧世代の推奨を置き換えており、メモリ層ごとに分けることで、ほぼ同サイズのモデルが冗長に並ぶのを防いでいます。

一般的な消費者向けハードウェアでは避けるべきモデル

「避けるべき」というのはモデル自体の性能が低いという意味ではありません。一般的なPC環境で動かすローカルLLMとしての問い合わせに対して、不適切な回答になるという意味です。

Mistral Small 4はテキスト・画像入力、推論調整、256Kコンテキスト、Apache 2.0を備えた強力な最新モデルです。しかし総パラメータ数は1190億（119 billion）、アクティブは60億（6 billion）に達します。この総重量クラスはワークステーションやサーバー向けであり、一般的なノートPCで扱うモデルではありません。

Llama 4 Scoutは総パラメータ数1090億（109 billion）、アクティブ170億（17 billion）です。Meta公式ではInt4モデルが単一のNVIDIA H100 GPUに収まるとされています。Llama 4 Maverickは総パラメータ数4000億（400 billion）、アクティブ170億（17 billion）で、Metaは単一のH100ホスト構成を案内しています。これらは業務サーバーには有益な情報ですが、一般的なクライアント端末向けではありません。

DeepSeek-V4-Flashは名称こそ軽量に見えますが、総パラメータ数は2840億（284 billion）、アクティブ130億（13 billion）です。DeepSeek-V4-Proに至っては総パラメータ数1.6兆（1.6 trillion）、アクティブ490億（49 billion）に達します。公式サービスでは100万トークンのコンテキストを処理できますが、これはホスト型クラウドの利点であり、デスクトップPCでオープンウェイトを動かせる根拠にはなりません。

2026年の新規構築において、過去の記事で定番だったLlama 3.1 8B、Mistral 7B、Phi-3.5 Mini、Gemma 2 9B、Qwen2.5 7Bなどを最初の選択肢にする必要はありません。稼働中の既存システムでは役立っていても、新規に構築するのであればQwen3.5、Qwen3.6、Gemma 4、Phi-4ファミリーから検討するのが確実です。

この判断は移行コストの観点でも重要です。安定稼働している既存アプリを流行だけで更新する必要はありませんが、新規アプリケーションを組むのであれば、旧世代に頼る前に最新ファミリーのメモリ適合性とライセンス要件を確認すべきです。

最終決定ガイド：環境別ローカルLLM おすすめの選び方

専用VRAM 4 GB環境では、Phi-4-mini-instructを限定的なテキスト処理に使い、事実確認が必要なタスクには必ずプロンプト内で根拠資料を与えて運用してください。専用VRAM 8 GB環境では、コンテキストを控えめにしたQwen3.5-9Bが、テキスト・画像・コーディングを最もコンパクトにこなせる選択肢です。

16 GB環境では、画像、音声、動画を扱うならGemma 4 12Bを選びます。論理推論、ツール連携、構造化されたテキスト出力を重視するならgpt-oss-20bが適していますが、開発ツールやブラウザを同時に立ち上げるなら合計24 GBのシステムメモリを用意するのが無難です。

32 GB環境なら、Qwen3.6-35B-A3Bがベストバイです。24 GBの現行パッケージにより、マルチモーダル入力とエージェント型コーディング性能を確保しながら、実用的なメモリヘッドルームを残せる本比較中最強の万能解です。

64 GB以上の環境では、コーディングエージェントが主目的である場合に限りQwen3-Coder-Nextを選択してください。52 GBの巨大ファイルと特化された設計は日常会話には過剰ですが、リポジトリ規模のローカル開発自動化では圧倒的な力を発揮します。

民生用ハードウェアの枠を超えたオープンウェイトモデル全般の動向については、オープンソースLLM 比較記事を参照してください。モデルの目星がつき、Ollama以外のランナーを検討したい場合は、Ollamaの代替ツール比較が役立ちます。

ランナーの選定基準は明快です。再現性のあるコマンドやAPIが必要ならOllama、洗練されたGUI操作を望むならLM Studio、極限のハードウェア制御を求めるならllama.cppです。真に最適なローカルLLMとは、お使いのマシンに無理なく収まり、目的の作業をこなし、プロンプトを最後まで処理し切るだけのメモリを残せるモデルのことです。

よくある質問（FAQ）

2026年時点でコーディングに最もおすすめのローカルLLMは何ですか？

64 GB以上のメモリ環境がある場合、Qwen3-Coder-Nextがコーディングエージェント特化の最有力候補です（現行Q4_K_Mで52 GB）。32 GB環境であれば、マルチモーダルかつ万能なコーディング性能を備えたQwen3.6-35B-A3Bが総合的に優れています。

RAM 16 GBのマシンに最適なローカルLLMはどれですか？

マルチモーダル用途なら、現行Ollama成果物が7.6 GBで収まりが良いGemma 4 12Bが安全です。推論性能やツール連携を重視する場合はgpt-oss-20bが公式16 GB下限に対応しますが、14 GBの成果物サイズのためメモリ残量はわずか2 GBとなります。

ローカルLLMの実行にはOllamaとLM Studioのどちらが良いですか？

CLI操作、自動化スクリプト、APIエンドポイントの構築を重視するならOllamaが適しています。GUIによるモデル検索やワンクリックでのダウンロード、視覚的なチャット画面を重視するならLM Studioが快適です。どちらもローカル利用は完全無料（$0）です。

ローカルLLMを動かすにはどれくらいのRAMやVRAMが必要ですか？

量子化されたモデルファイルサイズに加え、ランナー本体、OS、そして会話履歴を保持するKVキャッシュの分を確保する必要があります。本記事の実用例では、最小構成の2.5 GBファイル（4 GB VRAM向け）から、64 GB以上を要する52 GBファイルまで幅広く存在します。

ローカルLLMは完全に無料で利用できますか？

本記事で紹介したモデルはオープンウェイトとしてダウンロード可能なため、ローカル推論自体にプロンプト単位の利用料は発生しません。ただし、ハードウェア本体の調達費、ストレージ、電力消費、セットアップ工数、および任意で利用するクラウドサービスの料金は別途発生します。

ローカル環境とクラウドホスティングのどちらでAIワークフローを構築すべきか判断する実践的な指針として、AIビジネスワークフロー診断チェックリストをぜひご活用ください。