SLM（小規模言語モデル）とは？LLMとの違いと用途・導入の判断基準

小規模言語モデル（SLM）は、任せる仕事を明確に定義でき、出力を検証できて、例外にも対処できる場合に試す価値があります。まずは範囲を絞ったタスクで、1B〜4Bのモデルを評価してみましょう。幅広い知識や、より確かな推論が必要な仕事に備え、データの取り扱い方針で許されるなら、最先端モデルのAPIも使えるようにしておきます。

ビジネス上の判断基準は、小さいモデルでも手元のハードウェアで合格基準を満たせるかどうかです。もっともらしい答えがすぐに返ってきても、その確認作業が新たに積み上がるようでは、問題を解決したことにはなりません。

SLM（小規模言語モデル）とは？

小規模言語モデル（SLM）は、汎用的な能力の一部と引き換えに、必要な計算資源を抑えた言語モデルです。導入を検討する際は、パラメータ数がおよそ1億〜100億の範囲を目安にするとよいでしょう。ただし、この範囲を超える例もあります。共通の線引きはありません。IBMは数百万〜数十億と説明している一方、Mistralは14Bのモデルを小規模モデルのファミリーに明確に含めています。境界はハードウェアや学習手法、最大規模のモデルで実現できることによって変わります。IBMの定義とMistralのモデルファミリーを見ると、その違いがわかります。

パラメータとは、学習によって獲得され、モデルの応答を形づくる数値の重みです。トークンは、モデルが処理するテキストの単位です。生成型のチャットモデルは、与えられたコンテキストをもとに次のトークンを順番に予測し、回答を組み立てます。小さいモデルは学習済みの重みが少ないモデルですが、性能にはその数だけでなく、アーキテクチャや学習の質も関わります。仕組みについては、Googleの言語モデル入門で解説されています。

決まったメニューを作るための、小さなベーカリーの厨房を思い浮かべてください。毎日同じ注文を繰り返しこなすなら、理にかなった選択です。一方、客が思いつくあらゆる料理に対応するとなれば、必要な設備は変わります。小さいモデルが自動的に専門家になるわけではありませんが、業務の範囲を絞れば、限られた能力を必要な部分に振り向けられます。

小規模モデルには、直接学習させるものもあれば、大きなモデルの出力を使って小さなモデルを学習させる蒸留で開発するものもあります。量子化は、数値の重みを低い精度で保存し、容量を減らす技術です。両者は別のものです。大きなモデルを量子化してもパラメータ数は減らず、はるかに小さなモデルと同等になるわけでもありません。IBMもこれらを別々の技術として説明しています。

SLMとLLMはどう違う？

まずはタスクの品質、その次に導入・運用の要件で選びましょう。最先端モデルのAPIとは、プロバイダーの高性能モデルをインターネット経由で利用できるサービスです。推論用のハードウェアを自分で運用する必要がありません。一方、小規模モデルには、処理全体をデバイス内で完結させるなど、配置先の選択肢が広がる利点があります。

モデルの規模と、どこで動かすかは別の判断です。 小規模モデルをAPIとして提供することもできますし、比較的大きなオープンモデルを自社のインフラで動かせる場合もあります。プロバイダーが名前に「mini」と付けていても、それだけではパラメータ数はわからず、重みをダウンロードできるとも限りません。

これは導入・運用上のトレードオフを整理したもので、ベンチマークの結果ではありません。MicrosoftのSLMの概要では、必要なリソースを抑えられる利点と能力の制約が説明されています。比較すべきなのは、扱いの難しい入力も含めた実際の業務です。

企業が小規模モデルを選ぶ理由

呼び出しごとのコスト： 小規模モデルの推論では、使用するリソースを減らせる可能性があります。ただし、ローカル実行も無料ではありません。ハードウェア、電力、保守、使われていない処理能力、再試行の費用は残ります。APIの請求がなくなっただけで成功とせず、確認作業や引き継ぎも含め、採用できた結果あたりのコストで比べましょう。利用頻度が低いなら、自分で運用するよりサービスを購入するほうが簡単な場合もあります。

レイテンシ： ローカル実行なら、リモートで推論するための通信を省けます。ただし、回答が速くなる保証はありません。モデルの読み込み、長いプロンプトの処理、メモリの遅さ、同時リクエストの影響が大きくなることもあります。フォームへの自動入力を待つ担当者にとって大切なのは、正しく入力されたフォームが完成するまでの時間です。

プライバシー： ローカル推論なら、プロンプトを端末内に留められます。しかし、接続した検索ツール、リモートへのフォールバック、アプリケーションのログが同じテキストを外部に送れば、その利点は失われます。プライバシーをうたう前に、ファイル同期やテレメトリも含め、データが通る経路全体を確認してください。

オフライン利用： アプリケーション、モデル、必要なファイルをダウンロードしておけば、ローカルのワークフローはインターネットに接続せずに使い続けられます。たとえば、現場の技術者が地下で作業記録を作成する場面で役立ちます。ただし、在庫をその場で照会するには、データのローカルコピーも用意しない限り接続が必要です。LM Studioのオフライン利用に関するドキュメントも、ダウンロード済みモデルの推論と、接続が必要な操作を明確に区別しています。

資金調達済みのスタートアップの創業者なら、ホスト型サービスを比較の基準にするのが、機能の有用性を確かめる近道になることが多いでしょう。中堅企業のCTOにとっては、繰り返し発生する業務やデータの取り扱い範囲が、自社で運用を担う理由になるなら、ローカル導入が有力です。経験豊富な業務担当者が見るべき指標は、修正せずに使える答えにどれだけ到達できるかです。個人開発者なら、ハードウェアを買う前にノートPCで試し、実現可能性を確かめられます。

小規模モデルに向いている5つの仕事

有力なのは、出力の範囲が限られていて、誤りを明確に判定できる仕事です。以下はワークフローの提案であり、後で紹介するすべてのモデルが、すでにその業務の合格基準を満たしているという意味ではありません。

1. 分類

テキストを、あらかじめ決めたカテゴリに振り分けます。たとえばサポート担当者なら、問い合わせを billing、access、bug、other に分類できます。各カテゴリの定義と判断が分かれる例を示し、誤りをカテゴリごとに測定しましょう。

役割は「振り分け先のキューを選ぶ」ことまでにとどめ、「顧客のアカウントの問題を解決する」ところまで広げないことが大切です。分類体系に当てはまらない問い合わせのために、other の経路を残します。単純なルールですでに正確に分類できるなら、そのルールを使い続けてください。

2. 情報抽出

与えられたテキストを、請求書番号、仕入先、支払期限、通貨など、決まった項目のレコードに変換します。抽出した各項目には根拠となる原文の箇所を求め、情報がなければ null を許可します。スキーマは、出力に許される構造と型を定めるものです。形式を検証できても、値が正しいことまでは証明できません。

スキャンした文書を扱う場合、選んだモデルとランタイムが画像入力に対応していなければ、文字認識は別の工程になります。会計システムに登録する前に、日付、合計額、識別子をコードで検証してください。欠けている請求書番号を推測で埋めるよう、モデルに求めてはいけません。

3. 振り分け

依頼をどの専門ワークフローに渡すか、小規模モデルに提案させます。社内ヘルプデスクなら、「規程を探す」「アクセスをリセットする」「担当者と話す」といった依頼を区別できます。そのうえで、選ばれた経路が許可されているかをアプリケーションが確認します。

振り分け用のモデルに権限管理まで任せてはいけません。選択された経路は提案として扱い、許可リストを適用し、曖昧な依頼は別の判断先へ引き継ぎます。モデル自身が示す確信度は、正答率に合わせて校正された確率ではありません。

4. オンデバイスのアシスタント

元のテキストをリモートのモデルに送らず、技術者のメモを書き直したり、端末内の手順書を要約したり、検索クエリを作成したりできます。ただし、役割は明示しましょう。「保守に関するあらゆる質問に答える」ではなく、「ダウンロード済みのこのマニュアルを使って支援する」といった範囲です。

依頼には、関連する文書の箇所を添えます。アプリケーションがどこかに新しい手順をダウンロードしただけでは、モデルがその内容を知ることはできません。元の文書をすぐ確認できる導線を用意し、バッテリーや発熱の制約も含め、実際に使うスマートフォンでテストしてください。

5. テンプレートに沿った下書き

確認済みの項目と決まった書式から、下書きを生成します。たとえば顧客担当者なら、検証済みの会議記録をもとに、決定事項、担当者、次のアクションを見出しにしたフォローアップメールを作成できます。

約束事項、価格、日付は、検証済みの元データの項目で管理します。値が欠けていれば省略するか、入力を求めてください。小規模モデルによる文章作成は、事実をアプリケーションが渡し、モデルは表現を整えるという役割分担にすると制御しやすくなります。

オープンな小規模言語モデル：サイズとライセンスの比較

以下は、2026年10月14日に確認した、開発元が公開しているオープンウェイトモデルの候補です。実機テストに基づくランキングではありません。この分野では「オープンソース」という言葉が広い意味で使われがちですが、重みをダウンロードできても、利用上の権利が同じとは限りません。派生版や量子化済みパッケージも含め、実際に製品に組み込むチェックポイントそのもののライセンスを確認してください。

以下のサイズ表記は開発元の命名に従い、パラメータ数に重要な違いがあるものは補足しています。ランタイムは、重みを読み込んでモデルを実行するソフトウェアです。互換性と利用可能なメモリは、別途確認する必要があります。

Google Gemma 4は、ローカルのアシスタントでテキストに加え、画像や音声を入力する必要がある場合に評価したいモデルです。E2BとE4Bという名称は実効パラメータ数を示しているため、その表記だけで必要なメモリを計算しないでください。Googleは、ローカルやモバイルも含めたデプロイ形式とメモリの指針を公開しています。

Microsoft Phi-4-mini-instructはテキストモデルです。モデルカードにはローカルで配信する手順があり、事実に関する知識が限られることも明記されています。そのため、必要な情報をコンテキストとして与える仕事の候補になりますが、利用する言語と文書で慎重に評価する必要があります。最新の知識源の代わりにはなりません。

Alibaba Qwen3.5は小規模モデルのサイズが幅広く、ハードウェアの必要量を変えながら、同じ仕事で比較するのに便利です。4Bのモデルカードには配信方法が、チェックポイントのライセンスには利用条件が記載されています。どのローカルアプリでもすべてのバリエーションを扱えると思い込まず、ランタイムの対応状況と、マルチモーダルのパッケージ全体を確認しましょう。

Meta Llama 3.2には、オンデバイスでの評価が現実的なサイズのテキスト専用モデルがあり、Metaはモバイル向けの量子化についても説明しています。独自ライセンスは、MITやApache 2.0とは異なる契約です。範囲を絞ったテキスト処理向けに選びましょう。画像を読み取る必要があるなら、別のモデルが必要です。

Mistral AI Ministral 3は、小規模の各サイズでベース版、指示追従版、推論版を提供し、画像理解にも対応しています。定型業務なら、まずは依頼に従うよう学習した指示追従版から評価しましょう。短いカテゴリ名や抽出した項目だけでよい場合、長い推論を伴う回答は遅延を増やすことがあります。ホスト型モデルについては、現行の3Bモデルのページに説明があります。

最初の検証にはどの小規模モデルを選ぶ？

必要な入力形式と言語に対応し、ライセンスが要件に合い、使えるランタイムがあるモデルのうち、最も小さい候補から始めましょう。まったく同じ例を使って、より大きな候補と比較します。実際の業務を定めずに、どのモデルが常に最適かを決めることはできません。

ハードウェアを軸に、より広い範囲から選ぶ場合は、ローカルLLMの選び方ガイドを参照してください。ここでは、小規模モデルを選ぶ判断に焦点を絞っています。

ノートPC・スマートフォン・GPU 1基では何が動く？

モデルの重みは、必要なメモリの出発点にすぎません。ランタイムに加え、モデルが処理しているテキストなどの入力、つまりコンテキストのための作業メモリも必要です。

あえて単純化すると、40億パラメータ × 4ビット ÷ 8 = 重みの生データ2 GBと計算できます。ここでは10進法のギガバイトを使っています。これは計算例であり、ベンチマークでも、4Bモデルが2 GBのRAMで動くという主張でもありません。量子化のメタデータ、異なる精度で保存される重み、ランタイム、コンテキストのキャッシュにより、追加のメモリが必要になります。

KVキャッシュは、先行するコンテキストの一部を再計算せずに済むようにするための作業メモリです。入力や出力が長くなったり、同時リクエストが増えたりすると、必要なメモリ量が増えることがあります。Googleのメモリ計画に関する指針も、静的な重みと、コンテキストや周辺ソフトウェアを明確に分けています。

スマートフォンには、対応するモバイル用ランタイムと、端末の制約が続く状況でも実用性を保てるタスクが必要です。ノートPCでは、OSや普段使うアプリケーションのためにメモリを残さなければなりません。GPU 1基というだけでは仕様になりません。何が動くかを決めるのは、利用可能なビデオメモリ、対応ソフトウェア、リクエストの負荷です。

メモリに収まっても、遅すぎて使えない場合があります。コールドスタートと繰り返し実行の両方を測定し、想定するプロンプトの長さと同時処理数でテストしましょう。モデルカードに最大コンテキスト長が書かれているからといって、その上限までメモリを確保する必要はありません。

小規模言語モデルを動かすには？

コマンドラインとローカルAPIが作業に合うならOllama、デスクトップの画面でモデルのダウンロード、読み込み、比較を行いたいならLM Studioが選択肢になります。どちらもランタイムやアプリケーションであり、モデルそのものではありません。詳しい選び方は、OllamaとLM Studioの比較で解説しています。

Ollamaでローカル実行する

**Ollama**は、ローカルでモデルを実行する仕組みとHTTPインターフェースを提供します。公式クイックスタートに従ってインストール・起動し、モデル名を明示してダウンロードします。Llama 3.2のライブラリページには、小規模モデルの両サイズが掲載されています。

1. 1

   小規模モデルをダウンロードする

   Ollamaをインストールしたら、ターミナルで次のコマンドを実行します。

   ollama pull llama3.2:3b
   ollama run llama3.2:3b

   最初のコマンドでモデルをダウンロードし、次のコマンドで対話セッションを開きます。これはドキュメントに沿った開始手順であり、このモデルが実際のタスクで合格したことを示すものではありません。

2. 2

   範囲を絞ったAPIリクエストを試す

   Ollamaを起動した状態で、サポートの問い合わせを分類し、JSON形式で出力するよう依頼します。curlが使えるシェルで、次のリクエストを実行してください。

   curl http://localhost:11434/api/generate \
     -H 'Content-Type: application/json' \
     -d '{
       "model": "llama3.2:3b",
       "prompt": "Classify the ticket as billing, access, bug, or other. Return JSON with one key: category. Ticket: I cannot sign in after resetting my password.",
       "format": "json",
       "stream": false
     }'

   生成されたテキストは、応答の response フィールドで確認します。出力構造をさらに厳密に定めたい場合、generateエンドポイントにはJSON Schemaも渡せます。それでも、未知のカテゴリを拒否し、分類が正しいかを評価するのはアプリケーション側の役割です。

3. 3

   実行経路を確認する

   ollama ps で、モデルがCPU、GPU、またはその両方に読み込まれているかを確認します。処理をローカルで完結させる必要があるなら、実行中のOllamaサービスの環境に OLLAMA_NO_CLOUD=1 を設定してクラウド機能を無効にし、サービスを再起動してください。これらの制御方法はOllamaのFAQに記載されています。オフラインのテストでは、外部に接続するツールやリモートへのフォールバックを使わないようにします。

LM Studioでローカル実行する

LM Studioは、対応するローカルモデルをダウンロードして実行するデスクトップアプリケーションです。アプリケーションのドキュメントには、ローカルモデルのファイル形式であるGGUFへの対応と、Apple SiliconでのMLX対応が説明されています。

Discoverを開いてモデルを検索し、マシンに収まり、かつ対応しているファイルを選んでダウンロードします。チャットに読み込み、先ほどと同じ分類の依頼を貼り付けてください。ダウンロードしたモデルファイルと量子化方式は、正確に記録しておきましょう。同じファミリー名でも、ファイルによって必要なリソースや品質が異なる場合があるためです。現在の画面での操作は、モデルのダウンロードガイドに従ってください。

オフラインで試すときは、モデルと必要なランタイムを先にダウンロードし、接続を切って同じタスクを繰り返します。モデル自体はローカルで動いても、モデルの検索、ダウンロード、外部ツールには接続が必要な場合があります。オフラインでチャットできたことを、アプリケーションのあらゆる連携でプライバシーが守られる証拠と混同しないでください。

ホスト型APIを利用する

小規模モデルのホスト型APIなら、GPUを管理せずにモデルを評価できます。たとえばMistralのホスト型サービスには、大きなモデルと並んでMinistralが用意されています。APIクイックスタートに従い、アカウントとキーを作成し、モデルのページから現行の小規模モデルの識別子を選び、範囲を絞った同じプロンプトをチャット補完エンドポイントに送信します。

キーはサーバー側で管理します。ローカル実行と同じデータセットを使い、採用できる出力、応答時間、確認作業の負担を比較してください。ホスト型の小規模モデルも、推論先はリモートです。パラメータ数が少ないからといって、オフラインで動作したり、データを端末内に留められたりするわけではありません。

小規模モデルの限界と、過大評価されがちなこと

最も厄介な失敗は、想定した例を超えて仕事の範囲が広がったときに現れます。分類モデルは、単純な問い合わせでは安定して見えても、請求への異議とアクセスの問題が混在したメッセージでは失敗することがあります。文章の下書きを作るモデルが、形式には従いながら、存在しない約束を盛り込むこともあります。

幅広い知識と、曖昧な状況での推論は、弱点として評価する必要があります。 MicrosoftのPhiのモデルカードは、事実に関する能力が限られることを明記し、長い会話、言語の違い、信頼できない情報について注意を促しています。関連する資料を与えれば知識の不足を補えますが、正しく解釈できる保証にはなりません。

「小さいから正確」とは言えません。 タスクを絞ると、評価しやすくなり、制約も設けやすくなります。しかし、それだけでモデルが事実に忠実になるわけではありません。根拠を確認する仕組みと、回答を控えるか別の判断先へ引き継ぐ経路を残してください。

「ローカルならプライバシーが守られる」と言うには、それを実現する設計が必要です。 推論がローカルでも、ログ、外部ツール、文書の同期、リモートへのフォールバックを通じて、データが外へ出ることがあります。

「コンテキストが長ければ、マニュアル全体を理解できる」という期待は行き過ぎです。 公称の入力容量は、メモリに収まることも、すべての箇所について正しく推論できることも保証しません。関連する箇所を検索して質問とともに渡し、回答を原文と照合してください。

特定分野に特化した小規模言語モデル

専門化は、学習より先にワークフローから始まります。タスクに必要な語彙、許可する出力、関連文書をモデルに与えましょう。**検索拡張生成（RAG）**とは、関連する資料を検索し、リクエストに含める方法です。モデルの重みを変えずに、渡す知識を更新できます。

設備保守のアシスタントなら、対象の機種と改訂版に一致する手順を検索します。無関係なマニュアルが入ったフォルダを丸ごと渡して、モデルが正しく選ぶことを期待してはいけません。担当者が確認できるよう、参照した資料の改訂情報を回答に添えてください。

小規模言語モデルのファインチューニング

ファインチューニングは、追加の例を使って事前学習済みモデルを調整する方法です。内容が安定しているタスクで、プロンプトの設計や資料の検索を改善しても同じような失敗が繰り返され、業務を代表する正しくラベル付けされた例がある場合に検討します。

サポートの分類なら、インシデントと機能要望の社内独自の区別を学習させる、といった用途が考えられます。学習には一切使わない評価用データを、別に確保してください。問題が頻繁に変わる返金ポリシーにあるなら、まず渡すポリシーを更新しましょう。ファインチューニングを、最新の正しい情報源の代わりにしてはいけません。

今すぐ試すべきか、待つべきか、現状を維持すべきか？

**今すぐ試す価値があるのは、**繰り返し発生するタスクで、出力を検証でき、ローカルで使えることやデータの処理場所によって具体的な問題を解決できる場合です。会社中のアシスタントを置き換えようとする創業者の構想よりも、手作業の振り分け業務を抱える経験豊富な担当者のほうが、よい検証テーマを持っています。

**移行を待ったほうがよいのは、**許容できる誤りを定義できない、代表的な例がない、あるいは自由度の高いエージェントに重大な判断を任せる必要がある場合です。まずはワークフローと評価の基準を整えましょう。

**既存のAPIを使い続けてよいのは、**すでに要件を満たしており、データの処理場所、オフラインでの利用可能性、実測した運用上の性能のいずれにも、移行を正当化する理由がない場合です。モデルのサイズだけを理由に、作り直す必要はありません。

週明けに始めるなら、対象のキュー、出力スキーマ、責任者をそれぞれ決めましょう。最初に100件のケースを集めます。たとえば、通常の依頼70件、判断の難しい依頼20件、対象外の依頼10件です。これは始めるための件数の提案であり、統計的な保証ではありません。最終評価用には別の例を確保し、まれな失敗を見つけたら追加していきます。

学習や調整から切り離しておいた同じケースで、小規模モデルの候補と現在の比較基準を実行します。正しさ、無効な出力、引き継ぎ、メモリ使用量、処理全体のレイテンシを記録してください。レイテンシには、リクエストの95%が完了するまでの時間である95パーセンタイルも含めます。結果を比較する前に合格基準を定め、全体の平均だけに頼らず、カテゴリごとに誤りを確認します。最初は、既存のワークフローを実際の処理に使いながら、モデルには回答の提案だけをさせるシャドーモードで始めましょう。

よくある質問

SLMはどのような用途に使えますか？

小規模言語モデルは、分類、情報抽出、振り分け、ローカルのアシスタント、テンプレートに沿った下書きなど、範囲が限定された言語タスクに向いています。適しているかどうかは、モデル、与えるコンテキスト、出力を検証する仕組みによって変わります。

事前学習済み言語モデルとは何ですか？

学習データセットからパターンを学び、すでに重みに反映しているモデルです。そのまま使うことも、調整して使うこともできます。指示チューニング済みの版は、依頼に従うための追加学習を受けており、通常はアシスタントを作る際の実用的な出発点になります。

ほかにはどのような大規模言語モデルがありますか？

Gemma、Phi、Qwen、Llama、Mistralは、いずれも言語モデルのファミリーです。小さいモデルと大きいモデルの両方を含むものもあります。SLMは規模を相対的に表す呼び方であり、LLMと完全に別の技術ではありません。

ニューラルネットワーク言語モデルとは何ですか？

ニューラルネットワーク内の学習済みの数値の重みを使い、次にどのトークンが現れやすいかなど、言語のパターンを推定するモデルです。現在の生成言語モデルの多くは、Transformerアーキテクチャを採用しています。

ChatGPTはニューラルネットワークですか？

ChatGPTは、ニューラル言語モデルを利用するアプリケーションです。アプリケーションと、その基盤となるモデルは異なる層にあります。「ChatGPT」という名前が、固定された単一のネットワーク規模を指すわけではありません。OpenAIも、モデルの概念とChatGPTで使うモデルを分けて説明しています。

CNNはANNより優れているのですか？

畳み込みニューラルネットワーク（CNN）は、人工ニューラルネットワーク（ANN）の一種です。常に優れているわけではありません。畳み込みは、画像などに見られる空間的なパターンを扱うのに役立ちます。適切なアーキテクチャはタスクによって異なります。

YOLOは単なるCNNですか？

YOLOは物体検出システムのファミリーです。多くのバージョンで畳み込みを使う構成要素を採用していますが、検出器として機能するには、アーキテクチャ、学習プロセス、予測ロジックが必要です。小規模言語モデルではありません。Ultralyticsがモデルファミリーを解説しています。

TensorFlowはCNNモデルですか？

いいえ。TensorFlowは、機械学習モデルを構築・実行するためのソフトウェアフレームワークです。CNNは、そのフレームワークで構築できるモデルの一種で、CNNチュートリアルにも例が示されています。

ニューラルネットワークの4つの種類とは何ですか？

必ず4種類に分ける共通の分類はありません。フィードフォワード、畳み込み、再帰型、Transformerは、よく挙げられる4つのカテゴリですが、アーキテクチャの分類方法はさまざまです。モデルのサイズは、それとは別の性質です。Googleの機械学習用語集も参照してください。

AIシステムの選び方や運用に役立つ実践ガイドを、ニュースレターでお届けします。