ローカルLLMとは？クラウドLLMとの違いを費用・安全性・運用で比較

「機密情報があるので、ローカルLLMにすれば安全ですか」

ローカルLLMとは、モデルの推論を自社の端末やサーバー内で行う構成です。外部APIへ送るデータは減らせます。ただし、端末の権限、ログ、バックアップ、学習データ、保守が雑なら、ローカルでも安全とは言えません。

置き場所だけでは決まりません。

答えは、使い分けです。

万能な構成はありません。

クラウドで試し、外部送信できない理由があればローカルを比べる

最初からすべてをローカルLLMへ寄せる必要はありません。クラウドLLMは初期費用が小さく、最新モデルをすぐ使えます。ローカルLLMは外部送信を減らし、処理量が多いと費用を読みやすくできます。ただし、機材と運用は自社持ちです。

両方に利点があります。

比較点	クラウドLLM	ローカルLLM
モデルの実行場所	提供会社のクラウド	自社端末・自社サーバー
初期費用	小さい	機材・構築費がかかる
利用料	月額・API従量	電力・機材償却・保守
性能更新	提供側が更新	自社でモデルを選び直す
データ	契約と設定に従って送信	自社内に閉じる構成を作りやすい
運用	提供側の基盤を使う	監視、更新、障害対応を自社で行う

外部送信できない明確な理由があるなら、ローカルを比較します。少量を早く試したいならクラウドから始めます。量が増えたら、処理ごとに両方を使い分けます。

ローカルCodexとローカルLLMは同じではない

CodexのLocalモードは、ファイル編集やコマンド実行を手元のパソコンで行います。ただし、AIが内容を理解して回答を作る計算処理は、選んだモデルの外部基盤で行う場合があります。

ローカルLLMは、モデルの推論まで自社端末や自社サーバーで行います。

違いは「AIが考える場所」です。

• ローカルCodex：作業場所が手元
• ローカルLLM：モデルの推論場所も手元

「ファイルがローカルにあるから、入力内容は一切外へ出ない」とは限りません。データフローを図にして確認する必要があります。

端末内にある。それだけでは不十分です。

セキュリティは、場所だけでは決まらない

ローカルLLMが向くのは、個人情報、未公開の設計図、契約書、医療・金融情報など、外部送信を避ける明確な要件がある場合です。

それでも、次の管理は残ります。

• 端末・サーバーへ誰が入れるか
• 入力と出力のログをどこへ残すか
• 学習や評価へデータを再利用するか
• バックアップを暗号化するか
• モデルやライブラリの更新を誰が担うか
• 端末故障時に業務をどう戻すか

クラウドでも、法人契約、データ保持設定、権限、リージョン、監査ログを整えれば、要件を満たす場合があります。比較すべきなのは「ローカルかクラウドか」の言葉ではなく、データがどこを通り、誰が触れ、何日残るかです。

例えば、顧客の契約書を社内サーバーのモデルで要約していても、入力ログを外部の監視サービスへ送り、生成結果を個人のクラウドストレージへ自動保存していれば、「ローカルだから外へ出ない」とは言えません。

経路全体を見ます。

費用は、1件単価と運用費を同じ表へ入れる

費用も、片側だけでは比べられません。

クラウドAPIは件数に応じて増えます。まず、1件あたりの入力・出力トークンを測ります。

API請求は見えやすい費用です。

例として、1件あたり入力1,000・出力300トークンの処理を、1,000件と10,000件で見積もるとします。トークン数に公式のAPI料金ページの単価を掛けると、同じ件数でも、軽いモデル（GPT-6 Lunaなど）と最上位モデル（GPT-6 Astraなど）では費用の桁が変わることがあります。単価は変わるため、見積もりのたびに公式ページで確認してください。

ローカルLLMは1件ごとの請求がありませんが、費用がゼロになるわけではありません。

請求書に出ない費用が残ります。

保守工数は見落とされがちです。

ローカルの月額原価 ＝ 機材費の月割り ＋ 電力 ＋ 保守担当の時間 ＋ 障害対応

状況	見る費用
既存PCで小さく検証	電力、担当時間、速度
専用ワークステーションを購入	機材償却、電力、保守
GPUサーバーを常時稼働	機材、電力、冷却、監視、冗長化
クラウドAPIで大量処理	1件単価、ツール、検索、データ転送、監視

件数が増えたからローカルが必ず安いわけではありません。担当者が保守に月20時間使えば、その人件費も入ります。逆に、既存機材で十分な分類を大量に回せるなら、ローカルの方が予算を固定しやすくなります。

何でもクラウドAPIへ出すと、あとから費用が膨らむ

メール分類、ファイル整理、音声の要約、画像判定。便利だからと全部をクラウドAPIへ出すと、件数の増加と一緒に費用も増えます。

まず100件だけ動かします。そこで1件単価と精度を測り、量が多くて判断が単純な処理だけを軽量モデルやローカルLLMへ移します。高性能モデルが必要な難しい判断はクラウドへ残す。この分け方が現実的です。

いきなり全件を移す必要はありません。

最初は小さく試します。

急いで決めません。

システム化するのは、現場が毎回プロンプトを打てない仕事

営業担当が会議後に毎回AIを開き、文字起こしを貼り、資料を作る運用は定着しにくいものです。

現場へ操作を押しつけない設計が必要です。

会話を自動で要約し、提案資料の下書きとCRM登録まで裏側で動かしたい。こうした業務はシステム化する価値があります。実装前に、データの機密度、月間件数、許容遅延、失敗時の手動手順を決めます。

ローカルとクラウドを分ける4つの基準

1. 法令や契約上、外部送信できないデータか
2. 月間の処理件数はどの程度か
3. 最新モデルの高い性能が必要か、定型処理で足りるか
4. 機材の調達、監視、保守へ担当工数を割けるか

外部送信できないなら、ローカルを比べます。少量ならクラウドです。量が増えたら、モデルと実行場所を分け直します。

honkomaでは、データフローの整理から、ChatGPT/Codex/Claude、ローカルLLMの選定、業務への組み込みまで支援しています。扱うデータ、月間件数、外部送信の可否を送っていただければ、比較すべき構成を整理します。

LINEでローカルLLMとクラウドの選び方を相談する

よくある質問

ローカルLLMなら費用はかかりませんか

モデルの1件ごとのAPI請求はなくても、機材、電力、保守、障害対応がかかります。担当者の時間も費用へ入れて比較します。

普通のパソコンでも動かせますか

小さなモデルなら試せる場合があります。必要な速度、入力の長さ、同時利用人数で必要なメモリやGPUは変わるため、まず小規模に測ります。

ローカルLLMなら情報は外へ出ませんか

推論、ログ、監視、バックアップまで自社内に閉じた構成なら外部送信を抑えられます。外部の認証、監視、保存先を使っていないか、データフローで確認してください。

参考資料

• OpenAI公式：Local・Worktree・Cloud
• OpenAI公式：API料金
• OpenAI公式：Agents API

※料金・利用条件は2026年9月23日時点です。