データを外へ出さないAIエージェント運用ローカルとクラウドの使い分け方

井元CTO

要約

PerplexityのPortable Computerが示したローカルAIエージェントの可能性を整理します。24GB以上のVRAM要件、クラウドとの使い分け、端末権限と機密データの管理を確認し、検証時の判断軸を解説します。

生成AIを業務へ組み込むとき、入力データを外部APIへ送れるかが最初の壁になります。クラウドモデルは導入しやすい一方、機密情報を扱う処理では社内規程や契約条件の確認が欠かせません。

この記事の対象読者

2026年9月14日、PerplexityのPortable Computerが、NVIDIA RTXを搭載したWindows PCでAIエージェントを動かす選択肢として示されました。クラウドAPIだけに処理を集めない構成が、企業向けの検討対象になっています。

案内されている構成では、エージェントハーネス、オーケストレーター、サブエージェントを端末側で実行します。エージェントハーネスは処理の実行基盤、オーケストレーターは複数処理の振り分け役です。

海外では、生成AIエージェントを端末へ移す動きが議論されています。BinxAIが現場で見る限り、すべての処理をローカル化するより、情報の機密性と処理負荷で役割を分ける方が検証を始めやすいかもしれません。社内文書の分類や定型的な検索は、ローカルモデルで処理する候補になるでしょう。

外部情報との照合や複雑な文章生成は、匿名化した入力だけをクラウドモデルへ渡す設計に分けられます。

この構成では、API費用を抑えられる可能性がある一方、GPU搭載PCの調達や更新管理が発生します。ローカルモデルの品質が業務基準に届かない場合は、処理をクラウドへ戻す判断も必要です。

ローカルAIはデータを外へ出しにくくできますが、端末上のAIエージェントが何を読めるかは別の問題です。共有フォルダー、ブラウザー、社内アプリへの権限が広いと、情報漏えいの経路が端末内に残ります。

検証では、通常の業務データをいきなり投入しない方法が安全です。匿名化した文書と想定質問を用意し、回答品質、処理時間、端末負荷、ログの内容を同じ条件で確認します。

自社だけで始める場合、GPUを用意してもモデルの選定基準が決まらないことがあります。加えて、端末権限の範囲やクラウドへ切り替える条件を後回しにすると、検証結果を本番設計へ移せません。

外部の支援を使う場合は、端末の購入だけでなく、課題の整理から要件、設計、運用引き継ぎまでを一つの流れで確認できます。BinxAI株式会社のみっちゃくんでは、提案の前に現場へ入り、課題の整理と現状の診断を済ませてから要件を固めます。見積は一式でなく、整理した要件に沿って詳細を示す形です。

契約後に要件が動いた場合も、決めた範囲の中で優先順位を入れ替えて進め、担当者向けの研修や内製化まで支援します。

すべてをローカルに限定する構成ではありません。エージェント基盤や一部の処理を端末で動かし、必要に応じてクラウドモデルを使う構成が示されています。

十分とは限りません。VRAM容量は利用条件の一つで、モデルの大きさ、同時実行数、処理速度、冷却性能も業務への適合性を左右するでしょう。

データの種類ごとに、端末内だけで扱う情報とクラウドへ送れる情報を分けることが出発点です。認証情報や顧客情報は、送信禁止だけでなく端末内の読み取り権限も絞ります。

必ず下がるとはいえません。API利用を減らせても、GPU搭載端末の調達、更新、監視、モデル評価に別の運用負担が発生するため、業務単位で総コストを比べる必要があるでしょう。

機密性が高く、処理内容が定型的な業務から始めるのが現実的です。匿名化したデータで回答品質と権限設定を確認し、クラウドへ渡す必要がある処理は後から切り分ける方法が考えられます。

同じ分類の記事をまとめて読めます。