Agent 與知識庫要跑在哪裡，是導入前就該決定的事。雲端部署上線快、初期成本低；本地部署讓資料留在自己的機房，滿足稽核與法規要求。兩種我們都做，也可以依資料敏感度分流成混合架構。
系統做完了，資安或法遵才問「資料會送到哪裡」。答不出來，整個專案就停在那裡。
不是每一份資料都需要地端。全部自建的硬體與維運成本，常常花在不敏感的資料上。
雲端做好之後才要搬地端，模型、串接與權限設計往往得整組重來。
差別不在功能，在資料放在誰的機器上，以及誰負責維運。先決定這件事，後面的模型選型、權限設計與成本結構才有依據。
系統跑在雲端，模型走 Claude、Gemini、GPT 等商用 API。數週內就能上線，不需要採購硬體，模型版本永遠是最新的。
模型與資料都留在公司機房或私有雲，全程不對外連線。稽核時交得出完整的資料流向說明，不需要解釋「資料送去哪裡」。
下表是常見情況的對照。實際條件依貴公司的資料類型、既有機房與法遵要求調整。
| Compare | MODE 01雲端部署 | MODE 02本地部署 |
|---|---|---|
| 資料位置 | 經加密傳送至指定區域的雲端服務 | 留在公司機房或私有雲，不對外連線 |
| 上線時間 | 數週 | 含硬體到位與調校，通常數月 |
| 成本結構 | 初期低，依用量計費 | 初期高（硬體），之後以維運為主 |
| 模型 | Claude、Gemini、GPT 等商用模型，自動更新 | 開源模型選型與量化，版本由你們決定何時換 |
| 資安稽核 | 依賴服務商的合規文件與合約條款 | 資料流向完全自證，稽核最單純 |
| 維運責任 | 服務商負責基礎設施，我們負責應用層 | 需要內部 IT 或由我們提供維運支援 |
| 擴充方式 | 加額度即可 | 需評估算力，可能要加卡 |
本地部署的難處不在裝起來，而在選對模型、把效能壓進現有算力，並讓資料分級與權限經得起稽核。這條線由 Simon 負責——1996 年起投入半導體與通訊產業，歷經工研院電通所與台積電，專長地端 LLM 部署、模型選型與生成式 AI 資安治理。
以下為常見範圍，實際規格依需求訪談結果調整；每一項都是客製化開發，不是套裝功能的開關。
盤點資料類型與法遵條件，逐類建議走雲端、地端或混合，並列出各自的成本與風險。
資料流向、模型位置、串接介面與權限邊界，畫成可以直接送資安審查的文件。
地端專案提供 GPU 規格建議與開源模型比較，含量化後的實測效能參考。
依選定的架構完成安裝、串接既有系統與帳號權限整合，交付可運作的環境。
資料分級、存取紀錄與保留政策的設定與說明文件，供內部或外部稽核使用。
對 IT 團隊做維運交接，含監控、備援與模型更新流程；也可由我們持續維運。
了解資料類型、既有機房與法遵條件，確認哪些適合雲端、哪些必須地端。這一步不收費。
提出部署方式建議、硬體與模型選型、時程與報價，明確界定哪些做、哪些不做。
分階段建置環境並交付可驗收的成果，資安文件與系統同步產出，不是事後補。
對內部 IT 做維運交接與教育訓練，或由我們持續維運，依貴公司的人力配置決定。
不需要先想清楚要做哪一項，也不用先寫需求書。說明現在的狀況，我們會直接告訴你哪些做得起來、哪些其實不必做。