首頁/文章專欄/AI 名詞解釋

AI 名詞解釋

開會時聽到卻不好意思問的那些字。依「入門、進階、高手」三個層級編排——你不必一次看完,照著現在的位置往下讀就好。每一則除了定義,還寫了它對企業的實際意義,以及一條實務重點:這個概念在真實導入時最常被誤解或忽略的地方。共 66 個名詞,持續增補。

Learning path

先看你在哪一層

66 / 66 個名詞
入門

第一個月就會遇到的字

22 個名詞

如果你剛開始接觸企業 AI,或是要跟老闆、同事解釋「我們在做什麼」,這一層的 22 個字就夠用了。看完你能聽懂大部分的會議。

LLM基礎
大型語言模型
以海量文字訓練、能理解與生成自然語言的模型,是目前多數 AI 應用背後的引擎。
對企業的意義選型時看的不只是能力排名,還有資料處理位置、企業合約條款與成本結構。同一個需求,不同模型的月成本可能差三倍。
實務重點別把「哪個模型最強」當成主要問題。多數企業場景的瓶頸不在模型能力,而在它讀不讀得到你們公司的資料。
Prompt基礎
提示詞
你給 AI 的那段指示。包含要它扮演什麼角色、依據什麼資料、輸出成什麼格式。
對企業的意義提示詞是最便宜的優化手段——不用改系統、不用花錢,把指示寫清楚,輸出品質通常就有明顯差異。
實務重點寫得好的提示詞比較像作業說明書,而不是咒語。把「情境、判斷依據、例外、輸出格式」四段寫清楚就夠了。
Token基礎
詞元
模型處理文字的最小計價單位。中文大約一到兩個字算一個 token,英文大約四個字母。
對企業的意義所有 API 費用都以 token 計算。導入前把「每天處理幾份文件、每份多長」估出來,才算得出真實月成本。
實務重點長文件的成本容易被低估。一份 30 頁的合約丟進去問十個問題,等於把那 30 頁付費讀了十次——除非用了快取。
Context Window基礎
脈絡視窗
模型單次能同時讀取的內容上限,超過就會被截斷或遺漏。
對企業的意義這是為什麼不能把整個公司硬碟塞進去,必須靠檢索先挑出相關段落再交給模型。
實務重點視窗變大不等於可以亂塞。內容越多,模型越容易忽略中間段落,準確度反而下降。
Hallucination基礎
幻覺
模型產出看似合理、語氣肯定,但與事實不符的內容。
對企業的意義對外場景務必要求附出處,並允許系統誠實回答「查不到」。願意拒答的系統,才敢拿去面對客戶。
實務重點幻覺最危險的不是明顯錯誤,是「九成正確、一成錯在關鍵數字」的答案——那種最容易被直接採用。
System Prompt基礎
系統提示
在每一次對話開始前自動載入的固定指示,用來設定 AI 的身分、語氣、可做與不可做的事。
對企業的意義企業的用語規範、禁用詞、法規敏感字都寫在這裡,員工不必每次重打一遍。
實務重點系統提示不是安全機制。真正的權限控管要做在檢索層,不能只靠一句「不要說出機密」。
Temperature基礎
隨機性參數
控制輸出穩定度的參數,數值越低回覆越一致、越可預測。
對企業的意義客服、報價、法遵這類要求一致性的場景應調低;命名、發想、文案初稿可以調高。
實務重點同一個問題兩次答案不同,通常先檢查這個參數,而不是急著換模型。
Multimodal基礎
多模態
同時處理文字、圖像、語音、影片等不同型態輸入的能力。
對企業的意義適合名片辨識、單據與發票讀取、產線影像判讀、會議錄音轉紀要等場景。
實務重點圖像辨識的準確度高度依賴拍攝品質。導入前先用你們現場真實會拍到的照片測,不要用示範用的漂亮圖。
Knowledge Cutoff基礎
知識截止日
模型訓練資料的時間上限,之後發生的事它原本並不知道。
對企業的意義與公司即時資料有關的部分要靠檢索補上,不能依賴模型自己的記憶。
實務重點問它「今天的匯率」而它答得出來,代表它查了外部資料,不是它記得——搞清楚差別很重要。
Zero-shot / Few-shot基礎
零樣本/少樣本
不給範例直接問叫零樣本;先給幾個「輸入→輸出」範例再問叫少樣本。
對企業的意義要求特定格式或特定判斷風格時,給兩三個真實範例,效果通常勝過寫一長串規則。
實務重點範例要挑「有代表性的邊界案例」,不要挑最漂亮的那幾個,否則遇到現實狀況就失準。
Chain-of-Thought基礎
思維鏈
讓模型先寫出推理過程再給結論的做法。
對企業的意義需要多步驟計算或條件判斷的任務(報價級距、資格審核)準確度會明顯提升。
實務重點推理過程要不要給使用者看是另一回事。對外場景通常只顯示結論,過程留在紀錄裡供稽核。
API基礎
應用程式介面
讓不同系統之間互相呼叫、交換資料的標準介面。
對企業的意義AI 要能真的做事,得透過 API 接上你們的訂單系統、行事曆、CRM。導入的難度多半在這裡,不在模型。
實務重點評估廠商時問清楚:既有系統有沒有 API?沒有的話要怎麼接?這題的答案常常決定專案時程。
Knowledge Base知識庫
知識庫
整理成 AI 讀得懂、可被檢索的公司知識集合,含版本、來源與維護人。
對企業的意義這是讓 AI「認識你的公司」的基礎。沒有它,通用 AI 每次都要重新交代背景。
實務重點知識庫不是把檔案上傳就完成。沒有複檢機制的知識庫,半年後就沒有人敢用。
RAG知識庫
檢索增強生成
先從知識庫檢索相關資料,再讓模型依據這些資料作答的架構。
對企業的意義企業知識庫的主流做法,也是控制 AI 讀取範圍最有效的一層——不在檢索範圍內,模型就取不到。
實務重點RAG 答錯時,先查是「沒檢索到對的段落」還是「檢索到了但答錯」。兩者的解法完全不同。
AI AgentAgent
AI 代理人
有明確職掌、能呼叫工具、並產出可驗收交付物的自動化角色。
對企業的意義設計時把它當新進員工看待:職掌、權限、交付物、回報對象都要寫清楚。
實務重點判準很簡單——跑完之後留下的是一段文字,還是一份東西?前者是聊天機器人,後者才是 Agent。
ChatbotAgent
聊天機器人
以對話形式回應問題的介面,通常不具備動用工具或產出交付物的能力。
對企業的意義適合取代重複性的問答,但不要期待它能改變流程——它沒有目標,也不對結果負責。
實務重點很多標榜 Agent 的產品其實是加了按鈕的聊天機器人。看它能不能寫進你們的系統,就知道差別。
Prompt Injection資安
提示詞注入
把惡意指令藏在外部內容裡,誘使 AI 執行非預期動作的攻擊手法。
對企業的意義凡是會讀取外部網頁、郵件或使用者上傳檔案的 Agent 都要防範。
實務重點基本原則:所有從外部讀到的內容都當成資料,不是指令。要動到錢或個資的步驟一律留人工確認。
PII資安
個人識別資訊
可用來辨識特定個人的資料,如姓名、身分證字號、電話、地址、病歷。
對企業的意義個資法規範的核心對象。哪些欄位算 PII、能不能給 AI 看,導入前就要跟法務確認。
實務重點多數業務場景其實不需要完整個資。能用代號或遮罩處理的,就不要傳完整欄位。
Shadow AI資安
影子 AI
員工未經核准,私下使用外部 AI 工具處理公司資料的行為。
對企業的意義禁止使用不會降低風險,只會讓風險變得看不見。提供一個好用的內部管道才會。
實務重點先做匿名調查,問「你平常用哪些 AI 工具處理工作」。答案通常比管理層想的多。
PoC導入
概念驗證
以小範圍試作驗證可行性的階段。
對企業的意義設定明確的成功條件與退場條件,避免變成無限期的實驗。
實務重點PoC 最常見的失敗是「做成功了但沒有下一步」。開始前就先講好:達標之後誰負責推廣、預算從哪來。
Adoption Rate導入
採用率
實際使用新工具或新流程的人員比例。
對企業的意義比滿意度更能反映導入成效。上課滿意度九十分但採用率一成,代表課程失敗了。
實務重點採用率低通常不是員工不配合,而是新做法比舊做法麻煩。先去看那個流程實際卡在哪。
ROI導入
投資報酬率
投入成本與產生效益的比值,用來判斷一項導入值不值得。
對企業的意義要讓 AI 專案在第二年續命,必須有財務接受的數字,而不是「感覺有比較快」。
實務重點算時間節省時記得把「驗證與修正的時間」計入。AI 產出的東西需要人看過,那段時間是真實成本。
進階

開始動手做專案時會用到的字

24 個名詞

當你要評估廠商、寫需求書、或實際導入一套系統,這些是繞不開的概念。多半跟「怎麼讓 AI 讀對資料」與「怎麼確認它有沒有做對」有關。

Embedding知識庫
向量嵌入
把文字轉成一組數字(向量),讓語意相近的內容在數學空間中也彼此接近。
對企業的意義決定檢索準確度的關鍵。中文語料要特別挑選對中文表現好的嵌入模型,英文導向的模型在中文常常失準。
實務重點換嵌入模型等於整個知識庫要重新建索引。選型時就要想清楚,這不是可以隨時換的元件。
Vector Database知識庫
向量資料庫
專門儲存與比對向量的資料庫,支援「找出語意最接近的前 N 段」這類查詢。
對企業的意義權限控管應該在這一層就切開——不在授權範圍內的內容根本不建索引,而不是靠提示詞叫模型不要說。
實務重點資料量不大時不一定需要專用資料庫。幾千筆條目用一般資料庫的向量擴充就夠,先不要過度建設。
Chunking知識庫
文件切塊
把長文件切成適當大小的片段再建立索引。
對企業的意義切得太碎會失去脈絡(只看到半條規則),切得太大會檢索不準(一次撈進太多無關內容)。
實務重點不同文件型態要用不同切法。合約依條款切、FAQ 依問答切、簡報依頁切——用同一套規則切所有文件是常見錯誤。
Reranking知識庫
重排序
初步檢索後,再用更精準的模型把候選段落重新排序,挑出真正相關的幾段。
對企業的意義知識庫文件量大、回答準確度不足時,最有效的改善手段之一,通常比換模型更划算。
實務重點會增加延遲與成本。適合對準確度要求高的場景,即時客服要先評估回應時間能不能接受。
Hybrid Search知識庫
混合檢索
同時使用關鍵字檢索與語意檢索,再合併結果。
對企業的意義產品型號、料號、法條編號這類「字面必須完全一致」的查詢,純語意檢索常常失手,混合檢索能補上。
實務重點如果使用者常常查代號、編號、專有名詞,這幾乎是必要的,不是選配。
Grounding知識庫
事實依據
要求模型的回覆必須基於指定的資料來源,並標明依據。
對企業的意義對外客服的基本要求:答得出來,也要引用得出來。
實務重點檢驗方式很直接——隨機抽二十則回覆,看有多少附得出可查證的出處。這個比例就是你的引用率。
Metadata Filter知識庫
中繼資料篩選
在檢索前先用部門、日期、分級等欄位縮小範圍,再做語意比對。
對企業的意義這是分級權限實際生效的方式:客服 Agent 的查詢自動加上「僅限 L1」的條件。
實務重點中繼資料要在建庫時就標好。事後補標的工作量通常比重建還大。
Tool UseAgent
工具呼叫
模型主動呼叫外部系統或 API 來完成任務的能力。
對企業的意義沒有工具的 Agent 只能建議。要能真的交付,它得能讀信箱、寫行事曆、查訂單、呼叫廣告平台。
實務重點工具描述寫得清不清楚,直接決定它會不會叫錯。把每個工具的用途、參數與使用時機寫得像 API 文件。
Function CallingAgent
函式呼叫
讓模型以結構化格式指定要執行哪個函式、帶什麼參數的機制。
對企業的意義這是 Tool Use 的實作方式,也是把 AI 的輸出接進既有系統最穩定的方法。
實務重點一律要在執行前驗證參數。模型可能給出格式正確但數值離譜的參數,系統端不能照單全收。
MCPAgent
模型脈絡協定
讓 AI 應用以標準方式連接外部資料與工具的開放協定。
對企業的意義減少「每換一個系統就要重寫一次串接」的成本,也讓工具能在不同 AI 產品之間重複使用。
實務重點採用前確認你們主要的 AI 平台支援程度。標準的價值在生態系,孤立採用意義不大。
OrchestrationAgent
任務編排
把複雜任務拆成節點,並安排執行順序、條件分支與失敗處理。
對企業的意義流程節點要能被稽核。出錯時要看得出是哪一步判斷錯誤,而不是重跑一次碰運氣。
實務重點規則明確的步驟用傳統自動化更穩,不需要每一步都交給模型判斷。把模型用在真正需要判斷的節點。
Human-in-the-loopAgent
人工確認關卡
在關鍵節點保留人工審核才能繼續的設計。
對企業的意義動到錢、碰到個資、對外發言的節點,一律建議保留這道關卡。
實務重點準備工作佔一件事九成的時間,最後那次確認只要三十秒。保留關卡通常不會拖慢流程。
Multi-agentAgent
多代理協作
多個各司其職的 Agent 分工並互相交接任務。
對企業的意義對應到組織設計:先想清楚部門怎麼劃分,再決定編制幾個 Agent。
實務重點Agent 不是越多越好。交接點越多,出錯的可能位置也越多。從兩三個開始,跑穩了再擴。
Guardrails治理
護欄機制
限制模型輸出範圍與行為的技術與規則,例如禁止談論特定主題、禁止給出價格承諾。
對企業的意義應建立在檢索層與系統層,而不是只靠提示詞要求模型自律。
實務重點護欄要有測試。寫了規則卻沒有人試著繞過它,等於不知道它有沒有用。
Evals治理
成效評測
用一組固定題目定期測試 AI 表現,量化準確度、引用率與拒答率。
對企業的意義沒有評測就無法判斷「改了提示詞之後到底有沒有變好」,只能靠感覺。
實務重點評測題目要從真實的使用者提問裡挑,而不是自己想像。至少涵蓋常見題、邊界題與應該拒答的題。
Golden Set治理
黃金測試集
一組已知正確答案的標準題目,用來衡量系統改動前後的表現差異。
對企業的意義每次改動提示詞、換模型、調整檢索設定,都跑一次,避免「修好一個、弄壞三個」。
實務重點五十題就很有用了,不必追求數量。重點是每一題的正確答案有人負責維護。
Data Residency治理
資料落地
資料實際被儲存與處理的地理位置。
對企業的意義受主管機關或客戶合約約束的產業,這通常是選型的硬條件,先問清楚再談功能。
實務重點要確認的不只是「主要處理位置」,還包括備援、記錄檔與人工審核流程各自在哪裡。
PII Masking治理
個資遮罩
在資料進入模型前先隱去可識別個人的欄位,或以代號替換。
對企業的意義多數業務場景不需要完整個資。遮罩後再處理,可以大幅降低風險又不影響效果。
實務重點三種常見做法:欄位遮罩(只留後三碼)、代號替換(以內部 ID 取代姓名)、聚合呈現(只給統計不給名單)。逐場景決定,不要全系統一刀切。
Audit Log治理
存取稽核紀錄
記錄誰、在什麼時候、存取了哪些資料的紀錄。
對企業的意義稽核時要能回答「誰授權它看的、什麼時候、為了什麼」。這題答不出來,導入案就過不了關。
實務重點導入時就要設計進去。事後補建的難度極高,因為過去的存取行為已經沒有紀錄了。
RBAC治理
角色權限控管
依角色而非個人來配置存取權限的機制。
對企業的意義Agent 也應該被視為一種角色,綁定明確的讀取上限,而不是共用一組萬用權限。
實務重點權限矩陣要定期複檢。人員異動、專案結束後,權限常常忘了收回。
Latency導入
延遲
從送出請求到拿到回覆所需的時間。
對企業的意義即時客服與線上互動場景,超過三秒使用者就會感覺卡。批次處理的報表則可以慢。
實務重點加了重排序、多步驟推理、多次工具呼叫都會累加延遲。設計時先定義每個場景能接受的上限。
TCO導入
總持有成本
含授權、串接開發、維運、資料整理與人力的完整成本。
對企業的意義只比較 API 單價會嚴重低估。資料整理與後續維運通常佔更大比重。
實務重點報價比較時要求對方拆出「一次性建置」與「每月經常性」兩塊,否則數字沒有可比性。
Baseline導入
基準線
導入前先量測的既有流程表現:耗時、經手人數、返工次數、錯誤率。
對企業的意義沒有基準線就無法證明改善幅度,專案結束時會拿不出數字。
實務重點花一到兩週量測,這份資料在專案結束時的價值會遠超過取得成本。
Change Management導入
變革管理
協助組織適應新流程的管理工作:溝通、訓練、誘因調整、阻力處理。
對企業的意義導入失敗多數不是技術問題,而是這一段沒有人負責。
實務重點如果主管沒有改變衡量員工產出的方式,省下來的時間只會被更多工作填滿,流程本身沒有變。
高手

架構、治理與長期維運的字

20 個名詞

決定地端還是雲端、模型怎麼選、成本怎麼壓、出事怎麼查——這一層是給要為技術決策負責的人看的。

Pre-training模型
預訓練
模型最初以大規模語料建立語言能力的階段。
對企業的意義企業幾乎不會自行預訓練,成本以億計。理解這個詞主要是為了聽懂廠商在講什麼。
實務重點有廠商說「為你們訓練專屬模型」時,要問清楚是預訓練、微調、還是只是換了系統提示。三者成本差好幾個數量級。
Fine-tuning模型
微調
用特定資料再訓練既有模型,讓它學會固定的語氣、格式或分類判斷。
對企業的意義適合統一輸出風格與處理特定分類任務,但不適合用來讓模型記住會變動的事實。
實務重點事實用檢索、風格用微調。把公司規則微調進模型,規則一改就要重訓,成本完全不划算。
Distillation模型
蒸餾
把大模型的能力壓縮進小模型,換取速度與成本優勢。
對企業的意義地端部署與離線環境常用,讓一般規格的伺服器也跑得動。
實務重點壓縮一定有損失。導入前用你們的真實題目測,確認在關鍵場景的表現差距可以接受。
Quantization模型
量化
降低模型權重的數值精度以縮小體積、加快推論。
對企業的意義地端部署的關鍵技術,能讓原本需要昂貴顯卡的模型跑在一般伺服器上。
實務重點不同量化程度的品質差異在簡單任務上看不出來,在複雜推理上會放大。用最難的題目測。
Open-weight Model模型
開放權重模型
可下載模型權重、自行部署與調整的模型。
對企業的意義資料不能出廠區的高機密場景,通常從這一類開始評估。
實務重點「開放權重」不等於「可商用」。授權條款要逐條看,有些限制使用者規模或用途。
Inference模型
推論
模型實際產生回覆的運算過程。
對企業的意義地端部署的硬體規劃主要就是在估算推論所需的運算資源與併發量。
實務重點估算時要用尖峰併發,不是平均值。月底結帳、活動檔期的瞬間負載常常是平常的好幾倍。
Model Routing模型
模型路由
依任務難度自動把請求分派到不同等級的模型。
對企業的意義簡單分類用便宜的小模型、複雜推理用大模型,是最直接的成本優化手段,常可省下五成以上。
實務重點路由規則本身要被監控。分錯了會出現「簡單的題目答錯」這種難以察覺的品質問題。
Semantic Chunking知識庫
語意切塊
依語意邊界而非固定字數切分文件。
對企業的意義比固定長度切法更能保留完整脈絡,尤其適合結構鬆散的會議紀錄與訪談逐字稿。
實務重點成本比固定切法高。文件結構本來就清楚(合約、SOP)時,依標題切就夠,不必用它。
Knowledge Graph知識庫
知識圖譜
以實體與關係建構的結構化知識網路。
對企業的意義適合需要多跳推理的查詢,例如「這個客戶的母公司還有哪些子公司跟我們往來」。
實務重點建置與維護成本高。除非查詢確實需要跨越多層關係,否則向量檢索通常已經夠用。
Context Engineering知識庫
脈絡工程
系統性設計「每一次呼叫模型時,該放進哪些資訊、放多少、以什麼順序」。
對企業的意義當提示詞優化到極限、準確度仍不足時,問題通常在這一層而不是措辭。
實務重點重要資訊放開頭或結尾,中段最容易被忽略。這一點在長脈絡下特別明顯。
Agentic LoopAgent
代理迴圈
Agent 反覆執行「思考 → 呼叫工具 → 觀察結果 → 再思考」直到任務完成的循環。
對企業的意義這是 Agent 能處理多步驟任務的原理,也是成本與延遲失控的主要來源。
實務重點一定要設迴圈上限與逾時。沒有上限的迴圈遇到解不開的任務會一直重試,帳單很可觀。
Structured OutputAgent
結構化輸出
強制模型以指定的資料格式(如 JSON Schema)回覆。
對企業的意義要把 AI 的輸出寫進資料庫或觸發下游流程時,這是穩定性的關鍵。
實務重點有 Schema 驗證仍要做業務邏輯檢查。格式正確不代表數值合理。
Prompt CachingAgent
提示詞快取
把重複出現的長前綴(系統提示、固定文件)快取起來,後續呼叫不必重新計費處理。
對企業的意義系統提示長、或每次都要帶入同一份長文件的場景,成本可降低相當可觀的比例。
實務重點快取有存續時間,且對前綴的一致性敏感。動態內容要放在後段,否則快取會一直失效。
Air-gapped治理
實體隔離部署
與外部網路完全隔離的地端部署方式。
對企業的意義半導體、國防與金融核心系統常見,資料完全不出廠區。
實務重點隔離環境的模型更新與漏洞修補要另外設計流程。上線後才發現無法更新是常見的坑。
Model Drift治理
模型漂移
模型表現隨時間或版本更新而變化,導致原本正常的流程開始出錯。
對企業的意義廠商更新模型版本後,原本調好的提示詞可能失準。這是雲端方案的固有風險。
實務重點定期跑黃金測試集就是為了抓這件事。沒有評測機制,漂移會在客訴出現時才被發現。
Red Teaming治理
紅隊演練
刻意嘗試讓 AI 出錯、越權或說出不該說的話,以找出防護漏洞。
對企業的意義上線前的必要步驟,尤其是會面對客戶或處理敏感資料的系統。
實務重點找不熟悉這套系統的人來測。設計者自己測會不自覺避開已知的弱點。
Observability治理
可觀測性
能夠即時看見系統內部狀態的能力:每次呼叫的耗時、成本、命中的資料、失敗原因。
對企業的意義沒有可觀測性,出問題時只能重跑碰運氣,無法定位是哪一個環節出錯。
實務重點至少要能回答三件事:這次花了多少錢、慢在哪一步、依據了哪些資料。
Token Budget治理
詞元預算
為單次任務或單一使用者設定的 token 用量上限。
對企業的意義防止異常迴圈或惡意使用造成帳單暴衝,也讓成本可預測。
實務重點上限被觸發時要有明確的降級行為,而不是直接失敗。例如改用小模型或回覆「請稍後再試」。
Regression Suite治理
迴歸測試組
每次系統改動後自動重跑的一整組測試,確認舊功能沒有被破壞。
對企業的意義AI 系統的改動影響範圍難以預測,改一個提示詞可能影響十個場景。
實務重點把每一次線上事故都變成一則測試。測試組會隨著時間累積成最有價值的資產。
Benchmark導入
基準測試
以標準題組比較不同模型能力的公開評測。
對企業的意義可作為初步篩選的參考,但不能當成選型依據。
實務重點公開榜單與你們的場景關聯性通常很低。用自家的真實案例測二十題,比看任何榜單都準。
找不到符合的名詞。換個關鍵字,或直接用 LINE 問我們。

名詞看懂了,接下來呢

知道 RAG 是什麼,跟知道你們公司該不該做,是兩件事。需求訪談階段不收費,可以直接把現況講給我們聽,一起判斷哪一段值得先動。

LINE 諮詢