跳轉到

LLM 模型選擇

LLM(Large Language Model)是 Agent 的「大腦」。選擇不同的模型會影響 Agent 的回應品質、速度和風格。

在哪裡設定模型

在 Agent Editor 左側面板的進階設定區,找到「LLM 模型」下拉選單。

模型選擇下拉選單

如何選擇模型

不同模型有不同的特性,沒有「最好」的模型,只有「最適合」的模型。

考量因素

因素 說明
回應品質 複雜任務需要更強大的模型
回應速度 即時對話場景需要較快的模型
成本 更強大的模型通常成本較高
語言支援 部分模型對中文的支援較好

建議策略

  1. 從預設模型開始:系統會預選一個平衡的模型
  2. 測試後再調整:在 Editor 測試幾輪對話
  3. 依場景選擇:簡單 FAQ 用快速模型,複雜分析用強大模型

多試幾個版本

同樣的 Instruction,用不同模型可能有不同效果。建議建立幾個版本,比較回應品質後再決定。

常見模型比較

以下是一般性的模型類型比較(實際可用模型依你的組織設定而定):

類型 特色 適合場景
輕量模型 速度快、成本低 簡單 FAQ、即時客服
標準模型 品質與速度平衡 一般對話、知識問答
進階模型 推理能力強、品質高 複雜分析、長文撰寫

讓 Copilot 建議模型

不確定該選哪個模型?問 Copilot:

我的 Agent 需要回答技術支援問題,常常需要分析錯誤訊息,
哪個模型比較適合?

Copilot 會根據你的描述,建議適合的模型,並可以一鍵套用。

(截圖待補)Copilot 會顯示模型建議並提供一鍵套用 llm-model-copilot-suggestion

模型不存在警告

如果你載入的 Agent 使用的模型已不再可用,系統會顯示警告。

此時你需要選擇一個新的模型並重新測試。

常見問題

換模型後 Agent 行為會變嗎?

可能會。不同模型對 Instruction 的理解和執行方式略有不同。換模型後建議重新測試主要對話情境。

可以在不同場景用不同模型嗎?

目前一個 Agent 只能設定一個模型。如果需要不同模型處理不同任務,可以建立多個 Agent,透過 Call Agent 工具串接。

模型選項怎麼變多或變少?

可用的模型目前由 Codeer 官方決定,如果需要特定模型,請聯繫我們。

下一步