查看對話並改善
真實對話會顯示 Agent 在使用者實際脈絡裡做了什麼。請先處理眼前需要,再判斷這段新判斷是否應改變未來 version。
營運循環是:
觀察 -> 處理 -> 保存 -> 修改 -> 驗證
步驟 1:先處理需要注意的對話
打開 對話,優先查看標記為 待真人回覆、後果較高,或帶有 Improve feedback 的訊息。
如果使用者正在等待,請先回覆,再把問題變成 optimization task。你可以直接撰寫,或產生 AI 草稿、檢查後,在支援的情況下透過原 Channel 送出。
→ 回覆對話
步驟 2:連同脈絡檢查發生了什麼
閱讀完整對話,找出:
- 使用者想完成的工作
- Agent 當時可以取得的資訊
- Agent 產生的動作或回答
- 哪個品質或邊界決定沒有被遵守
- 這個問題是否屬於目前 scope
「太 generic」這類 feedback 是訊號,還不是診斷。請把它翻成可觀察行為:應該補問哪個問題、避免哪個宣稱、缺少哪個下一步,或應該在什麼時候 handoff。
步驟 3:使用 Add Case 保存情境
當你希望 Agent 修改後仍能檢查這個情境時,使用 Add Case。
在 Case Detail:
- 保留理解工作所需的脈絡。
- 確認
Input能代表要重跑的行為。 - 只有在範例能改善 review 時才加入
Ideal Response。 - 撰寫一小組讓其他 reviewer 不必猜測就能判斷的
Standard。
例如,一個有用的 Standard 可以要求回覆補問某項缺少資訊、避免特定無依據承諾,並在資料來源無法解決情況時 handoff。
步驟 4:診斷最小且相關的原因
判斷問題發生在:
- 預期行為或
Standard Instructions- Knowledge Base 內容或 retrieval
- 工具設定或調用邊界
- 是否應把這個情境放進目前 scope 的決定
Copilot 可以協助檢查 case 與目前 Agent 設定。請要求最小的 pattern-level 修正,不要新增一條只會重複單一 case 用字的規則。
AI 草稿 feedback 不會發布 Agent 修改
捨棄或調整 AI 草稿,可以改善這段對話的下一份草稿;如果底層行為應該為未來使用者改變,仍要更新 Agent 並重新驗證。
步驟 5:修改並驗證
如果這個情境屬於支援範圍:
- 打開
AI 助理,只更新相關 instruction、資料來源或工具。 - 使用
套用保存 draft 修改。 - 在
Test Suite執行新 case。 - 執行相關 must-pass cases。
- 修改可能影響已通過行為時,執行更廣的 regression cases。
- 只有在發布條件通過後,才發布新 version。
如果這個情境不屬於目前 scope,請保留核准 fallback,並把 case 留給之後 version。
步驟 6:觀察結果
發布後回到 對話,確認新流量裡是否再次出現同一模式。Case 通過只能證明案例條件下的受檢行為;production review 則能顯示真實情境是否持續出現或改變。