AI agent 進公司後，HR 要開始管理「非人類工作力」嗎？

Human-in-the-loop 不是把人放在旁邊看，而是重新設計人、AI agent、任務權限與責任邊界

企業導入 AI agent 之後，問題很快就不會只是「員工會不會用 AI」。

因為 agent 不只是工具。
它可能會開始幫客服回覆客戶、幫業務整理名單、幫 HR 摘要履歷、幫主管產生週報，甚至幫企業串接一段工作流程。

這時候，真正麻煩的問題就來了：

AI agent 可以做哪些事？
哪些地方一定要人審核？
AI 出錯時，誰負責？
員工有沒有能力看出 AI 哪裡錯？
哪些決策不能交給 AI 自動完成？

這些問題表面上像是 IT 問題，但我認為，很快就會變成 HR 必須參與的組織管理問題。

因為只要 AI agent 開始改變工作內容、能力要求、授權邊界與責任歸屬，它就不只是技術工具，而是企業工作系統的一部分。

AI agent 不是員工，但會成為工作流程中的行動單元

我不太認同把 AI agent 直接稱為「同事」。

因為 AI agent 沒有職業倫理，沒有組織承諾，也不能承擔法律或管理責任。
如果企業把 AI agent 當成真正的員工，反而容易忽略責任問題。

但反過來說，AI agent 也不只是一般工具。

一般工具是人操作它。
但 agent 可能會根據目標，自動完成一串任務。

例如：

客服 agent 可以根據客戶問題產生回覆。
銷售 agent 可以整理客戶資料與開發話術。
HR agent 可以協助摘要履歷與面試紀錄。
專案 agent 可以追蹤任務進度並產生報告。

所以比較準確的說法是：

AI agent 不是員工，但會成為工作流程中的行動單元。

它不是人，但它會參與工作。
它不能負責，但它會產生影響。
這就是企業必須重新設計管理流程的原因。

Human-in-the-loop 不是口號，而是工作設計

很多企業談 AI governance，都會提到 Human-in-the-loop。

中文可以理解成「人在迴路中」或「人工介入」。
但這個概念不能只是口號。

不是說 AI 做完之後，有個人看一眼，就叫 Human-in-the-loop。

真正的問題是：

人在什麼時候介入？
誰負責介入？
他要檢查什麼？
他有沒有權限叫停 AI？
如果 AI 出錯，流程要怎麼修正？

如果這些沒有設計清楚，Human-in-the-loop 很容易變成形式上的安全感。

例如企業說「AI 輸出都會有人審核」，但實際上員工每天要看太多 AI 產出，只能快速按通過。
或者主管名義上要覆核，但他根本不知道 AI 哪裡可能出錯。
又或者 AI agent 已經先對客戶做了承諾，人類只是事後收拾殘局。

這都不是真正的 Human-in-the-loop。

真正有用的 Human-in-the-loop，應該是一套工作設計。

在 AI 開始前，人要定義任務目標、資料範圍、權限邊界與禁止事項。
在 AI 執行中，人要在高風險節點介入。
在 AI 輸出後，人要審核關鍵結果，決定是否採用。
在 AI 出錯後，人要追蹤原因，修正流程，而不是只怪模型不準。

這才是企業真正需要的 AI agent 管理能力。

不是每一步都要人看，而是高風險節點一定要人管

Human-in-the-loop 也不是代表每一步都要人工審核。

如果所有事情都要人看，那就失去 AI agent 的效率了。

比較合理的做法，是依照風險分層。

任務類型	AI 可以做什麼	人要怎麼介入
低風險任務	摘要、分類、格式整理、例行提醒	抽樣檢查即可
中風險任務	客戶回覆草稿、候選人摘要、銷售建議	發出前由人確認
高風險任務	錄用淘汰、退款承諾、合約解釋、財務或法規判斷	AI 只能輔助，人必須決策

這裡的重點不是 AI 能不能做。

很多事情 AI 看起來都能做。

真正的問題是：

如果 AI 做錯，代價是什麼？

如果代價很低，可以讓 agent 自動處理，再抽樣檢查。
如果代價中等，要讓 agent 產生草稿，由人確認。
如果代價很高，AI 就只能做輔助分析，不能做最後決定。

這就是 Human-in-the-loop 的核心：
不是讓人形式上存在，而是讓人在正確的風險節點介入。

以客服 agent 為例，差別會很清楚

假設企業導入客服 agent。

有些事情可以讓 agent 直接做，例如：

查詢營業時間
回答產品規格
提供物流進度
整理常見問題

這類任務風險低，可以自動化。

但有些事情就要小心：

退款條件
客訴安撫
價格例外
服務補償

這些最好由 agent 產生草稿，再由客服人員確認後送出。

至於更高風險的事情，例如：

法律爭議
媒體投訴
高金額賠償
個資問題
承認公司責任

這些就不應該交給 AI 自動處理。
agent 最多只能整理背景資料，最後要由人判斷。

所以問題不是「客服 agent 能不能回答」。
問題是企業有沒有設計清楚：

什麼可以自動回答？
什麼需要人工確認？
什麼一定要升級主管？
什麼絕對不能由 AI 承諾？

這些不是模型問題，是管理問題。

HR 為什麼要管這件事？

因為 Human-in-the-loop 最後還是回到「人」。

誰有能力審核 AI？
誰容易過度相信 AI？
誰能在高風險情境中叫停 AI？
誰知道 AI 的輸出需要查證？
誰能在 AI 出錯後修正流程？

這些都不是 IT 可以單獨回答的問題。

這些是人才能力問題。

所以 HR 未來要評估的，不只是員工會不會用 AI，而是員工能不能成為可靠的 Human-in-the-loop。

也就是說，他能不能：

定義 AI 的任務邊界
看懂 AI 輸出的風險
驗證 AI 的資料與邏輯
在必要時叫停流程
承擔最後判斷
把一次錯誤變成流程改善