當 AI Agent 開始自己工作，企業真正需要管理的，已經不是模型，而是整個 AI Workforce。
2023 年，AI 世界最熱門的話題是模型。
GPT-4、Gemini、Claude、Llama，每一次新模型發布，大家討論的都是：「誰的模型比較強？誰的 Benchmark 比較高？誰的推理能力比較好？」
然而，短短幾年後，AI 競爭的焦點，正在悄悄改變。
Google、OpenAI、Microsoft、Anthropic 推出的新產品，不再只是展示模型能力，而是開始圍繞著 Agent、Workflow、Governance 建立完整的企業解決方案。
這代表一件事：
AI 的下一場競賽，不再只是模型，而是治理（Governance）。
模型越來越強，但企業真正的問題開始出現
過去，企業導入 AI，大多只是把 ChatGPT 當成一個工具。
它幫忙寫文章、整理會議紀錄、翻譯文件，最後的決定仍然由人做。
但今天，情況已經完全不同。
AI Agent 開始可以：
- 自己搜尋資料
- 自己分析數據
- 自己撰寫程式
- 自己安排工作流程
- 自己回覆客戶
- 甚至串接 ERP、CRM、付款系統完成一連串任務。
當 AI 不再只是回答問題，而是開始「工作」，企業面對的問題就不再只是模型夠不夠聰明，而是：
AI 可以做到哪裡？誰授權它？出了錯誰負責？
這些問題，都不是模型能力可以解決的。
全球正在把焦點轉向 AI Governance
這並不是我的猜測，而是全球主要標準與監管機構正在做的事情。
① NIST AI Risk Management Framework
美國國家標準與技術研究院（NIST）發布的 AI Risk Management Framework（AI RMF），並沒有教企業如何打造更大的模型，而是提出四個核心面向：
- Govern（治理）
- Map（辨識風險）
- Measure（衡量）
- Manage（管理）
治理（Govern）被放在整個框架的核心，代表 AI 必須從一開始就納入企業治理，而不是等到出問題才補救。
② ISO/IEC 42001
2023 年發布的 ISO/IEC 42001，是全球第一個 AI 管理系統標準。
它的重要性，就像當年的 ISO 27001 改變了資訊安全管理。
ISO 42001 想回答的，不是：
AI 有沒有很厲害？
而是：
- AI 是否被妥善管理？
- 是否有人負責？
- 是否能留下稽核紀錄？
- 是否能持續改善？
換句話說，AI 已經開始從一項技術，變成一項需要治理的企業資產。
③ 歐盟 AI Act
如果再看看歐盟 AI Act，更能發現同樣的趨勢。
整部法規最重要的關鍵字不是模型，而是：
- Risk（風險）
- Transparency（透明）
- Human Oversight（人類監督）
- Accountability（責任）
真正被要求管理的，不是 AI 的能力，而是 AI 的使用方式。
Agent 時代，真正需要的是 Agent Governance
很多企業現在開始部署多個 AI Agent。
例如：
一個 Agent 負責市場分析。
一個 Agent 負責客服。
一個 Agent 負責程式開發。
另一個 Agent 負責採購。
甚至，這些 Agent 彼此還會互相協作。
看起來效率非常高。
但新的問題也隨之而來：
如果其中一個 Agent 使用了錯誤資料怎麼辦？
如果它超出授權範圍怎麼辦？
如果它把敏感資料交給外部工具怎麼辦？
如果五個 Agent 的決策互相衝突怎麼辦？
這些問題，不是 Prompt Engineering 可以解決。
也不是換一個模型就能解決。
真正需要的是 Agent Governance。
企業需要知道：
- 哪些 Agent 可以做哪些事情？
- 每個 Agent 的權限是什麼？
- 誰負責監督？
- 如何留下完整的決策證據？
- 如何在必要時讓人接手（Human-on-the-loop）？
治理，開始成為 AI 能否真正落地的關鍵。
未來 HR 管理的，不再只是 Human Workforce
這也是我認為 HR AI 即將面臨最大的改變。
過去的人力資源管理，是管理「人」。
未來，人資管理的對象將變成：
- Human
- AI Agent
- Workflow
- Tool Chain
- Permission
- Audit Trail
- Risk
換句話說，我們真正管理的，將是一支 Human-AI Workforce。
每位員工，不再只是完成自己的工作，而是帶領一群 AI Agent 一起完成工作。
因此，未來的人才能力，也不只是會不會使用 ChatGPT，而是能否：
- 分配任務給不同 Agent
- 驗證 AI 的結果
- 在關鍵時刻做出判斷
- 管理 AI 的權限
- 協調人與 AI 的合作
這些能力，將逐漸成為企業的新核心競爭力。
沒有治理，就沒有規模化
很多人認為：
Governance 代表限制。
但事實剛好相反。
沒有治理，AI 永遠只能停留在小規模試驗。
當企業內只有一、兩個 AI Agent 時，或許還能依靠人工管理。
但當企業同時運作數百個、數千個 Agent 時，沒有一致的治理架構，就會出現權限失控、重複建置、資料外洩、責任不清與影子 AI（Shadow AI）等問題。
真正成熟的企業，不會把治理視為成本，而是視為 AI 規模化（AI at Scale） 的基礎。
我的觀察：AI Governance 正在進入 3.0 時代
如果回顧 AI 的發展，我認為治理也正在經歷三個階段。
AI Governance 1.0：管理模型（Model Governance）
重點是模型是否可靠、安全、公平，以及是否符合監管要求。
AI Governance 2.0：管理 Agent（Agent Governance）
當 AI 開始自主完成任務，企業需要管理 Agent 的權限、責任、工具使用與決策流程。
AI Governance 3.0：管理 Human-AI Workforce
未來真正需要治理的，不再只是 AI，也不只是 Agent，而是一支由人類與 AI Agent 共同組成的混合工作團隊。
企業管理者、人資主管，甚至組織設計者，都需要重新思考：
如何設計一套能夠讓人與 AI 長期協作、彼此監督、共同成長的管理機制？
結語：真正的競爭力，將來自治理能力
過去三年，AI 的競賽，是模型的競賽。
未來十年，AI 的競賽，將是治理的競賽。
真正決定企業競爭力的，不會是哪一家模型比較聰明，而是哪一家企業能建立一套**可信（Trustworthy）、可管理（Manageable）、可擴展（Scalable）**的人機協作體系（Human-AI Workforce）。
當 AI 開始自己工作，管理 AI，將比打造 AI 更重要。
而我相信，下一代的 HR AI，也將從「評估人」進一步走向「治理 Human-AI Workforce」，這不只是技術的升級，更是管理思維的一次重大轉變。