Limits And Governance

限制不是叫你不要做,而是讓 AI 可以放心放進流程。

企業導入 AI 時,真正要先回答的是:哪些資料能用、哪些輸出要審、誰負責、如何留下紀錄。這些答案會決定 AI 能不能從個人效率變成組織能力。

導入前四題

先有邊界,再談效率。

資料

哪些資料可以給工具?哪些資料要遮蔽或禁止輸入?

流程

這個工作是否高頻、可重複使用、可被驗收?

責任

工具輸出後由誰審核?錯誤由誰修正與回報?

工具

目前工具是否能留下紀錄、控管權限、支援團隊協作?

常見限制

每個限制都要對應一個管理動作。

資料外洩

限制問題:員工把客戶資料、內部報表、未公開策略直接貼進公開工具。

解決方向:先做資料分級、可用資料清單、遮蔽規則與工具白名單。

輸出幻覺

限制問題:工具回答看起來很順,但引用錯誤、規則誤解或把不存在的資訊講得很肯定。

解決方向:把工具定位為草稿與輔助判斷,重要輸出必須有查核清單與負責人。

流程沒有 owner

限制問題:大家都說工具很好用,但沒有人負責維護範本、資料來源與品質標準。

解決方向:每個工作流都要指定 owner、適用情境、審核方式與更新節奏。

工具太多太散

限制問題:不同部門各買各的工具,資料與 Prompt 分散,最後無法治理。

解決方向:先建立共同導入框架,再決定哪些工具可以進入正式流程。

一開始就過度自動化

限制問題:還沒釐清流程,就想做 Agent,結果錯誤被快速放大。

解決方向:先從 Chat、Projects、Skills 到 Workflow 分階段驗證,再逐步 Agent 化。

七道放行問題

答不出來,就先不要往下一步走。

上面四題是入門版;以下七題是進階版,對應七種容易出事的失敗模式。每一題都是「進到下一階段前必須回答得出來」的問題。七題是方法設計的預設值,尚未經個案實測。

G1

資料問題被低估

這條流程要用的資料在哪、誰能存取、品質夠不夠、能不能給 AI 用?

盤點流程時
G2

試點成功被誤認為可以擴大

換一個人、換一批資料、換一個部門,成效還在嗎?

試點結束、準備擴大前
G3

老闆與第一線活在平行宇宙

老闆說的目標與第一線說的痛點是同一件事嗎?同一季是否又推 AI 又裁人?考績是否算 AI 使用量?

啟動前
G4

沒有人負責

這條流程出錯時誰簽字?誰每月看指標?誰有權喊停?

啟動前、擴大時
G5

時程是用希望推的

時程是從實際工時推的,還是從期待推的?留了幾週緩衝?

啟動前、試點前
G6

被供應商綁住、無法退場

這條流程依賴哪些外部模型、平台或人員?價格、條款、版本變動時怎麼辦?退場要多久?

試點前、擴大時
G7

沒有評測,只靠感覺

有固定的測試案例、對照組、抽樣覆核與每週回顧嗎?會出大事的情境測過嗎?停用條件寫好了嗎?

試點結束、擴大時

用例風險分級

公司大小決定資源,用例風險決定要管多嚴。

兩件事分開判斷:五十人的醫療團隊可能是高風險,一千人公司的內部摘要工具可能是低風險。每個用例各自判斷,資料、對象或權限改變時重新判斷。

等級 什麼情況 至少要做到
R1 低風險 內部輔助、不含個資與營業秘密、最後由人送出 有基本規範即可:可用工具、資料禁區、哪些產出必須人工送出
R2 中風險 含個資或營業秘密、對外溝通、會影響客戶權益 基本規範之外,加上人工覆核、使用紀錄、供應商條款檢視
R3 高風險 影響人的聘用、信用、醫療或安全;工具會自己採取行動;用途被法規列為高風險(是否屬法定高風險須另行判斷) 先過法遵與資安審查;測試要含會出大事的情境;上線前先演練一次停用

R3 是本站的實務分級,不等於任何法規下的法定高風險類別;是否落入法規定義,須依用途與角色另行判斷。