圖片來源：canva 圖庫
導入 AI 之前，該先評估哪些風險？連子智在《讓 AI 做事，你做主》中，從決策代價與問題複雜性切入，解析人機協作的分工原則，兼顧工作效率與責任歸屬。
有了不對稱架構與邊界原則，在實務中， 我們仍會面臨一個具體問題：哪些決策應該交給 AI， 哪些決策必須由人主導？
我們用兩個面向來說明這個判斷架構：決策代價（stakes）與問題複雜性（complexity）。
「代價」決定了我們對錯誤的容忍度，指的是決策錯誤的後果嚴重性（如：金錢損失、法律責任、生命安全）。代價越高，人類需要介入的程度就越深。而「複雜性」則決定了預測的難度，指的是任務涉及的變數數量、非結構化程度與因果關係的模糊性。複雜性越高，AI 在資料處理的優勢就越明顯，但人對於因果解釋的需求也越強。
▌決策四象限
我們將風險矩陣（發生機率×影響程度）的思想延伸至人機協作的架構設計時發現，當這兩個面向交叉時，可以形成一個基本的決策分配四象限：
自動化區：這是低代價、低複雜性的區域，通常屬於日常操作的決策。這個區域是AI的主場，以追求效率極大化為目標，人類負責參數設定與事後審查。
● 監控區：這是高代價、低複雜性的區域， 可以交由 AI 執行， 但必須被「因果約束」所限制，人類是隨時準備踩煞車的監護人。
● 輔助區：這是低代價、高複雜性的區域，AI 負責探索與發現，但不懂意義，必須由人類負責定義。
● 主權區：這是高代價、高複雜性的區域， 也是「桌面」的所在地。無論 AI 技術多強，人類必須站在主導位置，這裡的最終判斷權不可讓渡。
● 動態機制 1：主權回歸。圖中從其他區域指向主權區的箭頭，代表當 AI 遇到無法處理的任務或因果斷裂時，決策權必須立即、強制地交還給人。這也呼應了國際 AI 治理中對「人類監督」（human oversight）與「人類控制」的重視。歐盟《人工智慧法》第十四條要求高風險 AI 系統必須能由自然人有效監督；而歐盟《可信賴人工智慧倫理準則》也曾提出人在迴圈中（human-in-the-loop）、人在迴圈上（human-on-the-loop）與人在指揮（human-in-command）等不同層次的人類監督方式。這些概念與本書所說的「主權回歸」，具有相通之處。這也適用於自動化區，當原本低代價、低複雜的任務突然出現邏輯衝突，此時的主權回歸通常表現為「異常中斷」，透過斷路機制確保主權的安全回歸。只是在正常的組織運作中，我們應致力於最佳化自動化區，使這種回歸成為極少數的例外。這種類似家用保險絲的主動熔斷機制，在工程領域稱為「故障安全機制」（fail-safe）。
● 動態機制 2：邊界演進。圖中指向監控區的箭頭，代表邊界的演進。隨著 AI 能力提升、數據累積與模型改善，某些原本需要人工監控的任務，可能逐漸移向更高程度的自動化，但這種移動只發生在既定邊界之內。只要決策代價與責任屬性沒有改變，主權位置就不應移動。
換言之，AI 能力提升可以改變執行與監控的分工，卻不能自動改變誰來劃定邊界、誰來承擔後果。
透過下表，我們可以看見這套四象限如何跨越產業邊界，守住決策的主權底線。
決策分配四象限本質上是一張「價值地圖」。我們將可標準化、可自動化的預測任務交給 AI，是為了騰出資源來應對高代價、高責任的邊界設定。
這樣的順序與過去工具導向的做法正好相反。工具導向的思維通常從系統能做什麼出發，而結構導向的思維則從哪些決策必須保留在人手中開始。
因此，決策分配四象限並不是一套工具，而是一種結構性的界定方法。當新的任務產生或新的系統被引進時，組織可以先回答這兩個問題：這項決策的代價有多高？這個問題的複雜性有多大？
本文與圖片來源出自 聯經《讓 AI 做事，你做主》 連子智．著
.webp)
