法律先把人類自主放回中心，但沒有創造一張萬用人工覆核證書

臺灣人工智慧基本法已於2026年1月14日公布，並依第20條自公布日起施行，這一點必須和過去仍在討論草案的文章區分，該法第4條列出政府推動AI研發與應用應遵循的原則，其中「人類自主」要求支持人類自主權、尊重人格與基本權利，並允許人類監督，另外還包括隱私與資料治理、安全、透明可解釋、公平不歧視與課責等原則；但基本法仍然是一部框架性法律，不能看到「人類自主」四個字，就推導出所有民間企業每一項AI決策都必須經人工二次簽名，也不能直接創造一個法律原文不存在的「人類絕對否決權」。

中華企業策略永續發展學會 創會理事長 莊鈞翔 博士表示，比較正確的理解，是它提供未來各目的事業法規、行政措施與企業治理的重要政策原則，企業在設計高影響AI流程時，可以據此把人類監督、資料品質、透明與責任分配提早放進制度，而具體法律責任仍要看個資、勞動、消費、金融、契約及其他適用法規。

公司本來就會使用統計模型、信用評分、推薦系統與風險參數，AI只是把速度、資料量與自動化程度推到更高，問題因此不在「可不可以用」，治理應該問的是，這項系統在流程中扮演什麼角色，是整理資訊、提出建議、篩選異常，還是直接產生對外法律效果，角色越接近終局決策，對資料品質、說明能力、人工介入與責任分配的要求就應越高；例如客服機器人回答一般產品問題，錯誤通常可以透過後續更正處理，但自動化系統若直接拒絕貸款、停止醫療服務、終止供應商或作成人事重大處分，影響就完全不同。

企業不能只因AI平均準確率很高，就忽略個別錯誤的嚴重性，真正的風險治理要同時看「錯誤機率」與「錯一次會造成多大損害」，對高衝擊情境保留適當人工審查，才符合比例原則。

很多公司會在制度文件寫「重大AI決策由主管覆核」，看起來已經有人類監督，實際流程卻可能只是系統先產生結果，主管按一下確認就送出，這種形式上的Human-in-the-Loop如果審查者看不到模型輸入、不了解限制、沒有時間重新檢查，也沒有權限改變結果，法律與治理上很難稱為實質監督，因為人雖然出現在流程裡，卻沒有真正的判斷空間；有效的人類監督至少需要三件事：

• 第一是審查者知道系統能做什麼與不能做什麼。
• 第二是能取得與決策相關的資訊。
• 第三是有權暫停、修改、要求補資料或改由人工處理。

這不表示審查者要理解每一層模型參數，而是能辨識「這個結果是否超出正常範圍、是否有資料缺漏、是否可能受偏誤影響」，並在重要時點真正介入，否則人類監督會變成替自動決策蓋章的人類外殼。

歐盟人工智慧法案第14條要求高風險AI系統在設計與開發時具備適當人機介面，使自然人在使用期間可以有效監督，監督措施要與風險、自主程度與使用情境相稱，條文也要求負責監督的人能理解系統能力與限制、注意自動化偏誤、正確解讀輸出，並在適當情況介入或停止系統，這對企業設計人機協同流程具有很高參考價值；但專欄必須把適用範圍寫清楚，第14條位於高風險AI系統的要求章節，不是所有AI工具一律適用同樣強度監督。

莊鈞翔 博士提點企業如果只是用生成式AI整理會議摘要，和使用高風險系統作人事、金融或其他重大權益判斷，不應該用完全相同的治理成本處理，這也是風險分級的意義，法律治理不是把所有AI都變成最重流程，而是把最嚴格的控制放在最可能造成重大影響的地方。

最大的風險不是模型犯錯，而是人看到分數後停止思考

自動化偏誤不是說人類一定比機器好，而是人看到系統給出精確分數、顏色與排序時，很容易把數字的外觀當成客觀真相，尤其在工作量大、時間急或組織文化強調效率時，承辦人可能沒有意識到模型只看得到歷史資料，也不知道某個欄位本身帶有偏差，最後不是AI「取代」人，而是人主動停止問問題；解法不是要求員工永遠反對模型，而是建立合理的反例機制，例如系統信心不足、資料缺漏、結果與人工經驗高度衝突、重大權益案件或異常值時，強制升級人工覆核。

公司也可以追蹤人工覆核推翻模型的比例與原因，若某類案件經常被改判，就表示模型或資料可能需要重新檢查，這讓人工判斷不只是保險絲，也成為系統持續改善的資料來源。

模型使用歷史資料學習，如果過去的交易、錄取、授信或客戶服務本來就受到特定條件影響，AI可能把這些關聯學成預測規則，最麻煩的是，系統輸出看起來很中性，因為它不會說「我偏好某一類人」，而是用幾十個變數組合產生分數，結果卻可能讓某些群體長期受到不利影響，因此公平性不能只看模型有沒有直接輸入敏感欄位；企業在使用高影響模型時，應釐清訓練資料來源、代表性、標籤如何形成、資料是否過時，以及模型在不同群體或情境下是否出現明顯差異。

這種檢查不是為了追求數學上的完全一致，而是避免組織把「歷史上一直這樣」誤當成「未來依法也應該這樣」，當模型結果牽涉就業、金融或其他重大權益時，這種資料治理會直接連接到公平、消費與歧視風險。

歐盟GDPR第22條規範以個資為基礎、完全由自動化處理作成，且對當事人產生法律效果或類似重大影響的決策，原則上賦予當事人不受此類決策拘束的權利，並設有契約必要、法律授權或明示同意等例外，對部分例外情況，控制者還須提供適當保障，至少包括取得人工介入、表達自己觀點及爭執決策的權利，這使「人工審查」不只是企業內部管理，也可能成為特定資料保護法律下的程序保障；但GDPR是歐盟法，臺灣企業是否直接受其拘束必須依適用範圍判斷，不能把第22條直接寫成臺灣所有AI決策的國內法。

它的比較價值在於提醒企業，把「完全自動化」「重大影響」「可以申訴或人工覆核」這三個問題寫進流程，即使某個臺灣企業不直接適用GDPR，這套設計仍能提高可解釋性、客戶信任與爭議處理能力。

公司負責人有忠實義務與善良管理人注意義務，這使董事與高階經理人在導入重大AI系統時，不能完全不問用途、風險與控制就交給部門自行使用，可是法律判斷仍要回到具體情況，董事是否知道或應知道重大風險、公司有沒有合理評估、採購與監督程序是否適當、事故後是否處理，不能只因模型結果出錯就事後推定管理階層一定違反注意義務；比較合理的治理方式，是把重大AI導入當成一項風險投資決策，治理層不需要審核每個提示詞，但應對高影響用途知道資料從哪裡來、供應商負什麼責任、公司保留什麼控制、如何監測表現，以及如果系統停止或結果失真，公司能否切回人工流程。

莊鈞翔博士強調這些問題和導入ERP、雲端核心系統或重大自動化設備很像，AI的特殊性在於模型變化與不可解釋性可能更高，因此治理紀錄也要更清楚。

有效的人類監督必須真的能理解、質疑與介入

供應商簡報常會寫模型準確率九成以上，但企業真正需要知道的是那個數字如何測得、測試資料與自己的使用者是否相似，以及剩下的錯誤集中在哪裡，若一個模型平均準確率百分之九十八，錯誤卻高度集中在公司最重要的高額交易或某類弱勢使用者，對企業而言仍可能是不能接受的風險，平均值容易把真正重要的尾端風險遮住；合約上也應確認模型更新、資料使用、輸出責任、服務中斷、資安、保密、侵權與事故協助，尤其雲端AI服務可能持續更新版本，企業不能把一次測試當成永久保證。

當供應商調整模型、資料政策或功能，公司應知道是否需要重新驗證，高影響流程更要保留版本與測試紀錄，這樣事故發生時才能說清楚當時用的是哪一版系統，而不是只有一個不斷變動的產品名稱。

只要加一個人並不會自動使系統安全，人類可能疲勞、從眾、怕負責、過度依賴模型，也可能因個人偏見做出比系統更差的判斷，有效治理必須同時控制機器與人的風險，例如重大案件需要二次覆核、抽樣品質檢查、審查理由紀錄、輪調與教育訓練，並避免讓同一個人同時設定模型規則又獨自審核結果；這也是為什麼「誰負最後責任」不能只寫一個名字，公司應把制度責任拆開，供應商負責產品與約定服務，資料團隊負責模型監測，業務單位負責使用情境，法務與風控檢查法律限制，最終有權人員對重大結果作決定。

責任分配清楚不是為了事故後找人處罰，而是讓每一層知道自己必須提供什麼資訊與何時升級，避免所有人都以為別人已經看過。

很多模型很複雜，企業不可能要求客服、主管或客戶理解神經網路參數，但對重大權益的決策，仍應能提供足以讓人檢查的理由層次，至少要知道決策依賴哪些資料、是否有資料錯誤、主要影響因素是什麼、模型適用限制，以及當事人如果認為資料不正確，有沒有修正與重新評估的程序，這種可理解性比硬把所有模型變成簡單公式更務實；如果系統完全無法說明原因，企業就要重新思考它是否適合放在終局決策位置，也許可以用來篩選或預警，再交由其他程序決定。

治理的重點不是追求所有AI都百分之百透明，而是讓可解釋程度與決策影響相稱，對內部文案建議可以容許較低解釋需求，對授信拒絕、人事處分或重大資產交易則需要更高可追溯性。

莊鈞翔博士聲明當組織把AI導入列為轉型績效，員工很容易產生另一種壓力，也就是害怕指出系統錯誤會被認為保守、抗拒創新，企業應反過來鼓勵有證據的異議，建立錯誤回報、申訴與暫停機制，因為模型越被廣泛使用，前線人員越可能最早看見例外情境，若這些訊息被文化壓力壓掉，系統就會在錯誤方向持續擴大；這與公司治理的異議義務其實一致，董事、法務、稽核或風險人員的價值，不是永遠同意效率最高的方案，而是在必要時提出「這個假設有沒有證據」。

AI時代真正需要的文化不是反科技，而是讓技術建議可以被質問、決策可以被重算、錯誤可以被回報，這種環境才有可能同時保有創新速度與法律責任。

企業可能刻意不把性別、年齡或其他敏感資訊放進模型，卻使用郵遞區號、消費習慣、學校、職涯中斷、裝置型號等大量相關變數，最後模型仍可能間接重建某些群體特徵，這不代表所有代理變數都不能使用，而是企業在高影響決策中需要做更細緻的公平與必要性分析，不能只因模型「沒有直接讀取敏感欄位」就宣稱不存在差別影響；實務上可以比較不同群體的錯誤率、拒絕率、人工改判率與申訴結果，並檢查是否有合理業務目的及較低風險替代方式。

法律不是要求所有人的結果完全一樣，而是避免無合理理由的差別待遇與資料處理，當企業能用數據檢查自己的模型，而不是靠「我們沒有歧視意圖」自我證明，AI治理才真正進入可驗證階段。

企業要先分清影響程度，再決定AI決策需要多強的審查

• 第一層是低影響輔助，例如摘要、翻譯、格式整理與內部搜尋，重點在保密、個資、著作權與輸出查核。
• 第二層是中度影響建議，例如銷售預測、供應商評分、異常交易篩選與人才推薦，應增加資料品質、偏誤監測與人工覆核。
• 第三層則是可能直接影響重大權益或重大資產的決策，企業應進一步檢查法律適用、人工介入、申訴、版本、可解釋性與停止機制。

中華企業策略永續發展學會 創會理事長 莊鈞翔 博士強調以上分層的好處是不用把所有AI都當成高風險，也不會因為工具看起來方便就全部放行，每一層再設定允許資料、核准人、供應商要求、紀錄保存與異常升級，企業就能在創新與控制間找到穩定做法，而且制度可以隨用途改變調整，不需要每次出現新模型都重新發明一套規則。

重大AI系統上線前，可以簡潔記錄使用目的、替代方案、測試結果、已知限制、可接受錯誤、人工監督與停止條件，這些內容不用寫成學術論文，真正重要的是當公司一年後發現模型表現下降，能知道原本依賴哪些假設，當監管、客戶或法院詢問決策過程，也能說明公司不是因為「大家都在用AI」就直接導入，而是做過與風險相稱的評估；同樣地，人工覆核也要留合理紀錄，若主管推翻系統判斷，簡短說明主要原因即可，累積下來還能用來改善模型。

治理紀錄不是為了每一次決策都預先寫訴訟答辯，而是避免組織失去記憶，當模型、供應商與人員不斷更替時，公司仍知道這項自動化決策為何存在、目前還適不適合存在。

人類保有最終選擇權，不代表任何員工都能任意否定系統，也不等於重大決策一定只能人工完成，它更接近一種治理能力，也就是組織沒有把流程設計成「只要模型出結果就無法回頭」，在合理條件下仍有人可以暫停、查明、重新決策，並對選擇負責，這種能力是人類自主最實際的表現；如果公司已經無法在不破壞全部營運的情況下停止某個模型，也不知道資料從哪裡來、供應商改版了什麼，甚至沒有人可以解釋結果，問題就不只是AI風險，而是公司失去對自己核心流程的治理控制。

技術可以高度自動化，但主體責任不能因此變成空白，法律最終仍會尋找能作意思表示、配置權利義務、設計流程與承擔結果的人或法人。

看到權威答案後仍願意再查一次，是專業者最不能外包的能力

企業購買AI服務時，採購單最容易寫得很像一般軟體，列出功能、授權數、服務時間與價格，卻沒有處理模型會不會把輸入資料拿去再訓練、供應商何時可以更換模型版本、輸出紀錄保存多久，以及重大錯誤或資安事件由誰通知，AI的行為可能因模型更新、提示設定、外部工具與資料來源改變而改變，因此契約至少要讓企業知道自己買到的是哪一類服務、供應商可以改到什麼程度，以及重要變更發生時使用者是否有權評估、暫停或退出；高影響用途更應把責任邊界寫進合約，例如供應商應提供必要文件與安全資訊、企業不得把供應商的宣傳文字當成適法性保證、雙方如何處理第三方權利主張、資料外洩與服務中斷。

外部AI廠商可以提供工具與技術承諾，卻無法替使用企業決定某個輸出是否符合自己的金融、勞動、醫療或消費法義務，企業若把「供應商說可以」當成內部法律審查的替代品，責任空白就會從採購當天開始累積。

傳統軟體出錯時，工程團隊通常可以找到固定程式邏輯，AI系統則可能因資料分布改變、模型版本更新或使用情境擴張而逐漸偏離原本測試結果，這就是為什麼上線前測試不能成為永久保證，企業應先設定監控指標，例如錯誤率、人工覆核改判率、特定群體的異常差異、重大客訴與無法解釋的輸出，再約定什麼程度會觸發重新測試、降級使用或暫停系統，讓模型變動有治理上的警戒線；若企業在沒有重新評估的情況下，把原本只用來協助客服的模型延伸到信用審查、人事或重大交易，風險也會顯著改變。

人機協同的重點不是替每個模型做一套華麗倫理宣言，而是建立「用途變了就重新審查」的機制，模型供應商、資料來源、使用對象、產生的法律效果或可自動執行的工具權限只要出現重大變動，都應重新確認人工監督、資料治理與事故處理是否仍然適合。

律師、法務、會計、醫療與工程等專業工作大量使用生成式AI後，效率可以提升，但「模型講得很像真的」本身就是新的專業風險，法律工作最典型的例子是法條、判決字號與修法時間，如果專業人員沒有回到正式來源核對，錯誤就可能被包裝成非常流暢的結論交給客戶，AI因此不是降低專業門檻，而是把驗證能力的重要性推得更高；企業可以依工作風險建立來源要求，低風險的內部摘要允許模型協助整理，高風險的法令解釋、對外聲明、重大投資或訴訟策略則要求人工核對原始文件與版本。

真正成熟的人機協同不會禁止專業人員使用AI，而是把「何時一定要回到第一手來源」寫進工作流程，使用者因此知道模型是加速器，不是可以替自己背書的權威。

新一代AI代理不只回答問題，還能串接企業系統執行動作，風險因此從「回答錯」升級成「做錯」，公司如果允許代理程式自行寄出對外信件、建立採購、調整權限或操作客戶資料，就必須先設計金額、對象、系統與行為的授權上限，高風險動作要求人工確認，並完整保留誰發出指令、模型做了什麼、使用了哪一項工具與最後結果的紀錄；這類控制與人類員工的授權治理其實很相似，新進員工不會第一天就拿到所有付款與資料庫權限，AI也不應因為速度快就取得無限制的系統能力。

公司應讓代理程式遵守最小權限、可撤銷憑證、異常停止與必要的雙重確認，並準備在供應商服務中斷或模型失常時切換回人工流程，真正的自主不是讓AI做得越多越好，而是組織始終知道它被允許做到哪裡。

人機協同的最後一道防線，是組織仍知道誰能決定、誰要負責

自動化決策真正讓人無力的時刻，往往不是收到不利結果，而是無論怎麼詢問都只得到「系統判定」四個字，沒有人能說明是否資料錯誤、是否有人工覆核、要向誰提出補充，企業在重大權益場景中建立申訴與覆核入口，既能降低個案錯誤造成的損害，也能把一線出現的異常回饋成模型監控資料，讓治理形成閉環；這個入口不必讓每個人取得模型原始碼，也不表示所有決策都必須翻案，而是讓組織可以處理資料錯置、身分誤認、特殊情境與模型失靈。

當外部利害關係人知道有清楚的說明與覆核程序，內部決策者也較難用系統當作責任遮蔽物，人類最終選擇權因而不是一句口號，而是一套可被啟動、留下紀錄、有人負責回應的制度。

很多公司真正開始盤點時才發現，AI早已分散在客服、行銷、HR、資安、採購、法務與供應商服務裡，只是大家使用不同名稱，治理層因此很難知道哪些系統只是提高效率，哪些已經會對員工、客戶或交易相對人產生重大影響，AI清冊不需要複雜，可以先記錄用途、供應商、資料來源、輸出如何被使用、是否會自動執行、影響對象、是否有人工覆核及負責部門，然後按影響程度決定審查深度，這比要求所有AI都走同一套繁重流程更有效率；清冊也能處理「影子AI」問題，員工可能自行使用公開生成式服務整理客戶資料、合約或程式碼，管理者若只發布一句全面禁止，實際需求仍然存在，使用行為就容易轉入看不見的地方。

莊博士建議比較好的做法是提供可使用的工具與資料分級規則，明確說明哪些資訊不得輸入外部服務、哪些用途需要主管核准，並透過訓練與技術控制降低違規，治理的目的不是讓員工害怕AI，而是讓組織知道能力被用在哪裡。

高影響AI如果出現大規模錯誤，公司需要的不只是技術上的關機功能，還要有營運替代方案，否則管理者明知系統有問題也可能因為「停了就沒辦法工作」而繼續使用，企業可以事先設計降級模式，例如暫時改成人工審查、限制模型只提供建議、不允許自動執行，或把受影響範圍縮小，並設定由誰判斷啟動、何時恢復與恢復前需要完成哪些驗證，讓停止系統不至於等同停止公司；這種退出能力也呼應人類自主的治理精神，人在正常時候可以把大量工作交給機器，真正重要的是異常時仍有能力接手。

當組織保存必要知識、人工流程與權限，不讓所有判斷能力隨自動化而消失，AI才能成為擴張組織能力的工具，而不是一旦失效就讓整個決策鏈一起失去作用的單一依賴點。

技術團隊可以說明模型準確率與錯誤類型，法務可以指出法規要求，業務可以評估效率與市場需求，但是否接受一項高影響AI帶來的剩餘風險，仍然是治理決策，公司應依規模建立清楚的決策層級，低風險工具由部門管理，高風險用途則要求跨部門評估與高階主管核准，真正重要的不是成立一個名稱華麗的AI委員會，而是風險、收益、替代方案與責任人能在決策前被同時看見；當決策做成後也要留下重評條件，例如法規變動、模型重大更新、錯誤率上升、客訴增加或使用範圍擴張就重新審查。

這樣的制度讓AI治理不會停在一次性上線審批，組織可以在技術與市場快速變化中持續校正，最終保留的「人類選擇權」不是每次都否決模型，而是人始終有權知道風險、調整制度、停止使用並對接受風險的決定負責。

企業導入自動化後，人工流程逐漸消失是正常現象，但如果關鍵業務完全依賴單一模型、單一供應商或單一雲端服務，系統故障時就可能連基本判斷能力一起中斷，治理上可以為高關鍵流程保留最小人工操作能力、必要資料匯出方式與替代聯絡機制，定期確認人員仍知道如何接手，這不是拒絕自動化，而是避免效率提升換來新的單點故障；這也提醒企業，AI供應商的退出、服務終止與資料可攜性應在採購時就處理，不能等到產品下架或價格大幅調整才想辦法搬走。

人機協同真正成熟的樣子，是平常讓機器處理大量可標準化工作，異常時人仍能理解狀況、取回必要資料並維持最低服務，組織因此不是依賴某一個模型生存，而是把AI納入可以替換與治理的能力組合。

結語：AI可以擴張判斷，但最後不可外包的是責任

AI可以比人更快整理資料，也可以在很多任務上做得比個別使用者更穩定，但它不能替法律主體完成責任承擔。

企業真正需要保存的，不是人對每一個模型輸出都握有神祕的最後一票，而是重大決策仍有人能理解限制、查核來源、提出異議、停止流程，並在錯誤發生後說明當時為什麼相信它。

莊鈞翔博士說明，人機協同最成熟的樣子，因此不是拒絕工具，也不是崇拜工具；人願意借助AI看得更遠，同時仍保留重新思考與改變決定的能力；當一個人面對再權威的模型答案，仍知道自己有義務問「依據是什麼」，他的選擇權就沒有被技術拿走，主體責任也才真正被守住。