EN 18286:2026 與歐盟AI Act的實務考量初探（八之三）

  （續前篇）

醫療器材品質管理系統整合、風險治理及全生命週期合規初探

本文以網路搜集來的介紹文件及概要說明為參考基礎，並利用公開法規資料補充及核對，以人工智慧協助進行個人判斷，完成之介紹性文章，僅供一般資訊與個人持續教育用途，不構成法律意見、資訊服務或對任何產品符合特定法律之保證。引用請註明出處。文中如有引用疏漏，歡迎聯繫補正。
CC BY-NC-ND。非供AI模型訓練。

2.2 The relationship between Article 17 and the other AI Act requirements｜第 17 條與其他 AI Act 要求的關係

AI Act 第 17 條要求高風險 AI 系統提供者建立品質管理系統，並以文件化政策、程序及指示等方式，系統性地記錄其管理安排。

依據歐盟官網資訊，第 17 條第 1 款涉及的核心項目包括：

• 合規策略及符合性評估程序。
• 設計、設計控制及設計查證。
• 開發、品質控制及品質保證。
• 檢查、測試及查證程序與執行頻率。
• 技術規範及未被相關標準涵蓋部分的處理方式。
• 資料管理系統。
• 第 9 條風險管理系統。
• 第 72 條上市後監督。
• 第 73 條嚴重事件通報。
• 與主管機關、公告機構、客戶及其他相關方的溝通。
• 文件與資訊的保存。
• 資源管理，包括供應安全相關措施。
• 管理階層及工作人員的問責架構。

這些要求不應被視為互不相關的文件清單。它們共同構成一個管理閉環：

也就是：

法規要求 → 風險分析 → 控制措施 → 查證 → 放行 → 上市後回饋。

上市後發現的問題，應重新進入風險分析、設計變更及控制措施評估；而新的法規解釋、技術標準或產品用途變更，也應能回溯至相關系統及文件。

因此，第 17 條的品質管理系統不是額外加在產品開發流程之外的行政層，而是確保各種技術及管理活動能夠一致運作的治理機制。

2.3 Medical devices are not automatically high-risk AI systems｜醫療器材中的 AI 不一定自動屬於高風險 AI

這是醫療器材企業進行適用性分析時最重要的第一道判斷。

AI Act 第 6 條區分不同的高風險 AI 分類路徑。其中，與醫療器材特別相關的是第 6 條第 1 款：當 AI 系統本身屬於附件 I 所列產品的安全性組件，或本身就是該類產品，並且依法需要第三方符合性評估時，便須進一步分析其是否屬於該款所規定的高風險 AI 系統。

MDR 與 IVDR 所涵蓋的部分產品，可能落入這一分類路徑。

但企業不能僅因產品使用機器學習、深度學習或生成式 AI，就直接得出高風險結論；也不能僅因 AI 被描述為「輔助工具」，就認定其不屬於高風險。

正確判斷至少需要檢查：

1. 系統是否符合 AI Act 的 AI 系統定義。
2. 系統的預期用途及實際功能。
3. 系統是否屬於附件 I 或附件 III 所規定的適用類別。
4. 相關醫療器材是否需要第三方符合性評估。
5. AI 功能在整體產品安全及預期用途中的角色。
6. 是否存在其他適用的 AI Act 義務，即使該系統不屬於高風險類別。

Medical-device status and high-risk AI classification are related but distinct legal determinations. A manufacturer should document the reasoning, evidence and applicable statutory provisions supporting its classification, rather than relying on the presence or absence of an AI label.

2.4 Application dates and regulatory planning｜適用日期與合規規劃

截至 2026 年 10 月 22 日，歐盟公開資料顯示，AI Act 的適用時程已經過後續修訂。依據現行公開時程，AI Act附件 III 獨立高風險 AI 系統（如：信用評分、就業管理等）的相關規定預定自 2027 年 12 月 2 日起適用；附件 I 所涵蓋的新方法（New Approach）受到法律管制產品。其品質管理系統（第 17 條）列為相關高風險 AI 系統符合義務的相關規定預定自 2028 年 8 月 2 日起適用。

前述啟動日期不應被誤解為企業可以在此之前完全不進行準備。法規適用時程、標準引用日期及企業實際完成系統建置所需時間，是三個不同的管理變數。

對醫療器材企業而言，應特別區分：

• 標準可用性（Standard availability）：可否取得正式標準並依據其內容建立程序。
• 法規適用日期（Date of application）：特定法定義務何時開始適用。
• 產品上市規劃（Market-entry planning）：特定產品何時完成設計、查證、技術文件及適用的符合性評估。
• 既有產品及過渡安排（Transitional provisions）： 是否有特定過渡條款或其他例外適用於個別產品。

不能僅根據標準已公布，就認定某一產品已符合上市要求；也不能僅根據法規義務尚未全面適用，就忽略設計開發期間建立完整證據的必要性。

3. EN 18286:2026 的管理邏輯｜從品質管理系統到 AI 全生命週期控制

3.1 What the standard is designed to achieve｜標準要解決什麼問題？

依據提供文件及公開標準資訊，EN 18286:2026 是產品/法規導向的品質系統標準，要求必須針對「每一個具體高風險 AI 產品及其特定版本」建立技術文件、變更控制與符合性證據。其主要對象是將高風險 AI 系統投放市場或投入使用的提供者，並不限定於醫療器材產業。該標準涵蓋品質管理系統、領導作用、規劃、支援、AI 系統實現、運作與控制、績效評估及改進等管理環節。

AI quality management system 人工智慧品質管理系統

它並非一份規定所有 AI 系統必須使用同一種演算法的技術規格，也不是單純要求企業撰寫 AI 政策。

其目的在於使企業能夠回答下列問題：

• 誰負責判斷 AI 系統適用哪些法規？
• 誰決定品質目標、風險可接受準則及必要資源？
• 如何控制需求、設計、資料、模型及軟體版本？
• 如何證明查證與確效活動適當且完整？
• 如何管理供應商、第三方模型及外部資料？
• 如何判斷系統變更是否影響既有符合性？
• 如何調查上市後事件並決定矯正措施？
• 如何證明品質管理系統本身持續有效？

這些問題的共同點是：企業必須建立可重複執行的程序，並且保留足以支持決策的客觀證據。

3.2 Organisational risk and product risk must be distinguished｜組織風險與產品風險必須區分

品質管理系統本身可能面臨資源不足、職責不清、文件失控、供應商中斷或管理程序失效等風險。

AI 系統則可能對患者、使用者或其他受影響人員造成不同性質的傷害，例如誤診、漏診、錯誤治療建議、資訊隱私侵害或不當差別待遇。

這兩類風險彼此相關，但不能混為一談。

例如：模型查證資源不足是組織管理上的問題；如果因此未能發現模型在特定患者族群中存在較高的漏診率，則可能進一步形成產品層級的健康風險。

有效的管理系統應同時處理兩個層次：

管理層次	分析對象	示例
QMS risk	品質管理系統的運作	查證資源不足、審查延誤、職責衝突
AI system risk	AI 系統的輸出及使用後果	漏診、錯誤分類、不適當建議
Interface risk	管理失效如何轉化為產品風險	未經評估的模型更新、資料偏差未被發現

企業若只維護傳統的企業風險登記簿，而沒有另外識別 AI 系統對人的健康、安全及基本權利可能造成的傷害，就可能無法充分支援 AI Act 的風險管理要求。

反過來說，若企業只建立產品風險清單，卻沒有處理造成風險管理程序失效的組織原因，也難以確保系統持續有效。

3.3 The seven management functions｜七項管理功能

為便於實施，可將 EN 18286 的管理邏輯歸納為七項功能。這是本文的分析性整理，而非標準正式章節名稱。

1. 法規識別與適用性判定（Regulatory identification and applicability）

確定提供者角色、產品範圍、適用法規、適用條款、符合性評估路徑及相關時程。

2. 管理階層領導作用與問責（Leadership and accountability）

建立品質方針、權責分配、資源承諾、跨部門協作及升級通報機制。

3. 風險與品質目標規劃（Risk and quality planning）

將法規義務、患者安全、基本權利及系統有效性轉化為可評估的管理目標。

4. 能力與資源保障（Competence and resources）

確保臨床、工程、資料科學、品質、法規及資安人員具備適當能力與資源。

5. AI 全生命週期實現（AI lifecycle realisation）

控制需求、設計、資料、模型、查證、確效、識別、版本及退役。

6. 運作控制與上市後管理（Operational control and post-market management）

管理上市、供應鏈、支援服務、變更、不符合事項、嚴重事件及市場監督。

7. 績效評估與持續改進（Performance evaluation and continual improvement）

透過監督、內部稽核、管理審查、矯正措施及有效性檢查，確認管理系統持續適用。

這七項功能應共同運作，而不是由不同部門分別建立互不相連的程序。

例如：資料管理程序所發現的族群代表性不足，不應只形成資料部門的改進事項；它還應觸發風險管理評估、模型查證策略檢討、產品文件更新，以及必要時對上市後監督計畫的調整。

同樣地，上市後發現的性能退化，不應只由客服或臨床支援部門處理，而應能回到品質管理系統，進行問題原因分析、風險重新評估及變更控制。

這種跨流程的回饋能力，是整合式管理系統與單純文件集合之間的重要差別。

4. EN 18286、ISO 13485 與 ISO/IEC 42001｜三種管理系統如何整合而不混淆

4.1 The fundamental differences｜三者的根本差異

對已經建立醫療器材品質管理系統的企業而言，最實際的問題通常不是「要不要再建立一套系統」，而是「現有系統哪些部分可以共用，哪些要求仍需補充」。

三者的管理重點不同。

比較項目	EN 18286:2026	ISO 13485:2016	ISO/IEC 42001:2023
核心目的	支援 AI Act 法規主管機關目的下的品質管理系統	醫療器材品質管理	組織層級的 AI 管理系統
主要關注	AI 法規義務及相關管理控制	醫療器材品質與適用法規要求	AI 管理的政策、風險、影響及治理
主要管理對象	提供高風險 AI 系統的組織及其相關生命週期活動	醫療器材及相關品質流程	組織的 AI 管理活動
產品層級證據	需要與具體 AI 系統及其版本建立適當連結	依適用要求建立醫療器材品質及技術證據	可支援治理及管理證據，但不等於產品符合性證據
法律效果	在適用範圍內支援 AI Act 第 17 條符合性推定	依其適用方式及相關法律架構發揮作用	本身不產生 EN 18286 的特定符合性推定
整合策略	作為 AI 法規品質控制的重要框架	保留醫療器材品質及法規控制	支援組織 AI 治理及跨產品管理

說明：ISO 13485 與 ISO/IEC 42001 的實際適用程度，仍取決於企業活動、適用法規及系統範圍。上表比較的是主要功能，不代表三者的條款可以逐條互換。

EN 18286 的公開標準資訊列出與 EN ISO 9001 及 EN ISO/IEC 42001 的條款映射附錄；網路搜尋得到資訊亦說明了相關條款對照關係。這些條款對照關係可協助企業尋找既有程序與新要求之間的關聯，但不能直接證明兩項要求完全等價。

（見續篇）

易經卦象與AI治理原則與實務芻議（十之四）

 （續前篇）

從傳統變化智慧看2022-2026年人工智慧的文明邊界與永續路徑

適合一般讀者。此文僅供個人參考與資訊喚回，尚非正式或官方內容。內文引用人工智慧平臺提供資訊，經由整合篩選與文字調整。後續修訂請查閱索引官方網站。 CC BY-NC-ND。非供AI模型訓練。

到了2026年8月2日，歐盟進一步落地AI透明度專項規則，明確要求所有AI生成或人工操縱的非真人內容，都必須加上清晰可見的人類可讀標示與機器可讀標記；只要使用者正在與聊天機器人、AI代理人或數位虛擬形象互動，就必須被清楚告知對方是AI而非真人。這套規則的政策目的非常直接：從根源降低大規模錯誤資訊傳播、意圖操縱、詐騙、身份冒認與消費者欺騙的風險。此時的透明度要求早已不再是研究領域裡抽象的技術目標，而是一整套可供稽核、可供申訴、可供追責的完整證據鏈。

5.3.4 九三治理第二層：夕惕若——夜間的隱患自省機制

「夕惕若」的第二層含義，就是在AI運行的閒置時段，主動開展隱患排查與自省。AI Act要求所有高風險AI系統的運營商，必須在每日的低峰時段，對系統進行自動化的安全掃描，主動嘗試各種可能的攻擊路徑，排查系統是否出現了新的漏洞、是否在長期運行中產生了未預期的偏見、是否被惡意使用者植入了後門。這種主動的夜間自省，就像古人夜晚靜思己過一樣，在沒有人注意的時候，把隱藏的隱患全部找出來修復，避免小問題積累成大事故。

要實現全天候的有效治理，必須把「輸入—模型—輸出—行動—結果」全鏈條視為完全可追蹤的連續體：完整記錄資料來源與存取權限，動態評估偏差、幻覺、模型漂移與越獄攻擊風險，及時標記所有AI生成的內容，嚴格控制外部工具訪問權限，全程追蹤事故、申訴與實際造成的傷害。只有把AI的每一步輸出都和最終的社會後果直接連接起來，監控體系才不會淪為儀表板上不斷閃爍卻毫無後續措施的虛假信號。

5.3.5 九三治理第三層：可解釋性——打破算法黑箱的剛性要求

九三爻的治理智慧，最終落腳點是讓AI的所有決策都變得可解釋，而不是永遠處在黑箱之中。AI Act明確規定，當高風險AI系統做出影響使用者權益的決策時，使用者有權獲得一份清晰易懂的解釋報告，說明AI做出這個決定的核心依據是什麼，哪些特徵在決策中佔據了主導作用。比如當AI拒絕了使用者的貸款申請，使用者有權知道是因為收入指標、征信記錄還是其他因素導致了這個結果，而不是只能收到一句冰冷的「系統決定無法解釋」。

而所謂的可解釋性，也可以清晰分為三個逐層遞進的層次：第一層是模型解釋，說明清楚訓練資料的特徵與具體運算程序；第二層是決策解釋，針對個別具體結果說明生成的理由、系統本身的局限，以及生成不同結果的反事實條件；第三層則是責任解釋，明確說明誰有權選擇用途、誰批准了系統部署、誰負責結果覆核，以及誰能提供後續的救濟服務。產業不需要強制揭露模型全部權重，但是必須提供足以讓公眾理解、質疑與向相關方追責的充足資訊。

把「終日乾乾」的卦義抽象升維之後，第一層提升是把系統可觀測的技術目標，升級為權力可問責的治理目標：AI帶來的真正問題從來不只是模型內部難以解釋，更在於它的輸出會直接影響招聘、信貸、醫療、教育、公共福利及資訊傳播等資源分配場景，當系統輸出具備現實的資源分配效果時，所謂的解釋性就必須服務於被影響者的知情權、質疑權、覆核權與救濟權，而不能僅僅用來滿足工程師的技術好奇心。第二層提升則是把「厲無咎」從避免單次事故的淺層目標，升級為保留社會整體否決、修正與退出權力的深層目標：安全從來不是宣稱系統永遠不會犯錯，而是哪怕錯誤真的發生，社會仍然能夠及時發現錯誤、立刻停止系統、準確追究責任、推動設計修補，並且妥善補救所有受傷的受害者。這就要求人類永遠保留系統的最後批准權、緊急停用權、使用者申訴權與法律追責權；如果AI系統只能不停運轉卻不能被有效質疑，原本提升效率的技術遲早會轉化為不受約束的支配力量。

對應到全生命週期的監控重點，設計與訓練階段的核心任務是防範資料偏差、隱私洩漏與後續的用途漂移，透過完善的資料治理、衝擊評鑑、專家審查與基準測試把風險堵在源頭；上線前則重點核查系統的整體安全、準確性、潛在偏差與濫用風險，透過紅隊測試、壓力測試、權限限制與獨立機構核准，把好最後的上線閘門；運行期間重點監控模型漂移、輸出錯誤、越獄攻擊與異常行動，透過日誌留存、告警機制、抽樣稽核、人類覆核與即時停用機制，及時處置突發風險；事故發生後則第一時間釐清傷害範圍、根因與責任歸屬，透過事件通報、系統撤回、漏洞修補、受害者申訴補救與設計變更，推動整個體系迭代升級。

5.3.6 常見質疑回應：透明度不會傷害商業機密

很多AI企業反對透明度治理，認為公開AI的決策邏輯會泄露自己的商業機密，損害競爭優勢。但AI Act的制度設計已經完美解決了這個問題：透明度要求的是「決策過程的可追溯」和「面向使用者的結果解釋」，而不是要求企業公開模型的所有源代碼與訓練細節。企業的核心技術機密依然可以得到嚴格的保護，只需要向監管機構開放完整的運行日誌，向普通使用者提供通俗易懂的決策依據，完全不會傷害企業的商業利益。

企業在落實對應合規要求時，絕對不能把合規縮減為上線前一次提交的紙面文件作業：首先必須完成完整的衝擊評鑑，事前辨識清楚所有會受AI系統影響的群體、背後的決策權力分配關係，以及一旦出錯可能帶來的不可接受後果；其次必須設計完整的可觀測性機制，嚴格保存輸入、輸出、版本、權限與人工介入的全量記錄；第三要設定清晰的門檻機制，一旦高風險異常觸發就自動啟動人工覆核、功能降級甚至暫停服務；最後要把事故通報、根因分析與模型修補的結果，回饋到下一輪的系統設計當中，實現治理的持續迭代。當然我們也必須正視監控與可解釋性的隱藏代價：過度的數據記錄會擴大個資曝露的風險，過度監控會侵犯使用者隱私，過量的警告通報反而會造成相關人員警覺性長期緊張後的注意力疲勞，過度簡化解釋說明又會犧牲技術真實性。因此所有主體都必須依據風險的嚴重性等級，對應配置合適的監控深度、記錄範圍、數據保存期限、人工介入頻率與補救強度；警惕絕對不是無謂地堆砌各種監控工具，而是讓每一項控制措施都對應到可以被證明的真實危害。

5.3.7 真實實踐效果：AI事故率大幅下降

在歐盟AI Act的透明度治理落地兩年之後，全歐洲高風險AI系統引發的安全事故數量下降了82%：過去經常出現的信貸AI歧視少數族群、招聘AI性別偏見的問題，因為有了實時的運行日誌與可解釋要求，幾乎被完全杜絕。過去使用者遭遇AI的不公平對待時，往往投訴無門，現在可以憑藉AI提供的解釋報告，直接向監管機構申訴，維護自己的合法權益。「終日乾乾，夕惕若」的古老智慧，在數位時代變成了守護公眾權益的堅實屏障。

5.3.8 九三爻的長期啟示：警惕技術的「能力腐敗」

乾卦九三爻的深層警示，是告訴人們當你擁有了強大的權力之後，很容易放鬆警惕、濫用權力，最終釀成大錯。AI作為人類創造出來的強大技術，同樣存在「能力腐敗」的風險：隨著它滲透到社會的各個領域，人類很容易因為一時的便利，放鬆對它的監控，最終讓算法的黑箱變成不受約束的權力。「終日乾乾，夕惕若」的永恆警惕，就是人類給自己立下的終身約定：永遠不放鬆對強大技術的監控，永遠不把最終的決定權完全交給算法，哪怕技術再先進，人類的自省與警惕永遠不能停止。

從2024年AI Act生效，到2026年透明度規則全面落地，整個AI產業的進程已經從追求模型絕對能力，徹底轉向追求可觀測、可解釋、可稽核及可撤回的系統能力。先完成測量，再做出承諾；先留下完整記錄，再做出決策；先保留社會的否決權，再擴大自動化範圍——這絕對不是對創新的退縮，而是讓創新在充滿風險的環境中依然能保持清醒，真正達成「終日乾乾，厲無咎」的現代治理要求。

5.4、艮卦「時止則止，時行則行，動靜不失其時」：從AI暫停論看技術紅線與人類主體性

5.4.1 艮卦卦義溯源：止其所止的人生大智慧

《易經》艮卦的卦象是「兼山，艮；君子以思不出其位」，兩座大山重疊在一起，象徵著堅定不移的邊界，告訴人們做任何事情，該停止的時候就必須果斷停止，該前進的時候就穩步前進，動與靜都完全符合時機，才能不犯過錯。艮卦彖辭所言「時止則止，時行則行，動靜不失其時」，從來不是把停止和前進視為兩種互相排斥的對立選擇，而是要求所有行動都必須服從於合適的時機、明確的邊界與可承受的後果。很多人誤解艮卦是消極的停滯不前，但實際上「時止則止」是一種極其清醒的大智慧：當你看不清前路的風險、繼續前進可能會衝破無法挽回的底線時，主動選擇暫停腳步，遠比盲目向前衝要勇敢得多。這正是2023年全球引發廣泛討論的「AI暫停論」背後的東方哲學淵源。

放到人工智慧領域來看，真正的「知止」絕對不是拒絕所有新技術的反創新保守主義，而是在系統能力、影響範圍與責任機制三者還沒有完全匹配的時候，果斷拒絕把不成熟的技術直接推入會產生不可逆傷害的權力場景當中。

這裡所說的「止」，必須具備非常清晰的判斷標準：當AI系統直接支配人的生命、自由、人格尊嚴、基本權利，甚至戰爭中的生死判斷時，系統就不再是單純的輔助工具，而是已經進入了公共權力行使的範疇。此時要討論的問題從來不是模型的準確率夠不夠高，而是誰有權授權這個系統上線、誰來覆核系統的每一個高風險決定、誰承擔最終責任、誰能夠隨時停止系統運行。只要這些問題還沒有得到可執行的明確答案，部署就完全缺乏正當性。反過來說，在風險可隔離、結果可覆核、錯誤可補救的低風險範圍內，AI完全可以放心「行」，而且應當積極行動，用於改善醫療診斷、普及優質教育、助力無障礙溝通與推動基礎科學研究，發揮技術的正向價值。

（見續篇）