|
適合一般讀者。此文僅供個人參考與資訊喚回，尚非正式或官方內容。內文引用人工智慧平臺提供資訊，經由整合篩選與文字調整。後續修訂請查閱索引官方網站。
CC BY-NC-ND。非供AI模型訓練。 |
一、高階管理層提要
過去四年生成式人工智慧的爆炸式擴張，不僅徹底改變了知識生產、產業運作與公共治理的邊界，也帶來了從幻覺輸出、權力分配失衡到生態資源超載等層出不窮的新挑戰。本書跳脫單純技術導向或法規條文解讀的框架，以《易經》十個核心卦象的千年變化智慧為經，以歐盟《人工智慧法案》（AI Act），以禁止風險、高風險、透明度風險及最低風險建立分級規範。美國 NIST AI RMF 提供自願性、跨部門的風險管理方法。
中國以《網絡安全法》《數據安全法》《個人信息保護法》及生成式 AI 管理規範形成服務提供者責任；臺灣《人工智慧基本法》以人類自主、隱私、資安、透明、公平與問責建立原則性框架。韓國《人工智慧基本法》與《個人資訊保護法》則把 AI 發展、透明、安全與信任基礎納入制度，搭建起一套東西方視角交融的AI治理體系。惟須謹記，此等法域並不相同，不能互相替代；企業應採「法域基線加風險增量」的合規方法，將最嚴格的適用要求落實於資料、模型、應用與供應鏈全生命週期。
對於企業經營者、技術開發團隊與監管單位來說，這套體系提供的並非束縛創新的緊箍咒，而是將風險辨識、責任歸屬與普惠分配內嵌到AI生命週期每一個環節的實用指引：從新模型發布前的安全評鑑，到上線後持續的可解釋性監督，從訓練資料的主權確認，到跨國治理的協同合作，最終實現「技術能力始終服務於人類尊嚴，而非反過來支配人」的核心目標，讓AI的生產力增益成為全社會共享的公共資產，而非少數群體獨占的支配工具。
表一：《易經》的卦與爻
|
卦象治理原則 |
管理層應問的核心問題 |
最低實務證據 |
|
乾：自強不息 |
我們是否以安全與倫理同步投資，而非只追求能力？ |
AI 策略、風險胃納、研發與安全資源配置 |
|
乾：潛龍勿用 |
能力尚未可解釋或控制時，是否仍急於擴大部署？ |
部署閘門、能力評鑑、紅隊與最小權限 |
|
乾：終日乾乾 |
系統上線後，誰每天監測、誰能叫停？ |
日誌、告警、漂移監測、事件通報與演練 |
|
蒙：求學養正 |
資料來源、同意、用途與人類指示是否清楚？ |
資料清冊、權利依據、資料治理與教育紀錄 |
|
需／同人：利涉大川 |
發生跨境事故時，是否能共享資訊與共同應變？ |
供應商協議、事故通報、跨境協作與聯絡窗口 |
|
睽：異中求同 |
不同群體是否承擔不相稱的錯誤或排除？ |
分層公平測試、基本權利影響評估與申訴數據 |
|
艮：知止 |
哪些用途不得做，哪些情形必須停用？ |
禁止用途清單、人類否決權與撤回程序 |
|
節：制度有數 |
模型能力與能源、水、硬體及碳排是否相稱？ |
生命週期評估、能耗、水耗、供應鏈與效率指標 |
|
小畜／大有：行賞 |
生產力增益如何回到員工、使用者與公共社會？ |
勞動影響評估、教育、再訓練與利益分配方案 |
|
既濟／未濟：豫防 |
成功上線後，新的能力與失效模式如何被發現？ |
版本重審、後市場監督、事故學習與法規更新 |
二、背景說明
2022年11月30日OpenAI公開推出ChatGPT，標誌著人工智慧正式從封閉的研究實驗室走進大眾日常生活的每一個場景。過去四年間，AI從單純的文字生成工具快速進化為能讀取檔案、喚取線上服務、自主規劃任務步驟的協同作業者，多模態、代理式工作流、邊緣端部署等技術進展層出不窮，極大降低了創意試錯的門檻，為教育、醫療、產業創新帶來了前所未有的可能性。
但與技術擴張相伴而來的，是過度依賴AI生成的謬誤導致決策失準、自動化決策放大歷史社會偏見、深偽內容侵蝕公共信任、算力瘋狂擴張加劇能源負荷等一系列過往從未面對的系統性風險。全球各主要經濟體從2023年開始陸續從「鼓勵AI創新」的單一导向，轉向「創新與治理同步推進」的雙軌路徑，歐盟AI Act在2024年8月正式生效，美國NIST AI RMF 1.0及其2024年生成式AI補充框架陸續發布，中、臺、韓三地也各自依據本地的數位治理脈絡，推動個資保護、資安強制驗證與AI產業自律等相關規範的落地，一場關乎AI發展方向與人類未來文明形態的治理探索，就此全面拉開帷幕。
第二：NIST AI RMF 是美國政府發布的自願性風險管理框架，不是一般企業自動適用的聯邦成文法；企業仍須依產業、契約、個資、消費者保護與資安義務判斷責任。
第三：中國、臺灣與韓國的 AI 治理制度仍與既有個資、資安、內容、產業及行政法規共同運作，不能執著地將一部 AI 規範概括為全部適用法規的符合性要求。
三、適用法規制度整理
本書的實務討論以全球首套具強制執行力的AI監管架構：歐盟《人工智慧法案AI Act》為核心主軸，同時整合跨多地區的相關規範要求，為不同營運區域的主體提供對應的合規指引：
- 歐盟《人工智慧法案》（2024/1689,
Artificial Intelligence Act, AIA）：2024年8月1日正式生效，採用風險分級治理架構，將AI系統分為「不可接受風險」「高風險」「中風險」「低風險」四個等級分別配置監管要求。其中通用人工智慧模型規則於2025年8月起生效，2026年8月2日進一步落地透明度義務，要求AI生成內容必須標示機器可讀標記，使用者與聊天機器人、AI代理人互動時須被明確告知對方為非真人的AI系統。
- 美國NIST人工智慧風險管理框架（AI Risk Management Framework, AI RMF 1.0）：2023年正式發布，2024年7月補充生成式AI專用組合指引，屬於跨產業通用的自願性最佳實務框架，將「可信任AI」的核心特徵界定為有效可靠、安全穩健、資安保障、可問責、透明可解釋、隱私強化、公平且管理有害偏見七大面向，為企業提供從設計、開發、部署到評估全生命週期的風險管控共同語言。
- 中國大陸《生成式人工智慧服務管理暫行辦法》（2023年8月15日起施行）、《網絡安全法》（2025年10月28日修正）、《個人信息保護法》（2021年11月1日施行）：明確要求生成式AI服務提供者必須落實訓練資料安全管理、內容審核、個資保護等義務，生成的內容不得含有危害國家安全、擾亂社會秩序等違法內容，同時要求向公眾提供服務的生成式AI必須依法完成安全評估與備案手續。
- 台灣《個人資料保護法》（民國114年11月11日修正，施行日期未定）、《資通安全管理法》（民國 114 年 09 月 24 日修正）與《AI基本法》（民國115年1月14日公布）：針對高風險AI系統明確強制性驗證要求，落實個資最小化原則，要求公部門導入AI時必須完成影響評估，保留人類最終決策權，保障民眾的知情權與申訴救濟管道。
- 韓國《人工智慧發展與信賴促進法》：2024年正式施行，建立韓國版的AI風險分級制度，明確AI開發者與部署者的責任邊界，設立國家AI信賴認證體系，同時要求高風險AI服務必須向使用者充分說明運作原理，禁止未經同意使用個人資料進行AI模型訓練。配合《關於人工智慧發展和建立信任基礎的基本法》（2026年7月21日施行）。
表二：主要法規與框架比較
|
法域／框架 |
法律效力與治理取向 |
個資與資料治理 |
AI 安全、透明與責任 |
企業實務注意事項 |
|
歐盟 AI Act |
EU Regulation 2024/1689，具有直接適用的法律效力；風險分級治理 |
GPAI 訓練內容摘要、著作權政策；高風險資料治理與品質要求 |
禁止風險、高風險、透明度義務、人工監督、日誌、資安、後市場監督；GPAI 規則與透明度義務依官方時程分階段適用 |
先判斷用途與角色，再建立技術文件、風險評估、事件與供應鏈證據；不要把指引或自願 Code 當成法律本身 |
|
美國 NIST AI RMF |
聯邦政府標準指引，主要供自願使用；非一般性成文法 |
透過 Govern、Map、Measure、Manage 納入隱私與可信任性 |
2023 AI RMF 1.0；2024 生成式 AI Profile，強調生命週期風險管理 |
可作企業內控、供應商要求、審計證據與跨境共同語言；仍須另查產業法、州法與契約責任 |
|
中國 |
生成式 AI 暫行辦法與網路、數據、個人信息法規共同適用 |
合法來源、個人同意或法律依據、資料品質、非必要個資限制、查閱更正刪除 |
提供者負內容與個資處理責任；生成內容標識、違法內容處置、投訴舉報、監督檢查與報告 |
評估服務是否向境內公眾提供；保留資料來源、標註、處置、輸入記錄與主管機關應對能力 |
|
臺灣 |
2026 《人工智慧基本法》建立原則性治理框架，與個資法、資安法及產業法規併行 |
隱私、資料最小化、個資保護納入預設與設計 |
人類自主、資安安全、透明可解釋、公平不歧視、問責；政府高風險 AI 須風險評估與內控 |
基本法原則須轉化為採購規格、個資影響評估、資安控制、人工監督、責任與救濟程序 |
|
韓國 |
2025 公布、2026 施行的 AI 基本法與《個人資訊保護法》共同形成信任治理；KLRI 英文翻譯僅供參考 |
PIPA 保護個人自由與權利，AI 服務須結合資料保護與安全措施 |
AI 基本法聚焦 AI 發展、透明、安全、高影響 AI 與信任基礎 |
使用正式韓文法規及主管機關指引確認義務；不得只依非官方英文摘要作法律判斷 |
（見續篇）
沒有留言:
張貼留言