國際經濟合作組織人工智慧原則 OECD AI Principles

國際經濟合作組織人工智慧原則概述

OECD AI Principles overview

概述

該文件是第一份關於2019 年5 月通過的國際經濟合作組織人工智慧原則中向政府提出的政策建議實施情況的報告。該報告提出概念架構，提供了調查結果，確定了良好實踐，並研究了人工智慧政策的新興趨勢，特別是關於各國如何實施國際經濟合作組織人工智慧原則中向政策制定者提出的五個面向的建議，亦即：增強包容性、人本價值與公平、透明度與可解釋性、強固性、安全性。該報告以 2020 年 2 月至 2021 年 4 月在線上舉行的經濟合作組織人工智慧 ( OECD.AI) 國家人工智慧政策專家網路工作小組會議上提供的專家意見，以及 歐洲經濟合作組織(EC-OECD) 國家的人工智慧戰略和政策資料庫為基礎。隨著世界各地的政策制定者和人工智慧參與者從原則陸續轉向實施，該報告旨在為國際經濟合作組織人工智慧原則的實施提供資訊。該報告也是對國際經濟合作組織人工智慧政策觀察站的貢獻。

國際經濟合作組織36 個成員國以及阿根廷、巴西、哥倫比亞、哥斯達黎加、秘魯和羅馬尼亞在巴黎舉行的該組織年度部長級理事會會議上簽署《國際經濟合作組織人工智慧原則》，當年度的討論重點是「利用數位轉型促進永續發展」。該等原則是在由來自政府、學術界、企業、民間社會、國際機構、科技界和工會的50 多名成員組成的專家組的指導下制定的，包括五個基於價值觀的負責任部署可信賴人工智能原則和五個原則。公共政策和國際合作的建議。他們的目標是指導政府、組織和個人在設計和運行人工智慧系統時將人類的最大利益放在首位，並確保設計者和操作者對其正常運作負責。迄今為止已經有四十二個國家採用新的國際經濟合作組織人工智慧原則。

人工智慧原則得到了歐盟執行理事會的支持，其高層專家小組制定了《值得信賴的人工智慧道德準則》，該等原則成為在日本舉行的 G20 領導人峰會討論的一部分。國際經濟合作組織的數位政策專家將以該等原則為基礎，制定實施這些原則的實用指引文件。

註：此文並未涵蓋該文件全部事項，相關內容務須參閱各項文獻原本及最新版次。此處係閱讀隨筆，僅供個人學習，非供印刷或潛在意圖出版。

© All Rights reserved.

雖然此份文件未具備法律約束力，但事實證明，其他政策領域的現有國際經濟合作組織原則在制定國際標準和幫助政府設計國家立法方面具有巨大影響力。例如：國際經濟合作組織隱私權準則對個人資料的收集和使用設定了限制，亦成為美國、歐洲和亞洲許多隱私權法律和架構的基礎。 G20 認可的國際經濟合作組織公司治理原則已成為政策制定者、投資者、公司和其他致力於公司治理制度和監管架構的利害關係者的國際性基準標竿。

• 人工智慧應該透過推動包容性成長、永續發展和福祉來造福人類和地球。
• 人工智慧系統的設計應尊重法治、人權、民主價值和多樣性，並應包括適當的保障措施，例如：在必要時進行人為干預，以確保社會的公平和公正。
• 人工智慧系統應該具有透明度和負責任的揭露，以確保人們在與人工智慧系統互動時能夠理解並能夠對結果提出質疑。
• 人工智慧系統必須在其整個生命週期中以強固、安全的方式運行，並且應持續不斷地評估和管理潛在風險。
• 開發、展開或營運人工智慧系統的組織和個人應根據上述原則對其正常運作負責。

內文

國際經濟合作組織的法律文件第OECD/LEGAL/0449 號，經由人工智慧理事會建議，制定人工智慧原則，提倡使用創新、值得信賴、尊重人權和民主價值的人工智慧。原文件於 2019 年 5 月通過，並於2023年11月增補修訂，為人工智慧制定實用且靈活的原則，足以經受時間的考驗。

參考文件

國際經濟合作組織跨國企業指南[OECD/LEGAL/0144]；

理事會關於隱私權保護和個人資料跨境流動準則的建議 [OECD/LEGAL/0188]；

理事會關於密碼學政策指南的建議 [OECD/LEGAL/0289]；

理事會關於加強公共部門資訊取得和更有效利用的建議 [OECD/LEGAL/0362]；

理事會關於數位安全風險管理促進經濟和社會繁榮的建議 [OECD/LEGAL/0415]；

電子商務消費者保護委員會的建議[OECD/LEGAL/0422]；

數位經濟宣言：創新、成長與社會繁榮（坎昆宣言）[OECD/LEGAL/0426]；

關於加強中小企業和創業精神以促進生產力和包容性成長的宣言[OECD/LEGAL/0439]；

國際經濟合作組織勞工和就業部長級會議通過的《2016 年關於建立更具彈性和包容性的勞動力市場的部長聲明》；

聯合國大會《2030年永續發展議程》(A/RES/70/1)；以及

聯合國大會1948年《世界人權宣言》中所確定的永續發展目標。

緣起：

各國政府和民間論壇正於人工智慧（AI）推出重要工作；人工智慧具有普遍、深遠和全球性的影響，正在改變社會、經濟部門和工作範圍，未來可能會愈來愈多的改變；人工智慧具備潛力改善人們的福祉，為積極的永續全球經濟活動做出貢獻，提高創新和生產力，並幫助應對關鍵的全球挑戰；各種變革可能在社會和經濟內部以及社會和經濟之間產生不同的衝擊，特別是在經濟轉變、競爭、勞動力市場轉變、不平等情況，對民主和人權、隱私權和資料保護力的衝擊，尤其是數位安全；信任是數位轉型的關鍵推動因素；儘管未來人工智慧應用的性質及其影響可能難以預見，但人工智慧系統的可信任度是人工智慧得以廣泛傳播和獲得採用的關鍵因素；為了抓住科技的有益潛力，同時限制與之相關的風險，需要進行獲悉情況的全社會公共辯論；強調某些現有的國家和國際法律、監管和政策架構已經與人工智慧相關，包括與人權、消費者和個人資料保護、智慧財產權、負責任的商業行為和競爭相關的架構，同時指出一些架構的適當性可能需要評鑑既有架構並考慮開發新的因應方法；鑑於人工智慧的快速發展和實施，需要一個穩定的政策環境，促進以人為本的方法，實現值得信賴的人工智慧，促進研究，保留創新的經濟激勵，並根據其利益適用於所有利害相關者角色和背景； 擁抱人工智慧應用所提供的機會、因應人工智慧應用帶來的挑戰，並賦予利害相關者參與的權利，對於促進可信賴的人工智慧在社會中的採用，以及將人工智慧的可信任度轉變為全球市場的競爭參數至關重要。

該文件由國際經濟合作組織所屬的數位經濟政策委員會及人工智慧理事會提議，而提出此份人工智慧原則的正式文件。

第 一 節：可信賴人工智慧的負責任管理原則

建議遵守此處建議的會員和非會員促進並實施以下對可信賴人工智慧進行負責任管理的原則，該等原則相關於所有利害關係者。呼籲所有人工智慧參與者根據各自的角色促進和實施以下對可信賴人工智慧進行負責任管理的原則。以下原則帶有互補性，須整體地加以考慮。

原則 1.1：包容性成長、永續發展與福祉

利害關係者應積極參與對值得信賴的人工智慧的負責任管理，以追求對人類和地球有利的結果，例如增強人類能力和創造力，促進未涵蓋包容圈的族群，減少經濟、社會、性別和其他事項的不平等情形，以及保護自然環境，從而激發全面涵容的成長、永續發展和福祉。

原則1.2：以人為本的價值觀和公平

a）人工智慧參與者應在整個人工智慧系統生命週期中尊重法治、人權和民主價值。其中包括自由、尊嚴和自主、隱私和資料保護、不帶偏見和平等、多元化、公平、社會正義和國際公認的勞工權利。

b) 為此，人工智慧參與者應實施適合具體情況並符合現有技術的機制和法定保障措施，例如人類決策的承擔量。

原則1.3：透明度和可解釋性

人工智慧參與者應致力於人工智慧系統的透明度和負責任的揭露。為此，他們應該提供有意義的資訊，適合前後環境，且與最新技術一致：

i. 培養對人工智慧系統的共通理解，

ii.讓利害關係者意識到他們係與人工智慧系統互動，此亦包括在工作場所的互動，

iii.使受人工智慧系統影響的人能夠了解引致的後果，

iv. 使那些受到人工智慧系統不利影響的人能夠基於簡單易懂的資訊之影響因素，以及作為預測、建議或決策基礎的邏輯來挑戰其所引致的後果。

原則1.4：穩健性、安全性和安全性

a）人工智慧系統在其整個生命週期中應保持強固、保全及安全，以便在正常使用、可預見使用或誤用、或其他不利條件下皆可正常運行，不會引起不合理的安全風險。

b) 為此，人工智慧參與者應確保可追溯性，包括與人工智慧系統生命週期期間所做的資料集、過程和決策相關的可追溯性，以便能夠分析人工智慧系統的結果和對查詢的回應，適合具體情況並維持現今科技水準。

c)人工智慧參與者應根據其角色、前後環節與因應行動能力，持續地將系統的風險管理方法應用於人工智慧系統生命週期的每個階段，以處理與人工智慧系統相關的風險，包括隱私性、數位安全、安全及偏見。

原則1.5：當責

人工智慧參與者應根​​據其角色、前後環節，並與現今科技水準保持一致，對人工智慧系統的正常運作和對上述原則的尊重負責。

第二節：可信賴人工智慧的國家政策與國際合作

建議配合在國家政策和國際合作中按照第一節的原則實施下述建議，尤須關注中小企業。

原則2.1：投資人工智慧研發

a）各國政府須考慮在研究與開發方面進行長期公共投資，並鼓勵私人投資，包括跨學科的努力，以刺激可信賴的人工智慧創新，重點關注具有挑戰性的技術問題以及人工智慧相關的社會、法律和倫理影響和政策問題。

b) 政府還應考慮公共投資，並鼓勵私人投資具有代表性且尊重隱私和資料保護的開放資料集，以支援未含不當偏見的人工智慧研究與開發環境，以之改進可交互運作性和使用各項標準。

原則2.2：培育人工智慧數位生態系統

各國政府須培育致力於開發和存取某種可信賴的人工智慧數位生態系統，該等生態系統包括數位技術和基礎設施，及共享人工智慧知識的機制（適用時）。由這方面考量，政府須考慮推廣資料信託等機制，以支援安全、公平、合法和倫理的資料共享。

原則2.3：塑造人工智慧有利的政策環境

a）政府須促進政策環境，以支援可信賴的人工智慧系統從研究與開發階段敏捷過渡到展開與營運階段。為此，他們須考慮提供一個受控環境執行實地模擬檢驗，人工智慧系統得以在該受控環境中測試，並酌情擴大規模。

b）各國政府須酌情檢討與調整其施加在人工智慧系統的政策和法規架構，配合評鑑機制，以鼓勵值得信賴的人工智慧的創新和競爭。

原則2.4：建構人才能力並積極準備勞動市場轉型

a) 政府須與利害關係者密切合作，為勞動世界和社會的變革做好準備。他們須使人們能夠在各種應用程式中有效地使用人工智慧系統並與之交互作用，包括為他們配備必要的技能。

b) 政府須採取措施，包括透過社會對話，確保人工智慧展開後工人的公平過渡，例如：透過工作生涯中的訓練計劃、為受變換工作所影響的人們提供支持，以便在勞動力市場獲得新機會。

c) 政府亦須與利害相關者密切合作，促進在工作中負責任地使用人工智慧，提高工人的安全和工作品質，促進企業家精神和生產力，並致力於確保人工智慧廣泛而公平地帶來好處共享。

原則2.5：可信賴人工智慧的國際合作

a）各國政府，包括發展中國家和利害關係者，須積極合作，推動該等原則，並在可信賴人工智慧的負責任管理方面取得進展。

b）各國政府須在國際經濟合作組織與其他全球和區域論壇中共同努力，適當時，促進人工智慧知識的分享。他們須鼓勵國際間、跨部門和開放性多方利害相關者倡議事項，以累積人工智慧的長期專業知識。

c）各國政府為了可交互運作且可信賴的人工智慧，須促進開發多方利害關係者、共識驅動的全球技術標準。

d）各國政府須鼓勵開發和自身採用的國際上可比較指標，用於衡量人工智慧的研究、開發和展開，並收集以證據為基礎執行評鑑該等原則的實際進展情形。

國際經濟合作組織建議各國政府

• 促進公共和私人對研發的投資，以刺激可信賴人工智慧的創新。
• 利用數位基礎設施和技術以及共享數據和知識的機制，培育可存取的人工智慧生態系統。
• 創造一個政策環境，為展開值得信賴的人工智慧系統開闢康莊大道。
• 為人們配備人工智慧技能並支援員工以確保公平過渡。
• 跨產業界、跨部門通力合作，分享資訊、制定標準，致力於對人工智慧進行負責任的管理。 

詳細內容參見OECD報告原文。

竟