資訊技術使用人工智慧的治理衍生效應（二之六）

ISO/IEC 38507:2022
資訊技術 — 資訊技術治理 — 組織使用人工智慧的治理衍生效應 (續)

人工智慧與人工智慧系統概觀
一般規定

人工智慧系統有多種形式，需要治理機構進行不同程度的視察。因此，治理機構須瞭解「使用人工智慧」的衍生效應，以及在哪個階段須使用治理機構直接參與，或經由合宜的治理機制間接參與。

人工智慧系統以現有的資訊技術能力為基礎，包括網路、物聯網設備，例如：感測器和啟動器、大資料和雲計算。

人工智慧技術領域的最新進展大多與機器學習（Machine Learning, ML）領域有關。機器學習是一種人工智慧技術，使計算機能夠「學習」而無需另外編輯專用程式。該領域內，資料是關鍵：它們可以是文字、數字、圖片、符號、公式、圖表、圖像、語音、聲音或影片。依照現有資料集創建的模型，而將之應用於新的資料，從而解决特定問題、預防某種後果、或對新輸入的資料進行分類。

奠基於機器學習的人工智慧系統性質，包括其使用目標、其選擇的演算法、資料驅動方式、訓練方法學、和基於或然率而輸出的結果，使得該組織有可能面臨更多的風險和機會（另見風險一節）。

© All Rights reserved. 版權聲明。

人工智慧系統可以通過分析資料實現決策自動化，從而提供潛在的或然率結果，在許多情況下，還可以根據該結果採取行動。人工智慧系統可以改變產品性質、流程和關係，以及組織的營運方式。這會對大多數產業引起重大衝擊。

與任何提供益處的強大工具一樣，也存在着潛在的傷害。因此，人工智慧的使用須納入組織的風險評估。

使用人工智慧可為組織帶來新的義務。可以是法律要求，也可以是採用自願性實務守則的結果，無論是直接在人工智慧系統的決策過程自動化範圍內，或是通過間接使用資料或其他資源、或各項過程而成。人工智慧系統在沒有人類參與的情況下，跨越提出行動備選方案與執行措施本身之間的界限的潛力，應該是治理機構的主要考慮因素。

人工智慧與其他技術的不同之處在於，從各種來源收集到的資料數量和複雜性可能過於繁複，無法由人類處理或充分地作業，特別是從治理衍生影響的角度來看：

• 決策自動化的接納能力；
• 使用資料分析、洞見和學習，而非以明確的人類編碼邏輯去解決問題；
• 隨着人工智慧系統環境的變化的適應能力，雖然沒有特地編製的程式碼，或者須要事先知道。

這三個元素對組織及其治理具有廣泛的衝擊。

人工智慧系統與其他資訊技術的區別
決策自動化
人工智慧系統通常根據為設計人工智慧系統的任務所選擇的歷史和目前的資料而創造輸出內容。現代人工智慧系統，特別是基於機器學習的系统，得到的預測內容通常以或然率表示。例如：

• 該部分不符合品質要求的或然率為97%；
• 選擇該途徑有92%的的或然率為最快捷；
• 攝影機前的臉孔屬於「Barry Jone」的或然率為98%；

從前述獲得的或然率，人工智慧系統可以得出不同的措施，且因地制宜而措施亦會不同。某些情況下，轉瞬間即可完成該等措施。
做出決策的速度是人工智慧系統的關鍵參數，因此使得組織樂於採用此種強大工具。適用決策自動化的範圍牽涉到納入考量之數量龐大及多變的輸入資料。

資料導向式解決問題

人工智慧系统，特别是那些基於機器學習的系统，通常檢查大量的資料，並識別和完善該等資料中的模式。 此項能力使這類系統能夠處理某些類型的問題，凡是問題太困難或太費時處理，因此不適宜由人類自己或使用傳統的撰寫程序技術的方式解決。

由人類執行每一個邏輯步驟與編寫程式以解決問題，可以由資料導向過程替代，舉例言之：

• 辨認臉孔，對人類而言輕而易舉，但逐步解釋如何辨認卻相當困難。人工智慧系统經由辨認數千個臉孔圖片，從資料中學得模式，應用此種模式在新的臉孔圖片。
• 從數百萬個健康細胞中辨別癌症細胞的過程很困難，但機器學習的圖片識別技術已證實診斷癌症相當有效。

綜合地看，運用機器學習持續變更的資料，尤其在系統不斷進化、重新訓練及持續學習，戲劇化地快速解決問題，展現鉅大潛力，另外亦是對治理的挑戰。

適應型系統
某些人工智慧系统可以在運作階段亦執行重新訓練，或是持續性訓練。運作時接收到的輸入資料將由人工智慧系统運用以改進或優化內部設置模組。因此人工智慧系统經過一段運作期間，可以從相同的輸入資料送出不同的輸出結果。此種適應性質係對外部刺激的進化形式，可能的外部刺激為環境或是回饋人工智慧系统。試舉一例：某種推薦系統會觀察某個使用者關於人工智慧系統建議事項的反應，從而自適應化以提高獲得使用者接受的比例。此即ISO/IEC 22989, 3.1.1.10持續學習的例子。

適應性亦可以是自行改進的結果，例如：西洋棋人工智慧系统便可以自行對弈而提昇棋藝。
適應型系統與治理的密切關聯性如示：

• 人工智慧系统潛在地需要具備一些能力，以供深入瞭解其功能；如：處於評鑑或稽核的情況時；
• 既然人工智慧系统功能會與時俱進，為了確保該系统仍然運作在設定的邊界線內，可能需要進一步評鑑，或其他管制方式；
• 人工智慧系统的適應性足以增進組織敏捷性，從而擁有策略性優勢；
• 人工智慧系统可以未受注意地迴避既有的治理管制措施。管理階層須確保人工智慧系统明確地遵循既有的治理管制措施。

人工智慧生態系統

為了瞭解人工智慧系统各項因素及其與組織的相關性，仍需對人工智慧生態系統採取層次性方式。
圖1 展示人工智慧生態系统廣泛的不同技術光譜，另見ISO/IEC 22989 的圖6詳細顯示，涵蓋了機器學習要素和計算式資源。凡是採用人工智慧技術，便為整體人工智慧系統的功能事項添加新的機器學習要素，故從治理考量亦須納入管理。

圖1：ISO/IEC 22989圖6人工智慧生態系统的簡化版

人工智慧生態系统的層次性表達方式，有助於描繪每一層次，及當責範圍，且係基於組織在。生態系统的角色，和治理機構當責的合宜層次。

人工智慧生態系统的複雜性質代表照料的範圍亦隨之變化，基於下列多個參數：

• 人工智慧系统的預期目的；
• 人工智慧的類型；
• 採用之人工智慧生態系统的功能層次；
• 人工智慧系统可以交付的潛在利益；
• 人工智慧系统可能伴隨出現的新風險；
• 實施人工智慧系统的階段。

人工智慧價值鏈中，組織所扮演的角色，如：人工智慧供應者、人工智慧生產者、顧客；參見ISO/IEC 22989, 第5.17節。

上述參數將依照組織的目的及目標而變化，亦可因寧可採用人工智慧系统而非其它資訊技術的決策而變化。通常在發展及展開人工智慧系统前期便須考慮此等參數，然而，即使在整個人工智慧系統生命週期組織亦須考慮各類參數。

圖2展示人工智慧系統生命週期的初期至退休的各階段。一旦組織決定採用人工智慧，此圖能協助治理機構識別起結點或「門檻」，在該等位置會出現治理時的關鍵問題，需要治理機構予以關切處理。

將上述人工智慧系統生命週期的納入考量，組織便可以開始瞭解如何拓展既有的治理機制。此處的生命週期有助於組織決定，按照擇定的人工智慧系統依賴的資料，須增加何種治理。ISO/IEC 38505系列標準討論資料的治理。生命週期亦有助於治理機構識別當組織處於某個階段時，可能會曝露在何種增加的風險，從而做出決定，如何管理該等風險。

詳細內容參見標準原文。
（未完，待續）