（續前篇）
| 適合一般讀者。此文僅供個人參考與資訊喚回，尚非正式或官方內容。內文引用人工智慧平臺提供資訊，經由整合篩選與文字調整。後續修訂請查閱索引官方網站。 CC BY-NC-ND。非供AI模型訓練。 |
5.2乾卦初九爻「潛龍勿用」：從GPT-4安全評鑑看人工智慧的辨物、控險與安民
所謂「辨物」，顯然不止於測試模型回答測試題的能力，還要完整辨識所有可能的失效情境、受影響的群體、最終決策權歸屬、錯誤的可見程度，以及對應的補救途徑。如果只盯着基準測試的高分，就會把模型的表面能力誤當成系統整體的可靠性；如果只對外展示成功的示範案例，就會把小範圍的可用性誤當成全場景的可部署性。因此「潛龍勿用」的本質不是原地等待，而是用完整的風險辨識取代盲目的擴張衝動，用可隨時撤回的可逆部署取代一旦上線就難以收回的不可逆接管。
5.2.2 GPT-4早期安全評鑑的真實背景
2023年3月GPT-4正式發布，這一事件的真正里程碑意義從來不是模型的多模態能力達到了新高度，而是產業界第一次把「模型發布」重新定義為「模型、產品、政策、監督機制與責任體系的整體部署」。發布之前，OpenAI聯合全球數十個獨立的安全研究團隊，超過50位AI相關專家，開展了長達6個月的封閉式紅隊安全評鑑，這正是「潛龍勿用」理念在現代AI領域的第一次大規模實踐。在評鑑階段，必須建立覆蓋所有高風險領域的能力測試清單，逐一驗證模型是否存在危險的湧現能力，把過去隱藏在黑箱中的未知能力全部暴露在陽光下。
5.2.3 潛龍治理第一維度：辨物——摸清AI的真實能力邊界
「潛龍勿用」的第一層內涵是「辨物」，也就是在大規模部署之前，先完全摸清AI的所有能力邊界。過去很多AI企業的開發邏輯是「先上線再補漏洞」，但前沿大模型的能力太過強大，一旦上線後才發現它擁有設計危險病原體、自動開發惡意病毒、操縱公眾輿論的能力，後果將不堪設想。在評鑑期間，GPT-4完全不對外公開，所有測試都在物理隔離的實驗室環境中進行，來自網路安全、生物安全、化學安全、社會學、心理學、信任安全及國際安全領域等不同領域的專家，針對幻覺、有害內容生成、偏見輸出、錯誤資訊傳播、隱私洩漏、網路安全風險、經濟衝擊、人類過度依賴以及風險性湧現行為等所有可能的風險點逐一排查，用盡各種方法嘗試誘導模型輸出有害內容，測試它是否擁有未被預期的危險能力，最終累計發現了數十個潛在的嚴重風險，在正式上線前完成了絕大部分的安全修復。評鑑結果直接推動了從預訓練資料篩選、後訓練拒答機制優化，到API權限管控制度的全鏈結路線改造，最終形成大語言模型層級降低危險傾向、產品層控制訪問權限、治理層管理事件追蹤的三層控制架構。
5.2.4 潛龍治理第二維度：控險——從源頭封堵高危風險
在完全摸清AI的能力邊界之後，「潛龍勿用」的第二層內涵是「控險」，也就是在模型正式對外公開之前，從源頭上把所有已經發現的高危風險封堵住。在GPT-4的安全評鑑過程中，研究團隊發現模型可以根據公開的學術文獻，自動設計出從未被發現的新病原體的基因序列，隨後立刻針對這個風險進行了專門的價值對齊訓練，徹底關閉了模型輸出生物武器設計方案的通道。這種在潛龍階段就完成的風險修復，成本遠比模型上線後引發事故再補救低一萬倍。
5.2.5 潛龍治理第三維度：安民——避免技術引發社會恐慌
「潛龍勿用」的第三層內涵是「安民」，也就是在技術還不夠成熟的時候，不對社會進行過度的誇大宣傳，避免引發不必要的社會恐慌。在GPT-4的評鑑階段，開發團隊沒有提前向公眾渲染「AI即將取代所有人類」的焦慮，也沒有隱瞞模型存在的風險，後續GPT-4o的進化進一步把風險評鑑從單純的文字領域，擴展到未經授權語音生成、說話者身份冒認、敏感特徵推論、情緒感知、深度偽造生成等多模態全新風險領域，並且正式引入準備度框架機制，將網路安全、生物威脅及模型自主能力等關鍵風險分類標註為低、中、高等不同等級，明確規定只有風險緩解後整體風險等級降到中等及以下的模型，才允許對外開放部署。在評鑑過程亦及時向監管機構通報測試進度，邀請社會各界的代表參與到安全評估的過程中，讓公眾逐步理解AI的能力與邊界，避免技術突然降臨引發社會層面的適應危機。
5.2.6 反對意見回應：審慎不會錯失技術窗口
很多產業界人士批評「潛龍勿用」式的封閉評鑑會拖慢技術的發布速度，讓其他國家搶佔技術先機。但事實上，當年GPT-4的審慎評鑑，不僅沒有讓技術失去競爭力，反而因為提前修復了大量風險，讓模型上線後沒有引發大規模的安全事故，獲得了公眾更高的信任度。反觀很多搶先上線的未經嚴格測試的大模型，上線後頻繁出現生成謠言、誤導公眾的事故，反而引發了全社會對AI的抵觸情緒，最終阻礙了整個產業的健康發展。審慎從來不是保守，而是為了讓技術走得更穩更遠。
5.2.7 行業推廣：全球前沿大模型的強制預部署評鑑機制
如今「潛龍勿用」的治理理念，已經從單個企業的實踐升級為全球通用的治理規則：所有開發超過一定算力門檻的前沿通用大模型的機構，對應到法規層面，歐盟AI Act明確將有害操縱、利用弱勢群體、社會評分、未經授權公共場所生物識別等用途列為不可接受風險，直接禁止部署；所有高風險AI系統都必須完成強制風險評估與緩解措施，使用高品質訓練資料，保留全開發過程的活動記錄，配置完整人類監督機制。這套制度和「辨物安民」的初衷完全契合：法律從來不接受模型自稱中立，而是嚴格按照實際用途、真實影響與背後的權力關係判斷監管強度。所有在招聘、教育、信貸、醫療、司法及公共服務場景落地的AI系統，任何一個細小的錯誤都可能直接改變使用者的人生機會與基本權利，絕對不能用「技術中立」的藉口逃避責任。且在公開部署前，必須向監管機構提交由獨立第三方完成的完整安全評鑑報告，只有確認所有高危風險都得到有效管控之後，才能獲得上線許可。這一機制把「潛龍勿用」的古老智慧，變成了現代AI產業的剛性制度，從源頭上避免了前沿AI技術「裸奔上線」帶來的災難性風險。
5.2.8 潛龍階段的價值：為AI的騰飛打好基礎
乾卦的初九爻是整個乾卦的起點，「潛龍勿用」的階段雖然不顯山露水，卻決定了後面整個九二「見龍在田」、九五「飛龍在天」的所有發展空間。沒有在潛龍階段完成的嚴格安全評鑑，後面AI的每一步發展都會隱藏著隨時可能爆炸的定時炸彈。產業在落地這條原則的過程中，必須建立起清晰的階段控制閘門：研發前期先搞清楚模型能力是否已經超出現有既有的風險防控框架，提前引入專家參與開展早期紅隊測試；訓練與後訓練階段逐個排查哪些資料與調校步驟會造成偏差或危險行為，通過資料篩選、拒答訓練、偏差與幻測試從源頭降低風險；上線前由獨立第三方機構開展評鑑與壓力測試，確認緩解後的整體風險已經低於設定的部署門檻，才能啟動分階段發布；運行期間持續記錄日誌、開展濫用監督，嚴格落實事件通報機制，一旦發現缺陷真實出現在現實場景中，立刻執行模型撤回與版本修補；事故發生後第一時間釐清誰受影響、誰負責、如何補救，透過根因分析、受害者通知、補償賠償，最終推動整個系統的設計與政策修訂。正是這段看似緩慢的審慎時期，為AI後續的健康發展鋪平了道路，讓這條未來的飛龍，最終能夠在安全的天空中自由翱翔，而不是衝進人群帶來災難。
人工智慧真正成熟的標誌，從來不是它能回答多少複雜問題，而是人類在能力不斷上升的同時，仍舊同步掌握緊急停止、權限限制、責任追溯與系統修正的全部權力。先辨清楚事物的本質，再談部署；先把風險管控到位，再談擴張；先讓民眾安居樂業，再談產業功績——這才是乾卦初九爻留給AI產業最具現代性的指引。
5.3、乾卦九三爻「終日乾乾，夕惕若，厲無咎」：從AI Act透明度治理看人工智慧的持續監控與可解釋性
5.3.1 九三爻義溯源：高位時刻保持警惕的終身修煉
乾卦九三爻爻辭所言「君子終日乾乾，夕惕若，厲無咎」，很多人誤解為要求人整天陷入焦緊張狀態，但它的真實含義遠非如此：描述的是君子已經小有成就、站在關鍵的上升節點時，白天時刻保持勤奮進取，夜晚也保持警惕自省，哪怕身處危險的環境之中，最終也不會犯下大的過錯。兩者合一，就構成了「先行動、再查證；先部署、再監督；先使用、再問責」的完整封閉治理迴圈。放到人工智慧領域，這裡爻辭的「終日」不是要求操作員永遠盯着螢幕不放，而是對應AI大規模部署之後的治理邏輯：把全生命週期的監控機制、可解釋性要求、人類覆核流程、事件回報機制與設計修正步驟，直接嵌入AI系統的底層設計當中。AI的訓練資料、使用者群體、攻擊手法與實際用途永遠處於持續變動的狀態，哪怕系統初始驗收完全符合標準，也不可能永遠保持安全；所謂「貞吉」（穩定正向的結果）永遠來自可重複的定期查證，而不是對模型能力毫無邊際的盲目信仰。
5.3.2 歐盟AI Act透明度治理的核心突破
2024年8月1日歐盟《人工智慧法案》正式生效，標誌著AI治理終於從零散的自願性原則，升級為具有法律效力的全生命週期的風險分級框架與透明度治理制度。在此之前，全球多數AI監管規則都把重點放在上線前的審核，默認AI上線後就會一直保持安全穩定，但現實中大量案例證明，AI系統在長期運行過程中，會因為數據漂移、使用者惡意誘導、環境變化等因素，逐步出現偏離初始設定的風險。AI Act第一次把持續透明度監管作為剛性要求，強制所有高風險AI系統在上線後，必須全程保持可解釋、可追溯、可監控。
5.3.3 九三治理第一層：終日乾乾——實時的動態風險監控
歐盟官方當時就明確指出，過去很多AI系統難以說明決策或預測的形成原因，導致招聘資格審核、公共福利申請這類高影響場景當中的不公平待遇，根本難以被發現和追溯。「終日乾乾」的第一層含義，就是對運行中的高風險AI系統進行24小時不間斷的動態監控。因此AI Act不只規範模型「能做什麼」，更進一步嚴格規範了提供者與部署者如何記錄全過程數據、開展持續監督、向使用者解釋決策邏輯，以及及時處理錯誤的全部義務。AI Act明確要求，所有用於醫療診斷、司法量刑、招聘篩選、信貸審批的高風險AI，必須實時記錄所有的輸入數據、輸出結果、決策邏輯軌跡，這些記錄至少要保存5年以上，隨時可以向監管機構與使用者開放。一旦系統出現偏離正常運行區間的異常行為，監控系統會立刻發出警報，自動啟動應急響應機制，把風險消滅在萌芽狀態。
（見續篇）
沒有留言:
張貼留言