AI 合規：管治 AI 系統及運用 AI 處理合規工作

AI 合規包含兩層意思：一是持續確保貴機構開發或使用的 AI 系統符合適用的法律、標準及內部政策；二是利用 AI 處理例行、大量的合規工作。

本文涵蓋這兩層意思：AI 合規所應對的風險、主要框架、如何建立合規計劃、AI 代理程式的管控措施，以及 AI 在哪些方面能協助合規團隊。文末列出購買合規工具前應提出的問題。

甚麼是 AI 合規？

AI 合規是指兩件事：令 AI 系統符合 AI 法規所訂的規則，以及利用 AI 進行合規工作。

就第一層意思而言，AI 合規確保 AI 系統在整個 AI 生命週期中（從訓練數據到效能及使用）遵守法律、法規、道德標準及內部政策。

例如，紐約市《第 144 號地方法》規定，使用自動化僱傭決策工具的僱主須在使用該工具的一年內為其進行偏見審計、公開審計資料，並通知僱員或求職者。

AI 法規合規工作需要持續進行，因為 AI 應用程式會更新、其處理的數據會改變，而法規亦會不斷演變。

就第二層意思而言，合規團隊利用 AI 處理例行、大量的工作，例如監察交易、審閱文件及追蹤法規變更。

例如，部分金融機構會利用 AI 審查交易，並在分析師決定哪些警示需要提交可疑活動報告之前，減少交易監察警示中的誤報。

AI 合規、AI 管治與 AI 風險管理的分別

這三個術語互有重疊，但涵蓋範圍不同：管治負責制定規則，風險管理負責找出可能出錯之處，而合規則確保規則得到遵守。

為何 AI 合規如此重要

實現 AI 合規可減低貴機構被罰款的風險，保障其資料經由 AI 處理的人士的私隱，並讓貴機構在審計時能交代其使用 AI 系統的情況。

• 監管罰則：根據歐盟《人工智能法》，使用被禁止的 AI 做法（例如在工作中推斷僱員的情緒）可被罰款高達 3,500 萬歐元或全球年營業額的 7%。提供者及部署者如違反該法，可被罰款高達 1,500 萬歐元或 3%。
• 資料保障：處理個人資料的 AI 系統須受資料保障法例規管，例如歐盟的 GDPR。這包括含有個人資料的訓練數據、提示及輸出內容。
• 審計準備：記錄您使用哪些 AI 系統、由誰批准，以及如何監察這些系統，讓您能向監管機構、審計師及客戶作出交代。

AI 合規應對的主要風險

AI 合規應對五大主要風險：演算法偏見、缺乏可解釋性、受規管流程中的幻覺、數據私隱與外洩，以及影子 AI。

放大

以下是這些主要風險的表現形式，以及控制這些風險的管控措施例子：

• 演算法偏見：模型重現其訓練數據中對某些群體不利的模式。例如，招聘工具可能根據年齡或種族的替代指標（例如畢業年份或郵遞區號）而將候選人排得較低。偏見審計會比較不同人口群體的結果，有助偵測這些模式。
• 缺乏可解釋性：機構無法說明模型如何作出決定。如果貸款機構無法解釋模型為何拒絕一筆貸款，就無法為該結果辯護。機構可透過記錄模型輸入及決策邏輯，並選擇輸出可追溯的模型來防範此問題。
• 受規管流程中的幻覺：生成式 AI 工具自信地陳述虛假內容。例如，律師可能要求 AI 工具提供支持某論點的判例法，卻收到並不存在的法院裁決引文。要求每項輸出均附上來源，並由合資格人士核實，便能發現這類錯誤。
• 數據私隱與外洩：機密或客戶資料流入機構無法控制的工具。例如，僱員可能將客戶記錄貼到會保留輸入內容以訓練未來模型的公開 AI 工具。只使用在訓練及數據保留方面設有合約限制的已批准工具，可減低風險。
• 影子 AI：僱員使用機構未批准或無法察覺的 AI 工具。在 2026 年一項 Compliance Week 調查中，42% 的參與者表示僱員存在未受管理的 AI 使用情況。可行的解決方案包括配合快速 AI 工具審批流程的已批准工具清單，以及網絡閘道。

主要 AI 合規框架

AI 合規借鑑具約束力的 AI 管治框架（例如歐盟《人工智能法》），以及有助機構遵守這些框架的自願性框架（例如 NIST AI 風險管理框架及 ISO/IEC 42001）。

歐盟《人工智能法》

歐盟《人工智能法》（規例 (EU) 2024/1689）對 AI 監管採取以風險為本的方針：部分做法被完全禁止，高風險系統面對嚴格限制，其他系統則只須遵守寬鬆的透明度規則。該法適用於世界各地的提供者及部署者，只要「AI 系統產生的輸出在歐盟境內使用」。

歐盟《人工智能法》下的義務取決於機構的角色：

• 開發高風險 AI 系統或以自己名義將其推出市場的機構（提供者），必須完成合格評定、加上 CE 標誌、登記該系統、保存技術文件，並在發佈後持續監察。
• 使用他人所建系統的機構（部署者），必須遵從提供者的指示、指派具備「必要能力、培訓及權限」的人員負責監督、保存日誌至少六個月，並通知員工及其他受系統決定影響的人士。

放大

該法正分階段實施。有關被禁止做法、AI 素養及通用 AI 的規則自 2025 年起已適用，而高風險義務將於 2027 年 12 月 2 日開始生效；至於內置於受歐盟產品安全法例涵蓋產品中的 AI，相關義務則於 2028 年 8 月 2 日開始生效。

關於品質管理系統的 EN 18286:2026 是首個支援該法的歐洲標準。遵循此標準的提供者會被推定符合該法的品質管理要求。

NIST AI 風險管理框架

於 2023 年 1 月發佈的 NIST AI RMF（風險管理框架）是美國的自願性框架，圍繞四大功能建立：管治（Govern）、映射（Map）、衡量（Measure）及管理（Manage）。

其於 2024 年 7 月推出的生成式 AI 概況，將該框架應用於生成式 AI 風險。

ISO/IEC 42001

ISO/IEC 42001 是 AI 管理系統的國際標準，涵蓋規範負責任 AI 開發及使用的政策、角色及流程。認證屬自願性質，由獨立認證機構頒發，而非由 ISO 本身頒發。

證書涵蓋的是機構的管理系統，而非特定的 AI 產品。

適用於 AI 的美國及行業規則

美國並無單一的聯邦 AI 法律。相關規則來自城市、州份，以及適用於 AI 的現行法律及法規。

例如，科羅拉多州將於 2027 年 1 月 1 日生效的 SB26-189 規管自動化決策技術；而每當 AI 處理受保護數據時，《加州消費者私隱法》（CCPA）或 HIPAA 等私隱法例便會適用。

如何建立 AI 合規計劃

建立 AI 合規計劃涉及六個步驟：盤點您的 AI 系統、按風險分類、將管控措施對應適用規則、指派負責人、為每個系統建立文件，以及透過審計師可查核的記錄進行監察。

放大

以下每個步驟最後均列出其產生的記錄：

1. 盤點每個 AI 系統。列出貴機構開發、購買或使用的系統，包括現有軟件內的 AI 功能，以及僱員未經批准而採用的工具。記錄每個系統的用途、使用者及涉及的數據。
   產出：AI 清單。
2. 按風險為每個用例分類。使用歐盟《人工智能法》的風險等級等方案，按每個系統可能造成的危害為其評級。例如，根據該法，釐定人壽保險保費的工具屬高風險，而總結內部會議的工具則不屬高風險。
   產出：風險登記冊。
3. 將管控措施對應適用規則。列出適用於每個系統的法律、標準及內部政策，以及符合每項合規要求的管控措施。例如，有記錄的人工審查有助符合歐盟《人工智能法》對高風險系統的人工監督要求，以及 NIST AI RMF 對有記錄人工監督流程的要求。
   產出：管控對照表。
4. 指派負責人及人工監督節點。為每個系統指定負責人，並決定由人員審查其輸出的環節。例如，法律及合規部門負責相關義務，保安部門負責技術管控，業務負責人負責其用例，並由一名行政人員承擔整體責任。確保整個機構的人員都知悉相關安排，並建立清晰的溝通渠道。
   產出：每個系統的指定負責人。
5. 為每個系統建立文件。以模型卡及影響評估等格式，記錄每個系統的用途、訓練數據、測試及已知限制。高風險系統的提供者亦必須按照歐盟《人工智能法》附件 IV 準備技術文件。
   產出：一套系統文件。
6. 監察、記錄日誌及保存證據。從一開始就將日誌設計為審計證據，以顯示系統做了甚麼及由誰審查。歐盟《人工智能法》規定高風險系統須在其整個生命週期內自動記錄事件。審計追蹤應記錄：
   • 所使用的模型及版本
   • 輸入及輸出，或其指定樣本
   • 訓練或微調數據
   • 人工審查節點及其結果
   • AI 代理程式採取的行動及其使用的權限
   • 每項記錄的保存期限

產出：監察記錄及審計追蹤。

專門的 AI 合規工具，例如 IBM watsonx.governance 及 OneTrust AI Governance，可接手此計劃的部分工作，包括 AI 清單、針對歐盟《人工智能法》的風險評估，以及文件記錄。

如何批准僱員可使用的 AI 工具

在批准 AI 工具之前，請檢查以下四項：

• 數據存取：該工具可讀取哪些檔案、系統及已連接的知識庫，以及其中是否存有可能被其洩露的個人資料。
• 以輸入內容進行訓練：供應商是否使用提示、檔案或輸出內容訓練其模型，以及您與供應商的合約是否禁止此做法。
• 數據保留：供應商保存提示、檔案及對話記錄的時間，以及您能否縮短保存期。
• 託管及傳輸：供應商在何處儲存及處理數據，包括傳輸至您所在地區以外的情況。

AI 代理程式的合規管控措施

AI 代理程式需要比聊天工具更多的管控措施，因為它們會自行決定步驟，並透過獲授予的工具及權限行事。以下三項管控措施可加以約束：

• 最小權限存取：只給予 AI 代理程式執行任務所需的工具及權限。根據 OWASP Top 10 for LLM Applications 2026，過度代理（Excessive Agency），即 AI 代理程式可執行的操作超出任務所需，是首要保安風險之一。
• 記錄每項操作：記錄每次工具調用、存取的數據及使用的權限，以追溯 AI 代理程式做了甚麼及為誰而做。
• 高影響操作需人工批准：對於會將數據傳送至機構以外、轉移資金或無法撤銷的步驟，須由人員確認。

AI 如何應用於合規工作

合規及風險管理團隊利用 AI 監察管控措施、評估風險、追蹤法規變更、審閱文件，以及分流金融罪行警示。

在 2026 年一項針對 193 名合規、道德、風險及審計領袖的 Compliance Week 調查中，超過 83% 表示有使用 AI，近 40% 表示其公司已將 AI 部署於風險評估及監察。

合規方面常見的 AI 用例包括：

• 持續合規監察及證據收集：AI 執行檢查並收集證明其有效的證據（例如工廠逾期未進行的設備安全檢查）。
• 風險評估及優先排序：AI 按風險為業務單位或第三方排序（例如面臨新制裁或訴訟風險的供應商）。
• 法規變更監察：AI 追蹤監管機構的刊物並總結變更（例如經修訂的反賄賂指引降低了開支政策中的禮品上限）。
• 文件及政策審閱：AI 會對照要求比對合約及政策（例如未設審計權條款的供應商合約）。
• 金融罪行篩查：AI 會分流處理交易監察及客戶核查警示（例如與制裁名單姓名吻合，但實為另一人的個案）。

用於合規的 AI 需要與其他 AI 系統相同的管治。正如英國金融行為監管局於 2026 年 10 月指出：「公司須為其開發、採購及部署的 AI 系統負責，包括其輸出及結果」，並警告不要讓人工審查淪為「『剔格仔』式的例行公事」。

實際上，AI 工具可處理證據收集或標示法規變更等例行工作，但不包括須承擔法律責任的決定，例如決定是否舉報可疑活動或如何設計政策。

Perplexity Enterprise 的資料控制功能

Perplexity Enterprise 為管理員提供多項控制功能，涵蓋以輸入內容進行訓練、資料存取及資料保留：

• 不會以你的資料進行訓練：Perplexity 絕不會使用企業內容訓練其 AI 模型，而其與第三方模型供應商簽訂的協議亦禁止對方以這些內容進行訓練。
• 存取控制：透過 SSO、SCIM 及基於角色的權限，設定誰可以上載檔案及分享答案。
• 保留期及審計記錄：附加至工作階段的檔案會在七天後刪除。擁有 50 個或以上席位，或至少一個 Enterprise Max 席位的機構，亦可設定工作階段保留期，並接收用戶活動的審計記錄。
• 認證：Perplexity 已獲 SOC 2 Type II 認證，符合 GDPR 規定，並僅在已簽署業務夥伴協議（Business Associate Agreement）的情況下，才允許處理受保護健康資訊。

如欲詳細了解這些控制功能，請聯絡我們的銷售團隊預約個人化示範。

常見問題

甚麼是歐盟 AI 合規？

歐盟 AI 合規是指按你的角色（提供者或部署者）及每個系統的風險級別，履行《歐盟人工智能法案》（EU AI Act）規定的義務。這些義務分階段生效，其中高風險相關責任由 2027 年 12 月 2 日起實施。

甚麼是符合 HIPAA 規定的 AI？

符合 HIPAA 規定的 AI，是指在 HIPAA 對受保護健康資訊的保障措施範圍內使用的工具。如果供應商會儲存或處理這些資訊，美國衞生及公共服務部規定須先簽署業務夥伴協議。

《歐盟人工智能法案》是否適用於美國公司？

是。《人工智能法案》涵蓋在歐盟市場推出 AI 系統的美國公司，以及其 AI 輸出會在歐盟境內使用的美國公司。

AI 能否取代合規主任？

AI 無法取代合規主任。機構須為其工作負責，而 AI 技術可能會出錯，因此合規主任仍需仔細審查並批准 AI 的輸出內容。