AI 合規：治理 AI 系統，並運用 AI 執行合規工作

AI 合規包含兩層意義：一是持續確保組織所建置或使用的 AI 系統符合適用的法律、標準與內部政策；二是運用 AI 處理例行且大量的合規工作。

本文涵蓋這兩層意義：AI 合規所因應的風險、主要框架、如何建立合規計畫、AI 代理程式的控制措施，以及 AI 能在哪些方面協助合規團隊。文末並列出購買合規工具前應提出的問題。

什麼是 AI 合規？

AI 合規指的是兩件事：讓 AI 系統符合 AI 法規所訂定的規則，以及運用 AI 執行合規工作。

就第一層意義而言，AI 合規確保 AI 系統在整個 AI 生命週期中（從訓練資料到效能與使用）遵循法律、法規、道德標準與內部政策。

舉例來說，紐約市第 144 號地方法規定，使用自動化聘僱決策工具的雇主必須讓該工具在使用的一年內接受偏見稽核、公開稽核相關資訊，並通知員工或求職者。

AI 法規遵循是一項持續性的工作，因為 AI 應用程式會更新、其處理的資料會改變，法規也會不斷演進。

就第二層意義而言，合規團隊會運用 AI 處理例行且大量的工作，例如監控交易、審閱文件，以及追蹤法規變化。

舉例來說，部分金融機構會運用 AI 審查交易並減少交易監控警示中的誤報，再由分析師判斷哪些警示需要提交可疑活動報告。

AI 合規、AI 治理與 AI 風險管理的比較

這三個詞彙彼此重疊，但涵蓋的範圍不同：治理負責訂定規則，風險管理負責找出可能出錯之處，合規則確保規則得到遵守。

AI 合規為何重要

落實 AI 合規能降低遭受罰款的風險、保護 AI 所處理資訊之當事人的隱私，並讓組織在接受稽核時能夠說明其 AI 系統的使用情形。

• 法規罰則：根據歐盟 AI 法案，使用被禁止的 AI 實務（例如在工作場所推斷員工的情緒）最高可處 3,500 萬歐元或全球年營業額 7% 的罰款。提供者與部署者若違反該法案，最高可處 1,500 萬歐元或 3% 的罰款。
• 資料保護：處理個人資料的 AI 系統須受資料保護法規約束，例如歐盟的 GDPR。這包括含有個人資料的訓練資料、提示詞與輸出內容。
• 稽核準備：記錄您使用了哪些 AI 系統、由誰核准，以及如何監控這些系統，能讓您向監管機關、稽核人員與客戶提出說明。

AI 合規所因應的主要風險

AI 合規主要因應五大風險：演算法偏見、缺乏可解釋性、受監管流程中的幻覺、資料隱私與外洩，以及影子 AI。

放大

以下說明這些主要風險的表現形式，以及控制這些風險的措施範例：

• 演算法偏見：模型重現了訓練資料中對特定群體不利的模式。例如，招募工具可能會根據年齡或族裔的替代指標（如畢業年份或郵遞區號），給予應徵者較低的排名。偏見稽核會比較不同人口群體之間的結果，有助於偵測這類模式。
• 缺乏可解釋性：組織無法說明模型是如何做出決策的。如果貸款機構無法解釋模型為何拒絕一筆貸款申請，就無法為該結果提出辯護。組織可透過記錄模型的輸入內容與決策邏輯，並選擇輸出可追溯的模型來預防此問題。
• 受監管流程中的幻覺：生成式 AI 工具信心十足地陳述錯誤資訊。例如，律師可能會請 AI 工具提供支持某項論點的判例，卻收到引用根本不存在之法院判決的結果。要求每項輸出都附上來源，並由具備資格的人員加以查核，就能發現這類錯誤。
• 資料隱私與外洩：機密資訊或客戶資訊流入組織無法控管的工具。例如，員工可能將客戶紀錄貼到會保留輸入內容以訓練未來模型的公開 AI 工具中。只使用在訓練與資料保留方面有合約限制的核准工具，即可降低此風險。
• 影子 AI：員工使用組織未核准或無法掌握的 AI 工具。在 2026 年的一項 Compliance Week 調查中，42% 的受訪者表示有員工未受管理地使用 AI。可行的解決方案包括搭配快速 AI 工具核准流程的核准工具清單，以及網路閘道。

主要 AI 合規框架

AI 合規以具約束力的 AI 治理框架（例如歐盟 AI 法案）以及自願性框架為依據；後者如 NIST AI 風險管理框架與 ISO/IEC 42001，可協助組織符合前者的要求。

歐盟 AI 法案

歐盟 AI 法案（(EU) 2024/1689 號規則）對 AI 監管採取以風險為基礎的方法：部分實務遭到全面禁止，高風險系統受到嚴格限制，其他系統則只須遵守寬鬆的透明度規則。只要「AI 系統產生的輸出在歐盟境內使用」，該法案即適用於世界各地的提供者與部署者。

歐盟 AI 法案下的義務取決於組織的角色：

• 開發高風險 AI 系統或以自身名義將其推向市場者（提供者），必須完成符合性評鑑、標示 CE 標誌、登記該系統、保存技術文件，並在發布後持續監控。
• 使用他人所建置之系統者（部署者），必須遵循提供者的說明、指派具備「必要能力、訓練與權限」的人員負責監督、保存日誌至少六個月，並告知員工及其他受其決策影響的人。

放大

該法案正分階段實施。禁止的實務、AI 素養與通用 AI 規則自 2025 年起已開始適用；高風險義務則於 2027 年 12 月 2 日開始適用，而內建於受歐盟產品安全法規範之產品中的 AI，則自 2028 年 8 月 2 日開始適用。

關於品質管理系統的 EN 18286:2026 是第一個支援該法案的歐洲標準。遵循此標準的提供者將被推定符合該法案的品質管理要求。

NIST AI 風險管理框架

於 2023 年 1 月發布的 NIST AI RMF（風險管理框架）是美國的自願性框架，以四項功能為核心：治理（Govern）、映射（Map）、衡量（Measure）與管理（Manage）。

其於 2024 年 7 月發布的生成式 AI 概況（Generative AI Profile），將此框架應用於生成式 AI 風險。

ISO/IEC 42001

ISO/IEC 42001 是 AI 管理系統的國際標準，涵蓋管控負責任 AI 開發與使用的政策、角色與流程。認證屬自願性質，由獨立的驗證機構核發，而非由 ISO 本身核發。

證書涵蓋的是組織的管理系統，而非特定的 AI 產品。

適用於 AI 的美國及產業規範

美國沒有單一的聯邦 AI 法律。相關規則來自各城市、各州，以及適用於 AI 的現行法律與法規。

舉例來說，科羅拉多州將於 2027 年 1 月 1 日生效的 SB26-189 規範自動化決策技術；而隱私法規，例如《加州消費者隱私法》（CCPA）或 HIPAA，則在 AI 處理受保護資料時適用。

如何建立 AI 合規計畫

建立 AI 合規計畫包含六個步驟：盤點您的 AI 系統、依風險加以分類、將控制措施對應至適用規則、指派負責人、記錄每個系統，並以稽核人員可查核的紀錄持續監控。

放大

以下每個步驟最後都會列出其產生的紀錄：

1. 盤點每個 AI 系統。列出組織建置、購買或使用的系統，包括現有軟體中的 AI 功能，以及員工未經核准即採用的工具。記錄每個系統的用途、使用者，以及其接觸的資料。
   產出：AI 清冊。
2. 依風險分類每個使用案例。依據系統可能造成的危害為其評級，可採用如歐盟 AI 法案風險層級之類的分級機制。例如，設定壽險保費的工具依該法案屬於高風險，而摘要內部會議的工具則不屬於高風險。
   產出：風險登錄表。
3. 將控制措施對應至適用規則。列出適用於每個系統的法律、標準與內部政策，以及滿足各項合規要求的控制措施。例如，有文件記錄的人工審查，有助於滿足歐盟 AI 法案對高風險系統的人工監督要求，以及 NIST AI RMF 對有文件記錄之人工監督流程的要求。
   產出：控制措施對應表。
4. 指派負責人與人工監督點。為每個系統指定一位負責人，並決定由人員在哪些環節審查其輸出。例如，法務與合規部門負責相關義務，資安部門負責技術控制措施，業務負責人負責各自的使用案例，並由一位高階主管負整體責任。確保組織內的人員都了解相關事項，並建立明確的溝通管道。
   產出：每個系統的指定負責人。
5. 記錄每個系統。以模型卡與影響評估等格式，記錄每個系統的用途、訓練資料、測試及已知限制。高風險系統的提供者還必須依歐盟 AI 法案附件四準備技術文件。
   產出：一套系統文件。
6. 監控、記錄日誌並保存證據。從一開始就將日誌設計為稽核證據，以呈現系統做了什麼以及由誰審查。歐盟 AI 法案要求高風險系統在其整個生命週期內自動記錄事件。稽核軌跡應擷取：
   • 使用中的模型與版本
   • 輸入與輸出內容，或其定義的樣本
   • 訓練或微調資料
   • 人工審查點及其結果
   • AI 代理程式執行的動作及其使用的權限
   • 每筆紀錄的保存期限

產出：監控紀錄與稽核軌跡。

專門的 AI 合規工具（例如 IBM watsonx.governance 與 OneTrust AI Governance）可以接手此計畫的部分工作，包括 AI 清冊、依歐盟 AI 法案進行的風險評估，以及文件編製。

如何核准員工可使用的 AI 工具

核准 AI 工具前，請檢查四件事：

• 資料存取：該工具可讀取哪些檔案、系統與已連結的知識庫，以及其中是否含有可能遭其外洩的個人資料。
• 以輸入內容進行訓練：供應商是否使用提示詞、檔案或輸出內容來訓練其模型，以及您與供應商簽訂的合約是否禁止此做法。
• 資料保留：供應商保留提示詞、檔案與對話記錄的時間長短，以及您能否縮短保留期限。
• 託管與傳輸：供應商在何處儲存與處理資料，包括傳輸至您所在區域以外的情形。

AI 代理程式的合規控制措施

AI 代理程式需要比聊天工具更多的控制措施，因為它們會自行決定執行步驟，並透過被授予的工具與權限採取行動。以下三項控制措施可加以管控：

• 最小權限存取：只授予 AI 代理程式完成任務所需的工具與權限。根據 OWASP Top 10 for LLM Applications 2026，過度代理（Excessive Agency），即 AI 代理程式能做的事超出任務所需，是主要的安全風險之一。
• 記錄每項動作：記錄每次工具呼叫、存取的資料與使用的權限，以追溯 AI 代理程式做了什麼以及為誰而做。
• 高影響動作須經人工核准：對於會將資料傳送至組織外部、移轉資金或無法復原的步驟，須由人員確認。

AI 如何應用於合規工作

合規與風險管理團隊運用 AI 監控控制措施、評估風險、追蹤法規變化、審閱文件，以及分流金融犯罪警示。

在 2026 年一項針對 193 位合規、道德、風險與稽核領導者的 Compliance Week 調查中，超過 83% 的受訪者表示有使用 AI，近 40% 表示其公司已將 AI 部署於風險評估與監控。

合規領域常見的 AI 使用案例包括：

• 持續合規監控與證據蒐集：AI 執行檢查並蒐集證明其有效運作的證據（例如工廠中逾期未做的設備安全檢查）。
• 風險評估與優先排序：AI 依風險為事業單位或第三方排序（例如面臨新制裁或訴訟風險的供應商）。
• 法規變化監控：AI 追蹤監管機關的發布內容並摘要其變化（例如修訂後的反賄賂指引降低了費用政策中的禮品上限）。
• 文件與政策審閱：AI 根據要求比對合約與政策（例如缺少稽核權條款的供應商合約）。
• 金融犯罪篩檢：AI 分流交易監控與客戶審查警示（例如與制裁名單姓名相符、但實為不同人的情況）。

用於合規的 AI 需要與其他 AI 系統相同的治理。如英國金融行為監理總署於 2026 年 10 月所述：「企業須對其開發、採購與部署的 AI 系統負責，包括其輸出與結果」，並警告不要讓人工審查淪為「『打勾了事』的形式」。

實務上，AI 工具可處理證據蒐集或標記法規變化等例行任務，但不應處理需承擔法律責任的決策，例如決定是否申報可疑活動，或如何設計政策。

Perplexity Enterprise 的資料控管

Perplexity Enterprise 為管理員提供涵蓋輸入內容訓練、資料存取與資料保留的控管機制：

• 不以您的資料進行訓練：Perplexity 絕不使用企業內容訓練其 AI 模型，且與第三方模型供應商簽訂的協議也禁止對方以這些內容進行訓練。
• 存取控管：透過 SSO、SCIM 與角色型權限，設定哪些人可以上傳檔案及分享答案。
• 資料保留與稽核記錄：附加至工作階段的檔案會在七天後刪除。擁有 50 個以上席位，或至少一個 Enterprise Max 席位的組織，還可以設定工作階段的保留期限，並取得使用者活動的稽核記錄。
• 認證：Perplexity 已取得 SOC 2 Type II 認證並符合 GDPR 規範，且僅在簽署商業夥伴協議（Business Associate Agreement）的前提下，才允許處理受保護的健康資訊。

如需了解這些控管機制的操作導覽，請聯絡我們的業務團隊預約專屬示範。

常見問題

什麼是歐盟 AI 合規？

歐盟 AI 合規是指依據您的角色（提供者或部署者）及各系統的風險等級，履行歐盟《人工智慧法》（EU AI Act）規定的義務。這些義務分階段適用，其中高風險相關義務自 2027 年 12 月 2 日起生效。

什麼是符合 HIPAA 規範的 AI？

符合 HIPAA 規範的 AI，是指在 HIPAA 針對受保護健康資訊所訂保護措施範圍內使用的工具。若供應商會儲存或處理這類資訊，美國衛生及公共服務部要求必須事先簽署商業夥伴協議。

歐盟《人工智慧法》是否適用於美國公司？

是的。《人工智慧法》涵蓋在歐盟市場推出 AI 系統的美國公司，以及 AI 輸出會在歐盟境內使用的美國公司。

AI 能取代合規人員嗎？

AI 無法取代合規人員。組織須為自身的工作負責，而 AI 技術可能出錯，因此合規人員仍需仔細審查並核准 AI 的輸出內容。