AIコンプライアンス：AIシステムのガバナンスとコンプライアンス業務へのAI活用

AIコンプライアンスには2つの意味があります。1つは、組織が構築または利用するAIシステムが、適用される法律、規格、社内ポリシーを満たすようにするための継続的な取り組みです。もう1つは、定型的で大量のコンプライアンス業務にAIを活用することです。

この記事では、AIコンプライアンスが対処するリスク、主要なフレームワーク、コンプライアンスプログラムの構築方法、AIエージェント向けの統制、そしてAIがコンプライアンスチームの役に立つ場面について、両方の意味から解説します。最後に、コンプライアンスツールを購入する前に確認すべき質問を紹介します。

AIコンプライアンスとは？

AIコンプライアンスとは、2つのことを指します。AI規制に定められたルールをAIシステムに満たさせること、そしてAIを使ってコンプライアンス業務を行うことです。

第一の意味では、AIコンプライアンスとは、学習データからパフォーマンスや利用に至るまで、AIライフサイクル全体を通じて、AIシステムが法律、規制、倫理基準、社内ポリシーに従うことを確保するものです。

たとえば、ニューヨーク市の地方法144号（Local Law 144）は、自動雇用決定ツールを使用する雇用主に対し、使用時点から1年以内にそのツールのバイアス監査を受けること、監査に関する情報を公開すること、そして従業員または求職者に通知することを義務付けています。

AIアプリケーションは更新され、扱うデータは変化し、規制も進化するため、AI規制へのコンプライアンスの取り組みは継続的なものになります。

第二の意味では、コンプライアンスチームは、取引のモニタリング、文書のレビュー、規制変更の追跡など、定型的で大量の業務にAIを活用します。

たとえば、一部の金融機関では、どのアラートに疑わしい取引の届出が必要かをアナリストが判断する前に、AIを使って取引をレビューし、取引モニタリングアラートの誤検知を削減しています。

AIコンプライアンス、AIガバナンス、AIリスク管理の違い

これら3つの用語は重なり合う部分がありますが、対象とする領域は異なります。ガバナンスはルールを定め、リスク管理は問題が起こり得る箇所を特定し、コンプライアンスはルールが守られていることを確保します。

AIコンプライアンスが重要な理由

AIコンプライアンスを達成することで、罰金のリスクを抑え、AIが処理する情報の対象となる人々のプライバシーを保護し、監査の際に組織がAIシステムの利用について説明できるようになります。

• 規制上の罰則：EU AI法では、職場で従業員の感情を推測するなど、禁止されたAIの行為を行った場合、最大3,500万ユーロまたは全世界年間売上高の7%の制裁金が科される可能性があります。提供者と導入者も、同法への違反に対して最大1,500万ユーロまたは3%の制裁金を科される可能性があります。
• データ保護：個人データを処理するAIシステムは、EUのGDPRなどのデータ保護法の対象となります。これには、個人データを含む学習データ、プロンプト、出力も含まれます。
• 監査への備え：どのAIシステムを使用しているか、誰が承認したか、どのようにモニタリングしているかを記録しておくことで、規制当局、監査人、顧客に説明できるようになります。

AIコンプライアンスが対処する主なリスク

AIコンプライアンスは、アルゴリズムのバイアス、説明可能性の欠如、規制対象プロセスにおけるハルシネーション、データプライバシーと漏洩、シャドーAIという5つの主なリスクに対処します。

拡大

主なリスクがどのように現れるか、またそれらを抑えるための統制の例を以下に示します。

• アルゴリズムのバイアス：モデルが、特定のグループに不利となる学習データのパターンを再現してしまうことです。たとえば採用ツールが、卒業年や郵便番号など、年齢や民族の代理指標に基づいて候補者を低く評価する場合があります。人口統計上のグループ間で結果を比較するバイアス監査は、こうしたパターンの検出に役立ちます。
• 説明可能性の欠如：モデルがどのように判断に至ったかを組織が示せない状態です。貸し手がモデルによる融資の否決理由を説明できなければ、その結果の正当性を主張できません。組織は、モデルの入力と判断ロジックを文書化し、出力を追跡できるモデルを選ぶことで、これを防ぎます。
• 規制対象プロセスにおけるハルシネーション：生成AIツールが誤った内容を自信を持って述べることです。たとえば、弁護士が主張を裏付ける判例をAIツールに尋ねたところ、存在しない判決が引用されることがあります。すべての出力に出典を求め、資格を持つ担当者がそれを検証することで、こうした誤りを発見できます。
• データプライバシーと漏洩：機密情報や顧客情報が、組織の管理外にあるツールに渡ってしまうことです。たとえば、入力内容を将来のモデルの学習に利用する公開AIツールに、従業員が顧客記録を貼り付けてしまう場合があります。学習とデータ保持について契約上の制限がある承認済みツールのみを使用することで、リスクを軽減できます。
• シャドーAI：組織が承認していない、または把握できないAIツールを従業員が使用することです。2026年のCompliance Weekの調査では、回答者の42%が従業員による管理されていないAI利用を報告しました。考えられる解決策としては、迅速なAIツール承認プロセスと組み合わせた承認済みツールリストや、Webゲートウェイなどがあります。

AIコンプライアンスの主要なフレームワーク

AIコンプライアンスは、EU AI法のような拘束力のあるAIガバナンスフレームワークと、組織がそれらを遵守するのに役立つNIST AIリスク管理フレームワークやISO/IEC 42001のような任意のフレームワークに基づいています。

EU AI法

EU AI法（規則（EU）2024/1689）は、AI規制にリスクベースのアプローチを採用しています。一部の行為は全面的に禁止され、高リスクシステムには厳しい制限が課される一方、その他のシステムには軽度の透明性ルールのみが適用されます。同法は、「AIシステムが生成した出力がEU域内で使用される」場合、所在地を問わず提供者と導入者に適用されます。

EU AI法に基づく義務は、組織の役割によって異なります。

• 高リスクAIシステムを開発する、または自社の名義で市場に投入する組織（提供者）は、適合性評価を完了し、CEマークを付し、システムを登録し、技術文書を保管し、リリース後にシステムをモニタリングする必要があります。
• 他者が構築したシステムを使用する組織（導入者）は、提供者の指示に従い、「必要な能力、訓練、権限」を持つ人に監督を割り当て、ログを少なくとも6か月間保管し、労働者およびシステムの判断の影響を受けるその他の人々に通知する必要があります。

拡大

同法は段階的に施行されています。禁止行為、AIリテラシー、汎用AIに関するルールは2025年から適用されており、高リスクに関する義務は2027年12月2日から、EUの製品安全法の対象となる製品に組み込まれたAIについては2028年8月2日から適用が始まります。

品質マネジメントシステムに関するEN 18286:2026は、同法を支える初の欧州規格です。この規格に従う提供者は、同法の品質マネジメント要件を満たしていると推定されます。

NIST AIリスク管理フレームワーク

2023年1月に公開されたNIST AI RMF（リスク管理フレームワーク）は、統治（Govern）、マッピング（Map）、測定（Measure）、管理（Manage）の4つの機能を中心に構成された、米国の任意のフレームワークです。

2024年7月に公開されたその生成AIプロファイルは、このフレームワークを生成AIのリスクに適用したものです。

ISO/IEC 42001

ISO/IEC 42001は、AIマネジメントシステムに関する国際規格であり、責任あるAIの開発と利用を統制するポリシー、役割、プロセスを対象としています。認証の取得は任意であり、ISO自体ではなく独立した認証機関によって行われます。

認証の対象は組織のマネジメントシステムであり、特定のAI製品ではありません。

AIに適用される米国および業界別のルール

米国には、AIに関する単一の連邦法はありません。ルールは、市や州、そしてAIに適用される既存の法律や規制から生じています。

たとえば、2027年1月1日に施行されるコロラド州のSB26-189は自動意思決定技術を規制しており、カリフォルニア州消費者プライバシー法（CCPA）やHIPAAなどのプライバシー法は、AIが保護対象データを処理する場合には常に適用されます。

AIコンプライアンスプログラムの構築方法

AIコンプライアンスプログラムの構築は、6つのステップで構成されます。AIシステムの棚卸し、リスクによる分類、適用されるルールへの統制のマッピング、オーナーの割り当て、各システムの文書化、そして監査人が確認できる記録によるモニタリングです。

拡大

以下の各ステップの最後に、そのステップで作成される記録を示します。

1. すべてのAIシステムを棚卸しする。組織が構築、購入、または使用しているシステムを、既存のソフトウェアに組み込まれたAI機能や、従業員が承認なしに導入したツールも含めてリストアップします。それぞれのシステムの機能、利用者、扱うデータを記録します。
   成果物：AIインベントリ。
2. 各ユースケースをリスクで分類する。EU AI法のリスク区分などの枠組みを用いて、各システムを引き起こし得る害の大きさで評価します。たとえば、生命保険料を設定するツールは同法の下で高リスクとされますが、社内会議を要約するツールはそうではありません。
   成果物：リスク登録簿。
3. 適用されるルールに統制をマッピングする。各システムに適用される法律、規格、社内ポリシーと、各コンプライアンス要件を満たす統制をリストアップします。たとえば、文書化された人間によるレビューは、高リスクシステムに対するEU AI法の人間による監督要件と、文書化された人間による監督プロセスを求めるNIST AI RMFの要請の両方を満たすのに役立ちます。
   成果物：統制マップ。
4. オーナーと人間による監督ポイントを割り当てる。すべてのシステムにオーナーを指名し、どの段階で人が出力をレビューするかを決めます。たとえば、法務とコンプライアンスが義務を、セキュリティが技術的統制を、事業部門のオーナーが自らのユースケースを担当し、1人の経営幹部が全体の説明責任を負います。組織全体の人々に周知し、明確なコミュニケーション経路を整備します。
   成果物：各システムの指名されたオーナー。
5. 各システムを文書化する。モデルカードや影響評価などの形式で、各システムの目的、学習データ、テスト、既知の制限事項を記録します。高リスクシステムの提供者は、EU AI法の附属書IVに定める技術文書も作成する必要があります。
   成果物：システム文書一式。
6. モニタリング、ログ記録、証拠の保管を行う。システムが何を行い、誰がそれをレビューしたかを示せるよう、最初から監査証拠としてログを設計します。EU AI法は、高リスクシステムに対し、そのライフサイクル全体にわたってイベントを自動的に記録することを求めています。監査証跡には、次の内容を記録する必要があります。
   • 使用しているモデルとバージョン
   • 入力と出力、またはその定められたサンプル
   • 学習データまたはファインチューニングデータ
   • 人間によるレビューのポイントとその結果
   • エージェントが実行したアクションと使用した権限
   • 各記録の保管期間

成果物：モニタリング記録と監査証跡。

IBM watsonx.governanceやOneTrust AI Governanceなどの専門的なAIコンプライアンスツールは、AIインベントリ、EU AI法に照らしたリスク評価、文書化など、このプログラムの一部を担うことができます。

従業員が使用できるAIツールを承認する方法

AIツールを承認する前に、次の4点を確認します。

• データアクセス：ツールが読み取れるファイル、システム、接続されたナレッジベースはどれか、またそれらに、ツールによって漏洩する可能性のある個人データが含まれているかどうか。
• 入力データの学習利用：ベンダーがプロンプト、ファイル、出力を自社モデルの学習に使用するかどうか、またベンダーとの契約でそれが禁止されているかどうか。
• データ保持：ベンダーがプロンプト、ファイル、会話履歴をどのくらいの期間保持するか、またその期間を短縮できるかどうか。
• ホスティングとデータ移転：ベンダーがデータを保存・処理する場所（自地域外への移転を含む）。

AIエージェントのためのコンプライアンス統制

AIエージェントは自ら手順を決定し、付与されたツールと権限を通じて行動するため、チャットツールよりも多くの統制が必要です。エージェントを適切に管理するための統制は次の3つです。

• 最小権限アクセス：エージェントには、タスクに必要なツールと権限のみを付与します。OWASP Top 10 for LLM Applications 2026によると、エージェントがタスクに必要な範囲を超えた操作を行える「過剰なエージェンシー（Excessive Agency）」は、主要なセキュリティリスクの1つです。
• すべてのアクションのログ：各ツール呼び出し、アクセスされたデータ、使用された権限を記録し、エージェントが誰のために何をしたかを追跡できるようにします。
• 影響の大きいアクションに対する人間の承認：組織外へのデータ送信、資金の移動、取り消しできない操作などのステップについては、人による確認を必須にします。

コンプライアンス業務におけるAIの活用方法

コンプライアンスチームやリスク管理チームは、統制のモニタリング、リスク評価、規制変更の追跡、文書のレビュー、金融犯罪アラートのトリアージにAIを活用しています。

コンプライアンス、倫理、リスク、監査部門のリーダー193人を対象とした2026年のCompliance Weekの調査では、83%以上がAIを使用していると回答し、40%近くが自社でリスク評価とモニタリングにAIを導入していると回答しました。

コンプライアンスにおける一般的なAIのユースケースは以下のとおりです。

• 継続的なコンプライアンスモニタリングと証拠の収集：AIがチェックを実行し、それらが機能していることの証拠を収集します（例：工場における期限を過ぎた設備安全点検）。
• リスク評価と優先順位付け：AIが事業部門や第三者をリスク別にランク付けします（例：新たな制裁や訴訟リスクを抱えるサプライヤー）。
• 規制変更のモニタリング：AIが規制当局の公表物を追跡し、変更点を要約します（例：経費規程における贈答品の上限額を引き下げる、改訂された贈収賄防止ガイダンス）。
• 文書とポリシーのレビュー：AIが契約書やポリシーを要件と照合します（例：監査権条項のないサプライヤー契約）。
• 金融犯罪スクリーニング：AIが取引モニタリングや顧客チェックのアラートをトリアージします（例：制裁リストで名前が一致したものの、別人だと判明したケース）。

コンプライアンスに使用されるAIにも、他のAIシステムと同じガバナンスが必要です。英国の金融行為規制機構（FCA）は2026年10月、「企業は、自ら開発、調達、導入するAIシステムについて、その出力と結果を含めて責任を負う」と述べ、人間によるレビューを「『形式的なチェック』作業」にしないよう警告しました。

実際には、AIツールは証拠収集や規制変更のフラグ付けといった定型的なタスクを担うことはできますが、疑わしい取引を報告するかどうかの判断やポリシーの設計方法の決定など、法的責任を伴う判断は担いません。

Perplexity Enterpriseにおけるデータ管理

Perplexity Enterpriseは、入力データの学習利用、データアクセス、データ保持に関する管理機能を管理者に提供します：

• お客様のデータを学習に使用しない：Perplexityは、エンタープライズのコンテンツをAIモデルの学習に一切使用しません。また、サードパーティのモデルプロバイダーとの契約により、プロバイダーがこれらのコンテンツを学習に使用することも禁止されています。
• アクセス制御：SSO、SCIM、ロールベースの権限により、ファイルのアップロードや回答の共有を行えるユーザーを設定できます。
• データ保持と監査ログ：セッションに添付されたファイルは7日後に削除されます。50シート以上、またはEnterprise Maxシートを1つ以上契約している組織は、セッションの保持期間を設定し、ユーザーアクティビティの監査ログを受け取ることもできます。
• 認証：PerplexityはSOC 2 Type II認証を取得し、GDPRに準拠しています。また、保護対象保健情報の取り扱いは、事業提携契約（Business Associate Agreement）の締結を条件としてのみ認めています。

これらの管理機能について詳しいご説明をご希望の場合は、営業チームにお問い合わせのうえ、個別デモをご予約ください。

よくある質問

EU AIコンプライアンスとは何ですか？

EU AIコンプライアンスとは、自社の役割（提供者または導入者）と各システムのリスク区分に応じて、EU AI法の義務を満たすことです。義務は段階的に適用され、高リスクに関する義務は2027年12月2日から適用されます。

HIPAA準拠のAIとは何ですか？

HIPAA準拠のAIとは、保護対象保健情報に関するHIPAAの保護措置の範囲内で使用されるツールです。ベンダーがその情報を保存または処理する場合、米国保健福祉省は事前に事業提携契約（Business Associate Agreement）を締結することを義務付けています。

EU AI法は米国企業にも適用されますか？

はい。AI法は、EU市場にAIシステムを投入する米国企業や、AIの出力がEU域内で使用される米国企業にも適用されます。

AIはコンプライアンス担当者に取って代わることができますか？

AIがコンプライアンス担当者に取って代わることはできません。組織は自らの業務に責任を負っており、AI技術は誤りを犯す可能性があるため、コンプライアンス担当者は引き続きAIの出力を精査し、承認する必要があります。