パターンマッチングでは 見つからない個人情報

パターンマッチングが非常に得意なこと

正規表現は、形が決まっている個人を特定できる情報（PII）を見つけるのが非常に得意です。国民保険番号や社会保障番号は、数字の区切り方が決まっています。クレジットカード番号は桁数が決まっていて、チェックサムを通ります。メールアドレス、電話番号、IPアドレス、口座の参照番号、郵便番号はどれも厳格な形式に従っており、正規表現ならマイクロ秒単位で一致を見つけられます。

こうした情報に対して、パターンマッチングは高速で決定的、監査可能で、事実上コストもかかりません。決定的であることは、速さと同じくらい重要です。社会保障番号の形式をした文字列が社会保障番号であると確かめるために、モデルを呼び出す理由はありません。動作を正確に把握できる管理策を選ぶ理由は十分にあります。

警告なしに失敗する場面

実際の個人情報の多くは、決まった形式では届きません。名前はただの言葉です。場所はただの場所です。特定の1人を確実に指し示しながら、一致するパターンをまったく含まない2つの表現を考えてみてください。「4B号室のマリア」と「昨年の春にリノのオフィスから移ってきたCFO」です。

正規表現は意味を理解できないため、文脈に依存するものはすべて素通りします。登録されていない名前、特定の個人に結びつく役職、間接的な識別子、言い換えられた口座の参照、1つのトークンではなく文全体にまたがって組み立てられた識別子などです。逆方向の誤検知も起こします。9桁の数字をすべて識別子として検出したり、誰も想定していない形式でデータが届いた途端に機能しなくなったりします。

この失敗は気づかれずに起こります。プライバシーの管理策にとって最悪の性質です。何も検出されず、何も記録されず、パイプラインは成功を報告します。

文脈を読むチェックで加わるもの

モデルを使った検出器は、人と同じようにテキストを読みます。「患者」「4B号室」と名前の組み合わせは、どのトークンも単独では何にも一致しなくても、個人を特定できる医療情報になると認識できます。初めて見る名前も見つけ、文がカテゴリではなく特定の1人を描写していることに気づき、どのルールも想定していない言い回しにも対応します。

その代わり、処理は遅く、確率的です。照合ではなく推論を行うため、低コストで決定的なルールですでに結論が出ている場合に、すべてのリクエストのすべてのバイトに対して実行したいものではありません。また、その出力は判断であり、判断として扱う必要があります。

答えは両方を、順番に使うこと

2つの手法は正反対の場面で失敗します。だからこそ、競わせるのではなく順番に並べるべきです。まず高速で決定的なチェックを実行し、構造化された識別子を低コストかつ予測どおりに取り除きます。次に、残ったテキストに対して文脈を読むチェックを実行し、パターンでは見えなかった名前、場所、言い換えられた参照を見つけます。

パターンマッチングは処理量と適合率を、文脈のチェックは細かなニュアンスと再現率を担います。重ねることで、どちらか一方では埋められない穴が埋まります。そして両方とも、機密情報が1つでも自社のシステムから送信される前に実行します。役に立つ順序はこれだけです。モデルを呼び出した後に適用する墨消しは、すでに手遅れだからです。

検出は管理策の半分。残りの半分は、その後の処理

何かを見つけても、それに対して一貫した処理をしない検出器は、管理策ではありません。2つ目の判断はポリシーです。一致したとき、値をマスキングするのか、文が読めるように安定したトークンに置き換えるのか、完全に削除するのか、それともリクエスト全体を拒否するのか。正しい答えは用途によって異なるため、全体で一律に決めるのではなく、ワークフローごとに設定する価値があります。

隣接する2つの管理策は、見た目以上に重要です。1つは、自社の分野で何を機密とみなすかを定義できることです。ある業界では無害な用語が、別の業界では識別子になるからです。もう1つは、認証情報や接続用のシークレットをモデルとのやり取りから完全に切り離しておくことです。キーがプロンプトに入り込めば、ログにも入り込みます。そしてログは、監査担当者に渡す記録です。

すべての検出とすべての処理が記録されるため、主張の形も変わります。「データは安全だと考えています」が、何を検出し、それにどう対処し、いつ行ったかを示す記録になります。