Personenbezogene Daten, die Mustererkennung übersieht

Was Mustererkennung sehr gut kann

Reguläre Ausdrücke finden personenbezogene Daten mit vorhersehbarer Form ausgezeichnet. Eine Sozialversicherungsnummer hat eine feste Zifferngruppierung. Eine Kartennummer hat eine feste Länge und besteht eine Prüfsumme. E-Mail-Adressen, Telefonnummern, IP-Adressen, Kontoreferenzen und Postleitzahlen folgen starren Formaten, die ein regulärer Ausdruck in Mikrosekunden erkennt.

Für diese Fälle ist Mustererkennung schnell, deterministisch, prüfbar und praktisch kostenlos, und der Determinismus zählt so viel wie die Geschwindigkeit. Es gibt keinen Grund, einen Modellaufruf darauf zu verwenden, dass eine Zeichenkette im Format einer Sozialversicherungsnummer eine Sozialversicherungsnummer ist, und jeden Grund, eine Kontrolle zu bevorzugen, deren Verhalten Sie genau nachvollziehen können.

Wo sie ohne Warnung versagt

Die meisten echten personenbezogenen Daten kommen nicht vorformatiert an. Ein Name besteht einfach aus Wörtern. Ein Ort ist einfach ein Ort. Nehmen Sie zwei Formulierungen, die einen bestimmten Menschen absolut zuverlässig identifizieren und kein erkennbares Muster enthalten: „Maria in Zimmer 4B“ und „die Finanzchefin, die letzten Frühling aus dem Büro in Reno zu uns kam“.

Ein regulärer Ausdruck kann nicht über Bedeutung nachdenken, also rutscht alles Kontextbezogene durch: Namen, die er nicht kennt, Berufsbezeichnungen, die an eine Person gebunden sind, indirekte Identifikatoren, umschriebene Kontoreferenzen und Identifikatoren, die sich über einen Satz verteilen, statt in einem Token zu stehen. Umgekehrt erzeugt er auch Fehlalarme, wenn er jede neunstellige Zahl als Identifikator markiert, und er versagt, sobald Daten in einem Format ankommen, mit dem niemand gerechnet hat.

Das Versagen bleibt unbemerkt, und das ist die schlechteste Eigenschaft, die eine Datenschutzkontrolle haben kann. Nichts wird markiert, nichts wird protokolliert, und die Pipeline meldet Erfolg.

Was ein kontextbezogener Durchlauf hinzufügt

Ein modellbasierter Detektor liest Text so, wie ein Mensch es tut. Er erkennt, dass „die Patientin“, „Zimmer 4B“ und ein Vorname zusammen identifizierbare Gesundheitsdaten sind, obwohl kein einzelnes Token auf ein Muster passt. Er findet Namen, die er nie gesehen hat, bemerkt, wenn ein Satz eine bestimmte Person statt einer Kategorie beschreibt, und kommt mit Formulierungen zurecht, die keine Regel vorhergesehen hat.

Der Preis: Er ist langsamer und arbeitet mit Wahrscheinlichkeiten. Er wägt ab, statt abzugleichen, und deshalb wollen Sie ihn nicht über jedes Byte jeder Anfrage laufen lassen, wenn eine günstige deterministische Regel die Frage schon geklärt hat. Es bedeutet auch, dass sein Ergebnis eine Einschätzung ist und so behandelt werden muss.

Die Antwort: beides, in dieser Reihenfolge

Die beiden Ansätze versagen an entgegengesetzten Stellen, und genau deshalb gehören sie hintereinander und nicht gegeneinander. Zuerst läuft ein schneller deterministischer Durchlauf und entfernt die strukturierten Identifikatoren günstig und vorhersehbar. Danach läuft ein kontextbezogener Durchlauf über den Rest und findet die Namen, Orte und umschriebenen Referenzen, die die Muster nicht sehen konnten.

Mustererkennung liefert Menge und Präzision, der kontextbezogene Durchlauf Feingefühl und Trefferquote. Zusammen schließen sie eine Lücke, die keiner allein schließt, und beide laufen, bevor ein einziges sensibles Token Ihre Systeme verlässt. Nur diese Reihenfolge hilft, denn eine Schwärzung nach dem Modellaufruf kommt zu spät.

Erkennung ist die halbe Kontrolle, die andere Hälfte ist, was danach passiert

Ein Detektor, der etwas findet und nicht einheitlich darauf reagiert, ist keine Kontrolle. Die zweite Entscheidung ist eine Richtlinie: Wird der Wert bei einem Treffer maskiert, durch ein stabiles Token ersetzt, damit der Satz lesbar bleibt, ganz entfernt, oder wird die gesamte Anfrage abgelehnt? Für verschiedene Anliegen sind verschiedene Antworten richtig, deshalb lohnt es sich, das pro Workflow statt global festzulegen.

Zwei benachbarte Kontrollen sind wichtiger, als sie aussehen. Erstens die Möglichkeit, festzulegen, was in Ihrer Branche als sensibel gilt, denn ein Begriff, der in einer Branche harmlos ist, ist in einer anderen ein Identifikator. Zweitens, Zugangsdaten und Verbindungsgeheimnisse ganz aus dem Modellverkehr herauszuhalten. Denn wenn ein Schlüssel einen Prompt erreichen kann, kann er auch ein Log erreichen, und das Log ist das, was Sie einem Prüfer übergeben.

Und weil jede Erkennung und jede Aktion aufgezeichnet wird, verändert sich die Aussage. Aus „Wir glauben, dass unsere Daten sicher sind“ wird ein Protokoll, das zeigt, was erkannt wurde, was damit geschah und wann.