Prompt-Injection: direkt, indirekt und wie Sie beides eindämmen
Warum das Modell das Problem nicht allein lösen kann, wie ein in einem Dokument versteckter Angriff aussieht und wie Sie ihn eindämmen.
Mehr zu Prompt-Injection lesenFinanzdienstleistungen · 3 Min. Lesezeit
Ein KI-Audit-Protokoll für die Finanzbranche
Die Frage, an der Projekte scheitern, ist nicht, was das System getan hat, sondern worauf es an dem Tag eingestellt war. Vier Eigenschaften machen sie beantwortbar.
Die Prüfungsfrage, auf die sich alle vorbereiten, lautet „Was hat das System getan?“. Die Frage, an der Projekte tatsächlich scheitern, lautet „Worauf war das System an dem betreffenden Tag eingestellt, und was hat sich seitdem geändert?“. Ohne Konfigurationshistorie gibt es darauf gar keine Antwort, und eine Kontrolle, die Sie nicht rekonstruieren können, können Sie auch nicht bestätigen. Dieser Artikel geht die vier Eigenschaften durch, die ein KI-System prüfbar machen, geschrieben für die Fachleute, die sie umsetzen müssen, nicht für die Prüfer, die danach fragen.
Hinweis zum Umfang: Dies ist ein technischer Leitfaden zu Kontrollen, keine Rechtsberatung und keine Aussage darüber, was eine Regel verlangt. NeuralSeek hat Berichte nach SOC 1 und SOC 2 Type II und ist HIPAA-konform. Was für Ihre Organisation gilt, entscheiden Ihre Rechtsberatung, Ihre Aufsichtsbehörden und Ihre interne Revision.
Warum es eigentlich nur darum geht
In einem regulierten Unternehmen wird ein KI-System, das Bücher, Aufzeichnungen oder Kundeninteraktionen berührt, nicht zuerst nach seinen Fähigkeiten bewertet. Bewertet wird, ob es eine vollständige, vertrauenswürdige Darstellung des Geschehens liefert: wer was wann unter welcher Konfiguration getan hat, und ob sich diese Darstellung zügig übergeben lässt und vor jemandem besteht, der nichts als gegeben annimmt.
Das ist ein lösbares technisches Problem, und es zerfällt in vier Eigenschaften. Keine davon ist exotisch. Schwierig sind sie, weil sie von Anfang an vorhanden sein müssen. Ein Audit-Protokoll lässt sich nicht rückwirkend ergänzen.
Erstens: eine dauerhafte Aufzeichnung jeder Interaktion
Zwei sich ergänzende Logs, dazu die Kontrolle darüber, wo sie liegen. Eine organisationsweite, manipulationssichere Aufzeichnung jeder Interaktion liefert die Darstellung. Eine Aufzeichnung der Prompts selbst liefert die Rekonstruktion: Wird eine bestimmte Antwort später infrage gestellt, können Sie genau zeigen, was gefragt wurde und mit welchem Material das System gearbeitet hat.
Was Teams zu wenig einplanen, ist die Speicherung. Aufbewahrungspflichten für regulierte Aufzeichnungen sind meist länger als jede Standard-Aufbewahrung von Logs und verlangen oft eine bestimmte Art von Dauerhaftigkeit. Erst wenn Sie diese Aufzeichnungen an das Backend leiten können, das Ihr Unternehmen bereits für regulierte Aufzeichnungen nutzt, statt an den Standard der Anwendung, ist die Kontrolle echt und nicht nur nominell.
Zweitens: eine Historie jeder Änderung an den Einstellungen
Diese Eigenschaft fehlt den meisten KI-Systemen, und sie macht eine Prüfung am häufigsten zum Projekt. Wenn sich die Retrieval-Schwellenwerte, die Guardrail-Richtlinie oder die Modellzuordnungen irgendwann geändert haben und niemand sagen kann, wann oder worauf, dann ist jede vor dieser Änderung erzeugte Antwort nicht mehr erklärbar.
Nötig ist ein Protokoll jeder Änderung an den Einstellungen mit Zeitstempel, damit Sie sehen, was sich wann geändert hat, und es zurücksetzen können. So wird eine Änderung an einer Kontrolle von einer unverfolgten Bearbeitung zu einem prüfbaren Ereignis, und genau das verlangt ein Kontroll-Framework.
Drittens: Zuordnung, ohne Zugangsdaten preiszugeben
Ein Protokoll, das sich keiner Identität zuordnen lässt, fällt an einem Ende durch die Prüfung. Ein Protokoll, das Geheimnisse enthält, fällt am anderen Ende durch, und das wird teurer. Jede aufgezeichnete Interaktion sollte an einen bekannten Zugriffsweg und eine Identität gebunden sein, nicht an einen anonymen Aufruf. Das ist eine Designentscheidung darüber, wie das System angebunden ist, und nichts, was sich später ergänzen lässt.
Gleichzeitig müssen Schlüssel und Verbindungsgeheimnisse aus Prompts, aus Antworten und aus den Logs selbst herausgehalten werden. Die Aufzeichnung, die Sie als Nachweis vorlegen, ist ein Dokument, das Personen außerhalb Ihres Teams kopieren, verschicken und ablegen. Zugangsdaten haben darin nichts zu suchen.
Viertens: Nachweise, die sich exportieren lassen, statt zusammengesucht zu werden
Die letzte Eigenschaft ist, ob sich das Protokoll ohne Übersetzungsarbeit in etwas verwandeln lässt, das ein Prüfer akzeptiert. In der Praxis heißt das, jede Kontrolle der Anforderung zuzuordnen, die sie erfüllt, im Format, das Ihre Prüfer bereits nutzen. Dann ist die Antwort auf eine Walkthrough-Anfrage ein Dokument und keine Ermittlung.
Der Test ist einfach und lohnt sich bei allem, was Sie gerade bewerten: Wenn die Anfrage kommt, ist das Erstellen der Nachweise ein Export oder ein Notfall?
Einmal konfigurieren oder für immer zusammensuchen
Ob eine KI-Initiative in einem regulierten Unternehmen live geht oder stecken bleibt, liegt selten am Modell. Es liegt daran, ob das Audit-Protokoll ein Ergebnis der Konfiguration ist oder etwas, das jedes Mal unter Druck rekonstruiert wird, wenn jemand fragt.
Alle vier Eigenschaften oben sind in NeuralSeek Einstellungen und keine Komponenten, die Sie integrieren müssen. Sie gelten für jeden Workflow, der auf der Bereitstellung aufbaut, nicht nur für die, deren Ersteller daran gedacht haben. Sie erhalten sie standardmäßig, statt sie für jeden Workflow neu aufzubauen.
Weiterlesen
Weitere Leitfäden zu KI mit Governance
Praxiswissen zum Erstellen, Steuern und Ausführen von KI-Agenten.
Einstellungen und Parameter finden Sie in der Produktdokumentation (auf Englisch).
Personenbezogene Daten finden, die Mustererkennung übersieht
Reguläre Ausdrücke finden personenbezogene Daten, die wie personenbezogene Daten aussehen. „Maria in Zimmer 4B“ identifiziert eine Patientin und passt auf kein Muster. So erkennt ein zweiter, kontextbezogener Durchlauf sie.
Mehr zur Erkennung personenbezogener Daten lesen
Noch heute mit NeuralSeek starten.
Registrieren Sie sich online und beginnen Sie mit einer zweiwöchigen Testphase, oder sprechen Sie mit unseren Fachleuten darüber, wie Sie NeuralSeek in Ihrer eigenen Cloud betreiben.