Aller au contenu

Garde-fous

Intégrés et prêts à personnaliser.

Protégez chaque réponse d'IA dès le premier jour. NeuralSeek couvre l'injection de prompt, les données sensibles, la précision et le ton. Chaque garde-fou s'adapte à vos politiques, et les tableaux de bord et rapports de gouvernance sont intégrés.

Fonctionnement

NeuralSeek vérifie chaque réponse, de bout en bout

Chaque étape s'exécute dans l'ordre, et chacune est journalisée.

  1. Bloquer les attaques

    NeuralSeek évalue chaque question selon son risque d'injection de prompt. Il supprime les phrases suspectes et bloque entièrement les questions à haut risque. Vous pouvez aussi ajouter votre propre liste de mots interdits et un filtre de langage grossier.

  2. Protéger les données sensibles

    NeuralSeek repère les données personnelles avant qu'elles n'atteignent le modèle. Vous choisissez de les signaler, de les masquer, de les occulter ou de les supprimer, sujet par sujet.

  3. Router par sujet

    NeuralSeek classe chaque question par sujet, pour qu'une question de facturation et une question clinique suivent des règles différentes.

  4. Contrôler ce que lit l'IA

    Vous décidez quels documents le modèle peut utiliser, à quel point ils doivent être récents et combien il en lit.

  5. Fixer les limites du modèle

    Choisissez le modèle et ses limites pour chaque étape, pour qu'une vérification rapide et une réponse détaillée aient chacune les bons paramètres.

  6. Vérifier chaque réponse

    NeuralSeek note chaque réponse par rapport à vos sources. Une réponse faible reçoit un avertissement ou est remplacée par votre propre réponse, et NeuralSeek peut supprimer les phrases sans appui.

  7. Contrôler la mémoire de la conversation

    Décidez quelle part de la conversation le modèle voit, pour que les données sensibles ne s'accumulent pas.

  8. Piste d'audit complète

    Chaque question, réponse et score est enregistré, et vous pouvez l'envoyer vers vos propres systèmes.

Dans vos agents

Ajouter des garde-fous dans n'importe quel agent

Ajoutez les mêmes garde-fous comme étapes dans n'importe quel agent. Dans cet exemple, un ticket d'assistance est contrôlé (attaques, langage grossier, données personnelles) et arrêté si nécessaire, avant d'atteindre le modèle.

console › maistro › agent editor
Un agent dans l'éditeur : des étapes de garde-fous nettoient le ticket, une vérification arrête l'exécution s'il ne reste rien, puis un appel au modèle classe le ticket par type.
Un agent de tickets d'assistance, avec des garde-fous avant le premier appel au modèle.

Précision

Des contrôles en couches contre les hallucinations

Si un contrôle laisse passer quelque chose, le suivant le rattrape. Vous voyez toujours quel contrôle a arrêté une réponse.

  1. Garder les réponses dans le sujet

    Les réponses viennent uniquement de votre base de connaissances, plus un document par défaut que vous rédigez pour ce qu'elle ne couvre pas. Le modèle reste sur les sujets que vous choisissez.

  2. Supprimer les phrases sans appui

    NeuralSeek vérifie chaque phrase par rapport à vos sources avant d'envoyer la réponse.

  3. Fixer une confiance minimale

    Si une réponse n'atteint pas votre minimum, NeuralSeek la remplace par votre propre réponse et le journalise.

  4. Router les réponses peu fiables

    Une réponse à faible confiance peut lancer un workflow. Un agent de secours peut prévenir une équipe, ouvrir un ticket, réécrire la réponse ou la transmettre à un autre agent.

Confidentialité

Protégez les données sensibles à votre façon

Repérez les données personnelles, puis choisissez leur traitement. Définissez l'action par sujet : masquez un identifiant dans un contexte et bloquez-le dans un autre.

  • Deux niveaux de détection

    Des filtres par motifs repèrent des formats comme les numéros de compte et d'identité. Un filtre d'IA, entraîné à partir d'une seule phrase d'exemple, repère ce que les motifs ne voient pas.

  • Listes d'autorisation pour les termes sûrs

    Marquez les termes que votre équipe sait sûrs, ou faites confiance aux mots de vos propres documents, et gardez tous les détecteurs actifs.

  • Identifiants stockés comme secrets

    Les mots de passe et clés d'API qu'utilise un agent sont stockés comme secrets : personne ne peut les voir en lisant l'agent.

  • Détection et masquage des données personnelles

    Signalez, masquez, occultez ou supprimez les données personnelles, avec des règles par sujet.

  • Piste d'audit complète

    Chaque question, réponse, note et modification des paramètres est journalisée, horodatée et attribuée. Exportez-la vers S3, Splunk ou Datadog.

Tests d'attaque

Testez vos agents face aux attaques.

Choisissez un agent et lancez le test pour voir ses risques, les preuves et les corrections recommandées. Relancez-le après chaque modification.

Injection de prompt

console › governance › red team testing
La vue Red Team Testing sous Governance avant une exécution : un sélecteur d'agent, une commande pour lancer le test et une grille de catégories de tests (dont l'injection de prompt, l'exfiltration de données et l'injection SQL), toutes encore marquées comme inconnues.
Red Team Testing dans la console, prêt à être lancé.

Questions des équipes de sécurité

Des réponses courtes pour votre revue de sécurité.

  1. Un développeur peut-il contourner ces contrôles en appelant directement le modèle ?

    Chaque appel à NeuralSeek passe par les mêmes contrôles, quelle que soit l'application qui l'envoie. Si vous exécutez NeuralSeek dans votre propre environnement, vos contrôles réseau décident de ce qui peut atteindre le modèle par ailleurs.

  2. Des garde-fous stricts vont-ils bloquer des réponses utiles ?

    Vous réglez leur niveau d'exigence par sujet : une question générale et une question réglementée peuvent avoir chacune leur propre niveau. Ajustez-les selon vos propres résultats.

  3. Que remettons-nous concrètement à un auditeur ?

    Un historique complet de chaque question, réponse et score, que vous pouvez envoyer vers vos propres systèmes et rejouer tel quel. Les modifications des paramètres indiquent qui les a faites et peuvent être annulées.

Créez dès aujourd'hui avec NeuralSeek.

Inscrivez-vous en ligne et commencez par un essai de deux semaines, ou parlez à un expert NeuralSeek pour exécuter NeuralSeek dans votre cloud.