ガードレール
標準搭載で、すぐにカスタマイズできます。
導入初日から、すべてのAIの回答を保護します。NeuralSeekは、プロンプトインジェクション、機密データ、正確性、トーンに対応。各ガードレールは自社のポリシーに合わせて調整でき、ガバナンスのダッシュボードとレポートも標準搭載です。
仕組み
すべての回答を最初から最後までチェック
各手順は順番に実行され、すべて記録されます。
攻撃をブロックする
NeuralSeekは、すべての質問をプロンプトインジェクションの観点でスコア付けします。疑わしいフレーズは削除し、リスクの高い質問は完全にブロックします。独自の禁止語リストや、不適切な表現のフィルターも追加できます。
機密データを保護する
NeuralSeekは、個人情報がモデルに届く前に検出します。フラグを付ける、マスキングする、非表示にする、削除するのいずれにするかを、トピックごとに選べます。
トピックごとに振り分ける
NeuralSeekは各質問をトピック別に分類します。請求に関する質問と臨床に関する質問に、異なるルールを適用できます。
AIが読む内容を管理する
モデルが使えるドキュメント、求める新しさ、読み込む件数を決められます。
モデルに制限を設ける
手順ごとにモデルとその制限を選べます。簡単なチェックにも詳細な回答にも、それぞれ適切な設定を使えます。
すべての回答をチェックする
NeuralSeekは、各回答を情報源と照らし合わせてスコア付けします。根拠の弱い回答には警告を表示するか、独自に用意した応答に置き換えます。裏付けのない文は削除できます。
会話の記憶を管理する
モデルが会話のどこまでを参照するかを決め、機密データが蓄積しないようにできます。
すべてを監査証跡に残す
すべての質問、回答、スコアが記録され、自社のシステムに送信できます。
エージェントの中で
どのエージェントにもガードレールを追加
同じガードレールを、どのエージェントにも手順として追加できます。この例では、サポートチケットがモデルに届く前に、攻撃、不適切な表現、個人情報をチェックし、必要に応じて処理を止めます。
正確性
ハルシネーションを防ぐ多層チェック
1つのチェックが見逃しても、次のチェックが捕捉します。どのチェックが回答を止めたかは、いつでも確認できます。
回答をトピックの範囲内に保つ
回答の元になるのは、ナレッジベースと、そこにない内容のために用意するデフォルトのドキュメントだけです。モデルは指定したテーマから外れません。
裏付けのない文を削除する
NeuralSeekは、回答を返す前に各文を情報源と照合します。
最低信頼度を設定する
最低値に届かない回答は、独自に用意した応答に置き換えられ、記録されます。
信頼度の低い回答を振り分ける
信頼度の低い回答をきっかけにワークフローを開始できます。フォールバックエージェントが、チームへの通知、課題の起票、回答の書き直し、別のエージェントへの引き継ぎを行います。
プライバシー
機密データを自社のルールで保護
個人情報を検出し、その扱いを選べます。トピックごとに処理を設定できるため、ある場面では識別子をマスキングし、別の場面ではブロックできます。
2層の検出
パターンフィルターが、口座番号やID番号などの形式を検出します。例文1つから学習するAIフィルターが、パターンで見逃したものを捕捉します。
安全な用語の許可リスト
チームが安全と判断した用語を登録したり、自社のドキュメントの語句を信頼済みにしたりしながら、すべての検出機能をオンのまま使えます。
認証情報はシークレットとして保管
エージェントが使うパスワードやAPIキーはシークレットとして保管されるため、エージェントの内容を見ても値はわかりません。
個人情報の検出とマスキング
個人情報のフラグ付け、マスキング、非表示、削除を、トピックごとに設定できます。
完全な監査証跡
すべての質問、回答、スコア、設定変更が、タイムスタンプと実行者とともに記録されます。S3、Splunk、Datadogにエクスポートできます。
攻撃シミュレーション
エージェントを攻撃に対してテスト。
エージェントを選んでテストを実行すると、リスク、その根拠、推奨される修正が表示されます。変更のたびに再実行してください。
プロンプトインジェクション
セキュリティチームからのよくある質問
セキュリティレビュー向けの簡潔な回答。
開発者がモデルを直接呼び出して、ガードレールを回避できますか？
NeuralSeekへの呼び出しは、どのアプリから送られても同じチェックを受けます。自社の環境で運用すれば、ほかに何がモデルに到達できるかは、自社のネットワーク管理で決まります。
ガードレールを厳しくすると、役に立つ回答までブロックされませんか？
厳しさはトピックごとに設定できるため、一般的な質問と規制対象の質問に、それぞれ別のレベルを適用できます。自社の結果を見ながら調整してください。
監査担当者には、実際に何を提出しますか？
すべての質問、回答、スコアの完全な記録です。自社のシステムに送信でき、当時のとおりに再現できます。設定の変更には変更者が表示され、元に戻すこともできます。