本文へスキップ

mAIstro

AIエージェントを構築。

mAIstroでは、検索し、自社のシステムに問い合わせ、判断するエージェントを構築できます。ステップごとに専用のモデルとガードレールがあり、すべての実行がログに記録されます。

基本の構成要素

エージェントはノードで構成

各ノードは1つのステップです。検索、モデルの呼び出し、システムへのクエリ、変換、分岐、ループ。ノードはどの導入形態でも同じように動作します。

console › maistro › agent editor
サポートチケット用エージェントを表示したmAIstroのエディター:ガードレールのステップ、2つのモデル呼び出し、ナレッジベースの検索、別のエージェントの呼び出し、最終的な返信。
エディターで開いたサポートチケットの振り分けエージェント。

エージェントの組み立て方

ノード、エージェント、マルチエージェントフロー

どの階層でも構成要素は同じです。そのため、あるチームが構築したエージェントを、別のチームのワークフローの1ステップとして使えます。

  • ノード

    独自の設定を持つ1つのステップです。どのモデルを使い、どのソースを参照し、どのしきい値にするか。ビジュアルエディターで作成しても、NeuralSeekのテンプレート言語であるNTLで記述しても、同じノードになります。

  • エージェント

    ノードを1つのフローに積み重ねたり、横に連結したりして、条件、ループ、並列ステップを組み込みます。並列ステップを使えば、実行時間は最も遅いノードの所要時間で済みます。

  • マルチエージェント

    エージェントは他のエージェントを呼び出せます。変数を共有することも、個別に実行することもできます。オーケストレーターがエージェントレジストリから適切なエージェント、または複数のエージェントによる計画を選ぶこともできます。

検証できる実行

すべての実行をログに記録

Inspectorは、何がいつ、どのように設定されたかをステップごとに表示します。Governanceでは、各エージェントの実行頻度、応答時間、ガードレールの作動状況、各実行が呼び出したエージェントを確認できます。

すべてのステップを検証

console › governance › agent details
Governanceにある1つのエージェントの「Agent Details」画面:上部に呼び出し回数とレイテンシーのタイル、その下に各実行が呼び出した子エージェントを示す呼び出しツリー。
Governanceの「Agent Details」:エージェントごとのレイテンシーのパーセンタイルと、その下の呼び出しツリー。

実行のあと

エージェントの検証、可視化、スケジュール設定

mAIstroはエディターの横に、実行の内容、エージェント同士の呼び出し関係、NTLコードとしてのエージェント、自動実行のタイミングを表示します。

  • console › maistro › inspector
    Inspectorのタイムライン:並列で実行されたステップを含め、実行の各ステップを時間軸上に表示。
  • console › maistro › visualizer
    「Visualizer」タブ:サポート用エージェントのグラフ。受付エージェントがオーケストレーターにつながり、振り分けエージェントが専門エージェントに引き継いでいます。
  • console › maistro › ntl
    「NTL」タブ:サポートチケット用エージェントをシンタックスハイライト付きのNeuralSeek Template Languageで表示。左に関数ライブラリ、下に空の「Agent Output」パネル。
  • console › maistro › scheduler
    「Scheduler」タブ:エージェント、前回の実行、UTCでの次回の実行、説明、行ごとの「Enabled」スイッチを並べたスケジュールの表と、その下の「Select or Create a Schedule」パネル。

スライド:1 / 5

01 / 05

Inspector:ステップごとに確認Inspectorは実行の各ステップを開き、何がいつ設定され、どう処理されたかを表示します。モデルのステップでは、プロンプト、キャッシュ設定、トークン数、モデルの処理時間、出力を確認できます。Remove PIIでマスキングされた値は、ここでもマスキングされたままです。

管理できること

エージェントをプロトタイプから本番データでの運用へ移すために、チームに必要な機能です。

  • ステップごとにモデルを選択

    各モデルに任せる処理を選び、任意のノードでモデルを変更し、API呼び出しでモデルIDを指定できます。分類には高速なモデル、回答の作成にはより高性能なモデルを使えます。

  • エージェントの実行タイミングを指定

    エージェントは、APIから呼び出されたとき、または分、時、日、月で設定したスケジュールに従って実行されます。自動で実行するエージェントと、リクエストを待つエージェントを選べます。

  • フローの途中でも同じガードレール

    プロンプトインジェクション対策、個人情報の削除、不適切な表現のフィルターは、ワークフローのどこにでも配置できるノードです。取得したドキュメントやツールの結果も、質問と同じようにチェックされます。

  • モデルを並べて比較

    モデルを選んで質問を入力すると、回答を並べて比較できます。トークンのコストと速度も記録されます。SeekとmAIstroの両方で使えます。

  • エージェントごとの敵対的テスト

    「Red Team Testing」をエージェントに対して、いつでも実行できます。エージェントのリスク、テストの根拠、推奨される修正をレポートします。変更のたびに再実行してください。

mAIstroに関するよくある質問

最初のエージェントを構築する前に、多くのチームが尋ねること。

  1. mAIstroはビジュアルビルダーですか、それともコードですか?

    両方です。ビジュアルエディターで構築したフローはNTLコードとして読み書きでき、その逆もできます。他のツールではつなぎのコードが必要な処理も、レビュー担当者が読める1つのノードになります。

  2. 空のキャンバスから始めるのですか?

    そうしたい場合だけです。エージェントを自然言語で説明すると自動ビルダーが下書きを作成します。マーケットプレイスのテンプレートを開いて自社のデータに接続することもできます。すべてのノードは表示されたままで、編集できます。

  3. エージェントが数百になったらどうなりますか?

    実行の記録はプラットフォームに組み込まれているため、どのチームも設定する必要はありません。すべての実行がログに記録され、レイテンシーはエージェントと子エージェントの呼び出しごとに分析され、トークンとコストも追跡されます。

NeuralSeekで、今日から構築を始められます。

オンラインで登録して2週間のトライアルから始めるか、自社のクラウドでの運用についてNeuralSeekの専門家に相談できます。