主な違い
構築するものと、得られるもの
オープンソースのフレームワークは優れたツールです。NeuralSeekは同じ課題を、部品がすでにつながった状態で解決します。
引き受けるもの
自社開発
オーケストレーション、検索、エンベディング、評価、機密情報の墨消し、ポリシー、ログという多数の部品と、それらをつなぐコードの統合です。部品はそれぞれ独自のスケジュールで更新されます。
NeuralSeek
それらの部品を標準搭載した一つのプラットフォームです。お客様は設定するだけで、部品の連携はNeuralSeekが維持します。
ポリシーの適用方法
自社開発
通常は、開発者が各ワークフローに追加するコンポーネントとして実装します。適用されるかどうかは、すべてのワークフローにそれが含まれているかにかかっています。
NeuralSeek
ガードレールは導入環境の一部としてすべてのリクエストで動作します。新しいエージェントも、最初の実行から対象になります。
回答が十分かどうかの判断
自社開発
よく使われる方法は、2つ目のモデルに1つ目のモデルの回答を評価させるものです。有効ですが、モデルの呼び出しが1回増えます。
NeuralSeek
すべての回答に信頼度とカバレッジのスコアが付き、出典が表示されます。警告と最低信頼度の水準を設定して、回答するか、フォールバックに切り替えるかを決められます。
時間がたつと
自社開発
力のあるチームなら短期間で公開できます。モデルのAPIが変わり、評価の更新が必要になり、新しいワークフローが共通部品を作り直すにつれて、保守の負担は増えていきます。
NeuralSeek
アップデート、新しいモデル、新しいガードレールはプラットフォームとともに提供されるため、チームが保守する必要はありません。
使い分け
自社開発か、購入か
エンジニアに何へ時間を使ってほしいかで決めます。
AIそのものが販売する製品
モデルのレイヤーが製品の差別化要因なら、自社で持つべきです。すべての部品を完全に管理したくなるはずです。
長期的なプラットフォームチームがある
検索、評価、ログを含め、常設のチームが何年にもわたって基盤を保守するなら、自社開発は成り立ちます。
業務プロセス向けのガバナンスを備えたAIを、期限までに
データに基づく回答、ガードレール、回答ログはNeuralSeekが担います。エンジニアは自社の業務領域に集中し、より早く公開できます。
エンジニアからよくある質問
プラットフォームの拡張、コードの記述、自社環境の所有について。
独自の機能が必要な場合は？
エージェントは、自社のAPIを呼び出し、サンドボックスでコードを実行し、すでに運用しているシステムと連携できます。その部分は自社で記述し、それ以外はガバナンスのもとで動かせます。
どのくらいのコードを書く必要がありますか？
エージェントは、ビジュアルエディター、またはNeuralSeekのテンプレート言語であるNTLで、従来のコーディングなしに構築します。コードを書くのは、自社に固有の部分だけです。
自社の手元に残るものは何ですか？
データストア、モデルのエンドポイント、ドキュメントは、引き続きお客様のものです。