OverviewAuthenticationMindsKnowledgeChatLatencyErrors
Minds Team

レイテンシー

応答レイテンシー、その要因、および基盤モデルを直接呼び出す場合との比較について理解します。

Minds APIの応答時間が、基盤モデルを直接呼び出す場合とどのように異なるのか、またその差が生じる要因について説明します。

概要

Minds APIを介してメッセージを送信する場合、その応答には単なる生のLLM呼び出し以上の処理が含まれます。APIは、マインドのナレッジベースに基づいて応答をグラウンディング（根拠付け）するための複数のステップを調整し、より高品質で文脈に沿った回答を提供します。

一般的な応答時間:

シナリオレイテンシー
基盤モデルの直接呼び出し（コンテキストなし）1-3秒
Minds API（ナレッジグラウンディングあり）5-12秒
Minds API（シンプルな挨拶 / RAGなし）2-4秒

追加の時間はナレッジの検索とグラウンディングに費やされます。これにより、Mindsの応答は生のLLM呼び出しよりも正確で、文脈に適したものになります。

リクエスト中に実行される処理

POST /api/v1/sparks/{sparkId}/completionを呼び出すと、APIは以下のステップを実行します。

1. Authentication & mind loading          ~50ms
2. Knowledge retrieval (RAG)              ~1-3s
   - Semantic search across embeddings
   - Retrieve relevant knowledge chunks
3. Tool orchestration                     ~1-3s
   - Web search (if needed)
   - Knowledge grounding & citations
4. LLM generation                         ~1-3s
   - Same latency as calling the model directly
5. Response formatting & citations         ~50ms

ステップ2〜3が、Mindsと生のAPI呼び出しとの違いを生み出すポイントです。 これらにより、ナレッジベース、ウェブ検索結果、および根拠となる引用から、関連するコンテキストがマインドに提供されます。

ベンチマーク結果

2026年3月12日に測定。各テストは同じプロンプトで3回実行されました。Minds API呼び出しには、完全なRAGパイプラインとツールのオーケストレーションが含まれています。

モデル別の応答時間

エンドポイント平均最小最大
Minds API (デフォルト)12,166ms10,951ms13,910ms
Minds API (gpt-4o)7,013ms5,900ms8,203ms
Minds API (gpt-4o-mini)6,651ms4,702ms7,975ms
Minds API (gemini-2.5-flash)7,553ms5,170ms11,198ms
OpenAI 直接呼び出し (gpt-4o)1,461ms1,139ms1,720ms
OpenAI 直接呼び出し (gpt-4o-mini)1,784ms1,589ms1,925ms
Google 直接呼び出し (gemini-2.5-flash)1,593ms1,466ms1,701ms

オーバーヘッドの内訳

モデルMinds API直接呼び出しオーバーヘッド
gpt-4o-mini6,651ms1,784ms+4,867ms
gpt-4o7,013ms1,461ms+5,551ms
gemini-2.5-flash7,553ms1,593ms+5,960ms

テストされたすべてのモデルにおける平均オーバーヘッドは約5.5秒です。このオーバーヘッドには以下が含まれます。

  • マインドのベクトル埋め込みに対するセマンティック検索
  • ナレッジチャックの検索とランキング
  • ウェブ検索による検証（適用可能な場合）
  • 引用のマッピングと応答のグラウンディング
  • ツールオーケストレーションパイプライン

オーバーヘッドがもたらす価値

追加のレイテンシーは、インテリジェンス（知能）のためのコストです。生のLLM呼び出しには、お客様のドメインに関するコンテキストがありません。Mindsは以下を提供します。

  1. ナレッジグラウンディング: 応答はモデルのトレーニングデータだけでなく、マインド固有のナレッジベースに基づきます。
  2. 自動引用: どの情報源が応答の根拠となったかを正確に把握できます。
  3. ウェブ検索検証: 最新のウェブデータとナレッジを相互参照します。
  4. ペルソナの一貫性: 応答はマインドの個性やコミュニケーションパターンを維持します。
  5. 思考パターン: マインドの推論方法を形成する心理学的モデリング。

レイテンシーの最適化

適切なモデルの選択

必要に応じて、modelパラメータを使用して、より高速なモデルを選択してください。

# Fastest: lightweight models
curl -X POST "https://api.getminds.ai/v1/sparks/{sparkId}/completion" \
  -H "Authorization: Bearer minds_your_api_key" \
  -H "Content-Type: application/json" \
  -d '{
    "messages": [{"role": "user", "content": "Quick question"}],
    "model": "gpt-4o-mini"
  }'

モデルの速度ランキング（高速な順）:

  1. gpt-4o-mini / gemini-3.6-flash - 速度が最優先されるユースケースに最適
  2. gpt-4o / claude-sonnet-4-5 - 速度と品質のバランスが取れたモデル
  3. デフォルト（サーバー選択） - 品質に最適化

メッセージを簡潔に保つ

会話履歴を短くすることで、処理時間を短縮できます。messages配列には、関連するコンテキストのみを含めるようにしてください。

Mindsのウォームアップ

一定時間アクティビティがない後のマインドへの最初のリクエストは、コールドスタートの影響により、わずかに遅くなる場合があります。それ以降のリクエストは、キャッシュされた埋め込みやウォームアップされた接続の恩恵を受けます。

ストリーミング（近日対応予定）

現在、補完（completion）エンドポイントのストリーミング対応に取り組んでいます。これにより、完全な応答が生成される間、最初のトークンをより迅速に配信できるようになります。これにより、インタラクティブなアプリケーションにおける体感レイテンシーが大幅に改善されます。

レート制限

v1 APIは認証済みアカウントごとの設定可能な固定ウィンドウ制限（既定で1分あたり300リクエスト）を適用します。RateLimit-*ヘッダーを読み、429後はRetry-Afterに従い、同時実行数を制限してください。エラーと制限も参照してください。

次のステップ

  • Chat API - メッセージの送信と応答の取得
  • Knowledge API - スパークのナレッジベースの管理
  • API Overview - 完全なエンドポイントリファレンス