マルチホップ実タスクベンチマーク — FRAMES / BrowseComp
マルチホップ(=複数の事実・制約をまたいで初めて答えに至る問題)は、単純な一問一答では見えないエージェントの真の能力差を露わにする。
マルチホップとは
マルチホップの問題は、単一の事実を取得するだけでは解けない。エージェントは複数の検索・推論ステップを連鎖させる必要があり、この性質ゆえにエージェントの実力を測るベンチマーク(=評価指標)として使われる。
代表的なベンチマーク
Googleが2024年に発表したFRAMESは、複数文書をまたいだ事実性・検索・推論を一括で評価する。OpenAIが2025年に発表したBrowseCompは、エージェントが実際にWebを閲覧して難情報を特定するハードタスクである。
マルチホップが有益な理由
一問一答形式のベンチマークはすでに飽和しており、上位モデルはほぼ同スコアとなって差がつかなくなっている。一方、複数段階にわたるタスクは2026年時点でも依然としてモデル間の差を示す。加えて、単一の正答率だけでなく、完了率・ステップ数・失敗箇所・使用ソースの質といった指標を定量化できる。
実務上の利点
日本語かつ業界特化のマルチホップベンチマークセットを構築すること自体が学術的権威を得る手段になり、抽象的なテストではなく実ビジネスの文脈でのエージェント能力を明確に可視化できる。
マルチホップベンチマークは、2026年時点で「流暢なだけ」のエージェントと「本当に有能」なエージェントを区別する唯一の信頼できる手段だ。
関連ノート
- Browser Automation MCP 2026 — Comparing Playwright, chrome-devtools and agent-browser
- A tidy-up of the Claude Agents specifications
- "how does <filepath> work?" — Claude Code's placeholder prompt
- Claude Code's CLAUDE.md hierarchy — which instructions reach how far
- Does Claude Code's Spawn (parallel subagent launch) really run in parallel?
- Claude Mythos and Oceanus — the cutting edge and its "version for everyone"