1 平均適合率(AP)の概要

1.1 適合率とランキングの評価

検索情報検索では、システムが返す候補の「順序」が結果の価値を左右する。上位に関連文書(正解)がどれだけ早く現れるか、また上位の混ざり具合がどの程度良いかを評価するため、順位ごとの適合率(Precision)が基礎となる。適合率は「上位いくつまでの候補のうち関連が何件か」を表し、ランキング全体を通して関連の出現傾向を読み取れる。

1.2 APの基本定義

平均適合率(Average Precision, AP)は、適合率の推移を関連文書が現れるタイミングに合わせて平均した指標である。ランキングを 1 つの数値として要約し、関連が早い段階で多く含まれているほど大きくなるよう設計されている。一般にクエリ(検索課題)ごとに算出し、複数クエリの結果をさらに平均したものが後述の mAP となる。

1.2.1 関連文書出現位置に基づく平均

APは、関連文書が順位 i に現れたときの「その時点までの適合率」を取り出す。これを関連が出現した全順位に対して平均することで、関連の位置情報を適合率の履歴に反映させる。つまり、関連が現れた回数そのものだけでなく、「何番目で出たか」という順序を評価に組み込む。

1.2.2 適合率の取り方(段階的な計算)

具体的には、順位 i までに含まれる候補のうち関連が占める割合を計算し、その値を関連が出現した順位に対して記録する。関連が出現しない順位の適合率は、平均の対象から除かれるため、APは「関連が現れる瞬間」に焦点を当てた離散的な集計になる。このため、ランキングの局所的な改善が、関連が現れる瞬間に直接反映されやすい。

1.3 APが重視する性質

1.3.1 関連文書が上位にあるほど高くなる

APは、早い順位で関連が出るほど上位区間の適合率が高くなる傾向を利用する。結果として、関連が上位に寄っているランキングは、関連が出た瞬間の適合率が大きくなりやすく、指標値も上がる。逆に、関連が下位に固まる場合は、その間の適合率が低下し、平均への寄与が弱くなる。

1.3.2 早期打ち切りや順位変動への感度

順位の微小な入れ替えでも、関連文書が「どの順位に現れるか」が変われば、APに影響が生じる。特に関連の境界が接近している場合、上位の数順位の変動が適合率の値と平均対象の組を変えるため、感度が高いことがある。また、評価対象が有限の候補集合で打ち切られる場面でも、関連がどこまで返るかが直接評価に結び付く。

2 計算方法

2.1 データ前提記号

2.1.1 クエリ、候補集合、関連の定義

APの計算は通常、クエリ q ごとのランキングに対して行う。ランキングは候補集合の並びとして与えられ、各候補が関連であるかどうかはラベル付け(正解集合との一致や人手・ルールによる判定)によって決まる。関連の定義はタスクに依存し、例えば検索文書なら「そのクエリに答える文書」、検出なら「所定基準を満たす予測」といった形で整理される。

2.1.2 記号と前提(定量化の枠組み)

順位は 1 から始めて i とし、ランキングの i 番目の候補が関連であれば関連フラグを 1、そうでなければ 0 とする。関連文書の総数 (真の正解数) を通常 R と表す。さらに、順位 i までの適合率を P(i) とおくと、APは関連が現れた点の P(i) を平均化する形で定式化される。

2.2 APの算出手順

2.2.1 順位ごとの適合率の算出

まず、ランキングを上から順に見ていき、各順位 i までの「関連数」を数える。適合率 P(i) は「順位 i までの候補のうち関連が占める割合」として計算する。これにより、関連が多く含まれる上位区間ほど P(i) が高くなる。

2.2.2 関連文書が出た順位での平均

次に、関連フラグが 1 である順位 i だけを取り出し、そのときの P(i) を集める。APは、それらの合計を関連総数 R で割る形で求められる。結果として、APは 0 から 1 の範囲に収まりやすく、関連がすべて最後に出る場合は低く、上位に集まっている場合は高くなる。

2.3 典型的な計算例

2.3.1 関連が上位に偏る例

関連が 5 件あるとする(R=5)。ランキングの上位 5 件がすべて関連で、6位以降が非関連だと仮定すると、関連が出た各順位 i での適合率 P(i) は 1 に近い値になる。したがって、関連出現点で集めた適合率の平均も高くなり、APは最大に近い値を取る。上位に整然と関連が並んでいるため、関連が現れる瞬間ごとに「その時点の上位集合がほぼ正しい」状態になっている。

2.3.2 関連が下位に偏る例

同じく関連総数 R=5 でも、関連が下位側に固まっているとする。例えば最初の 10 件がすべて非関連で、その後に 5 件の関連が続く場合、関連が初めて現れる時点までの適合率 P(i) はかなり低い。関連が現れた後に適合率が徐々に改善しても、平均は最初に低い値を強く含むため全体の AP は小さくなる。つまり、適合率の「立ち上がり」が遅いほど評価が厳しくなる。

3 指標としての解釈注意

3.1 APと適合率・再現率の関係

3.1.1 PR曲線との関係(積分としての見方)

APは、適合率と再現率の関係を扱う平均として理解できる。関連が出現するたびに再現率が段階的に増え、その対応する適合率を結びつけると、いわゆる PR(Precision-Recall)曲線の離散点が得られる。APはその曲線の下側面積を数値的に近似する見方が可能であり、「再現率を上げていく過程で適合率がどれだけ保たれるか」を要約する。

3.1.2 離散データでの近似

実データでは連続的な閾値操作ではなく、ランキングという有限の並びが与えられるため、PR曲線も離散点の集合になる。このとき APは、関連が出た順位に対応する点を用いた近似として計算される。そのため、同じ大まかな傾向でも、関連の出現位置や候補数の取り方によって値が変動しうる。

3.2 評価条件の影響

3.2.1 関連ラベルの作り方

APの数値は、どの候補を「関連」とみなすかに強く依存する。ラベル付けの基準が厳しすぎれば関連が少なくなり、逆に広すぎれば関連が増えて指標が相対的に緩くなる。人手評価と自動判定、ルールの違いによって AP の比較可能性が変化するため、実験設定の記録が重要になる。

3.2.2 重複関連・不完全な正解集合

真の関連集合が完全に取得されていない場合、ある候補が実際には有用でも「非関連」と扱われることがある。このとき APは過小評価になる可能性がある。また、同一情報を異なる文書として扱うなど、重複がある設計では「関連」と判断される数の定義が結果に影響する。したがって、ラベル設計だけでなくデータ収集の網羅性も考慮する必要がある。

3.3 偏りと限界

3.3.1 タスク固有の順位付けの影響

APは順位の精度に敏感であり、タスクによって許容される誤差構造が異なる。例えばユーザが上位だけを短時間で閲覧する設計なら、上位の正確さが特に重要であり AP が適合しやすい。一方、より深い階層まで同程度に参照される場合には、同じ設計でも相対評価の偏りが生まれることがある。

3.3.2 クラス不均衡と解釈の難しさ

関連の数がクエリごとに大きく異なると、APの解釈が難しくなる。関連総数が少ないクエリでは、少数の改善が AP に大きく作用することがある。逆に関連総数が多いクエリでは、順位の改善が平均に反映されるまで時間がかかる。このため、APを横断比較する際はクエリ分布の差も念頭に置くとよい。

4 よく使われる派生指標と比較

4.1 mAP(平均適合率)

4.1.1 複数クエリの平均

mAP(Mean Average Precision)は、複数クエリに対する AP を平均した指標である。クエリ間の難易度差をならした形で、システム全体の検索・ランキング性能を比較するのに用いられる。平均方法は実験設定により異なり、単純平均だけでなく重み付けを行うケースもある。

4.2 物体検出でのAP

4.2.1 IoU基準による関連判定

物体検出における AP は、予測ボックスと正解ボックスの一致度として IoU(Intersection over Union)を用い、基準値を満たす予測を関連(正解として数える)とみなすことが多い。これにより、単なるクラス分類ではなく位置の当たり具合も含めたランキング評価が可能になる。

4.2.2 しきい値やカテゴリごとの集計

検出では IoU のしきい値やカテゴリ単位の集計方法が複数存在する。カテゴリごとに AP を求めて平均する設計や、複数の IoU 水準で AP を算出して統合する設計がある。いずれも「何を関連とみなすか」と「集計の方法」が変わるため、数値の単純比較には注意が必要になる。

4.3 他の評価指標との違い

4.3.1 NDCG、MRR、Precision@Kとの比較

NDCG(正規化割引累積利得)は、順位ごとに段階的な重要度(ゲイン)を与える設定でよく用いられる。APが関連の有無中心の集計であるのに対し、NDCGは順位に応じた割引を組み合わせて評価する点に特徴がある。MRR(Mean Reciprocal Rank)は最初に関連が出た順位のみを重視するため、APよりも早期ヒットの一点に寄りやすい。Precision@Kは上位 K 件の適合率だけを取り出すため、APのように関連出現の複数タイミングを全て平均する形とは異なる。

4.3.2 目的に応じた指標選択

どの指標が適切かは、ユーザ体験やタスク要件に依存する。上位の候補を少数だけ見ればよいなら Precision@K や NDCG が直感に合いやすい場合がある。多様な関連の出現タイミングを総合して評価したいなら AP が扱いやすい。ランキング全体の傾向を比較する設計では mAP と組み合わせて使うことが多く、評価目標に沿って指標を選ぶことが実務上の要点となる。