データインサイト

ベンチマークのスコアは、分野をまたいでも強く相関している

モデルの順位は、ほとんどのAIベンチマークにわたって驚くほど一貫している。重複して評価されたモデルが5つ以上ある15のベンチマークについて見ると、異なるカテゴリに属するベンチマーク同士の相関の中央値は0.68で、同じカテゴリに属するもの同士の0.79と比べても低くない。

ベンチマークのスコアは、分野をまたいでも強く相関しているベンチマークのスコアは、分野をまたいでも強く相関しているペアごとの順位相関Lech Mazur WritingFiction.liveBenchGeoBenchGPQA DiamondVPCTSimpleBenchARC-AGI-1SWE-bench(Bash Only)WeirdML (v2)Aider PolyglotMETR Time HorizonsFrontierMath Tiers 1-3FrontierMath Tier 4MATH Level 5OTIS Mock AIME 24-25Epoch能力指数(ECI)Lech Mazur WritingFiction.liveBenchGeoBenchGPQA DiamondVPCTSimpleBenchARC-AGI-1SWE-bench(Bash Only)WeirdML (v2)Aider PolyglotMETR Time HorizonsFrontierMath Tiers 1-3FrontierMath Tier 4MATH Level 5OTIS Mock AIME 24-25Epoch能力指数(ECI)0.400.510.430.400.210.620.540.330.600.460.460.320.670.420.800.600.520.570.270.360.320.340.140.410.530.480.390.370.320.770.810.520.710.680.840.580.790.830.560.390.720.730.900.950.880.670.830.800.870.930.530.790.870.580.830.890.590.970.620.870.930.170.560.760.340.950.900.830.850.930.940.770.800.960.400.890.940.840.920.900.690.840.920.750.880.980.950.920.440.790.920.740.890.910.920.630.820.940.670.950.960.420.930.910.600.970.590.780.910.670.690.730.890.730.570.690.830.780.860.860.400.510.430.400.210.620.540.330.600.460.460.320.670.420.800.600.520.570.270.360.320.340.140.410.530.480.390.370.320.770.810.520.710.680.840.580.790.830.560.390.720.730.900.950.880.670.830.800.870.930.530.790.870.580.830.890.590.970.620.870.930.170.560.760.340.950.900.830.850.930.940.770.800.960.400.890.940.840.920.900.690.840.920.750.880.980.950.920.440.790.920.740.890.910.920.630.820.940.670.950.960.420.930.910.600.970.590.780.910.670.690.730.890.730.570.690.830.780.860.861.001.001.001.001.001.001.001.001.001.001.001.001.001.001.001.00色が濃いほど相関が高い(0〜1)。セル内の数値はスピアマンの順位相関係数(対角は1)。行・列の並びは原図と同じくカテゴリ順(その他→推論→コーディング→数学→ECI)。ベンチマークのカテゴリ(原図の分類) その他:Lech Mazur Writing、Fiction.liveBench、GeoBench、GPQA Diamond/推論:VPCT、SimpleBench、ARC-AGI-1/コーディング:SWE-bench (Bash Only)、WeirdML (v2)、Aider Polyglot、METR Time Horizons/数学:FrontierMath Tiers 1-3、FrontierMath Tier 4、MATH Level 5、OTIS Mock AIME 2024-2025出典:Epoch AI(CC BY 4.0)・作図:AGI Hubepoch.ai

こうした相関は、規模とともに向上する共通の能力因子の存在を示唆しており、これがEpoch AI のEpoch能力指数(ECI)の背後にある直観である。ただし、この事実は、相関の推定値が標本のばらつきに強く左右されることも意味する。あるモデルより数年後にリリースされたモデルは、ほぼどんなタスクでも勝つため、広い期間にわたるベンチマーク同士ほど相関が高くなりやすい。

このグラフについて詳しく

Epoch AI のBenchmarking Hubにあるベンチマーク間の相関を、ペアごとの相関行列で可視化した。相関はすべてスピアマンの(順位)相関である。

ほかの各ベンチマークと5つ以上のモデルが共通して評価されている17のベンチマークについて見ると、順位相関の中央値は0.73である。ベンチマークのカテゴリをまたいだ相関は、カテゴリ内の相関とほぼ同じくらい高い。異なるカテゴリのベンチマーク同士の相関の中央値は0.68、同じカテゴリ同士では0.79である。ベンチマーク間のこの高い一致が、単一の能力因子をとらえるよう設計されたEpoch能力指数(ECI)の動機になっている。当然ながら、ECIはその元になるベンチマークとよく相関している。

データ(原文・英語)

← データインサイト一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/data-insights/benchmark-correlations