データインサイト

GPT-6 Astraは数学のベンチマークでは首位だが、ソフトウェアエンジニアリングではそうではない

OpenAIのGPT-6 Astraは、Epoch AI のモデル能力の総合指標であるEpoch能力指数(Epoch Capabilities Index、ECI)で166のスコアを記録して首位に立ち、AnthropicのClaude Fable 5.1(164)とOpenAI自身のGPT-5.6 Sol(162)を上回った。ただし、この数字は複雑な事情を覆い隠している。AstraのMath-ECIは170で過去最高を更新した一方、ソフトウェアエンジニアリングのベンチマークでは、AstraのSWE-ECIは164で、依然としてFable 5.1の167に及ばない。

GPT-6 Astraは数学のベンチマークでは首位だが、ソフトウェアエンジニアリングではそうではないGPT-6 Astraは数学のベンチマークでは首位だが、ソフトウェアエンジニアリングではそうではないGPT-6 AstraClaude Fable 5.1GPT-5.6 SolKimi K3一般のECIGPT-6 AstraClaude Fable 5.1GPT-5.6 SolKimi K3GPT-6 Astra 166.31Claude Fable 5.1 164.47GPT-5.6 Sol 161.81Kimi K3 157.63166164162158数学のECI(Math-ECI)GPT-6 AstraClaude Fable 5.1GPT-5.6 SolKimi K3GPT-6 Astra 169.83Claude Fable 5.1 165.73GPT-5.6 Sol 162.76Kimi K3 158.39170166163158ソフトウェアエンジニアリングのECI(SWE-ECI)GPT-6 AstraClaude Fable 5.1GPT-5.6 SolKimi K3150155160165170175180ECIスコアGPT-6 Astra 163.58Claude Fable 5.1 167.44GPT-5.6 Sol 160.47Kimi K3 161.54164167160162ベンチマークの分野別に見たEpoch能力指数(ECI)。横線は90%信頼区間。出典:Epoch AI(CC BY 4.0)・作図:AGI Hubepoch.ai

リリース前の評価にもとづき、Astraにはリリース時点でECI 169を付けていたが、ソフトウェアエンジニアリングのベンチマーク結果が増えるにつれてスコアは下がった。Math-ECIとSWE-ECIはいずれも分野別のECIで、1つの分野のベンチマークだけで再推定したものであり、一般のECIと比べたモデルの得意分野を測る。これらの指標や独自に選んだベンチマークの組み合わせは、分野別ECIエクスプローラーで確認できる。

このグラフについて詳しく

最近の4つのモデル(GPT-6 Astra、Claude Fable 5.1、GPT-5.6 Sol、Kimi K3)を、Epoch能力指数(ECI)と、数学とソフトウェアの能力を測るための分野別のECIで比較した。分野別のECIでは、一般のECIの推定で得たベンチマークの難易度パラメータをそのまま使い、特定の分野のベンチマークの部分集合だけから各モデルの能力を推定し直す。そのため、得られたスコアは一般のECIのスコアと比較できる。手法の詳細は分野別ECIのドキュメントを参照。

データ(原文・英語)

← データインサイト一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/data-insights/astra-eci-breakdown