ベンチマーク

GSM8K

原文:GSM8K

小学校レベルの算数の文章題からなるベンチマーク。複数段階の算術的推論と、完全一致で採点される解答に重点を置く。

GSM8Kの得点の推移点は各モデルの得点(162件)。破線はその時点までの最高得点。点にマウスを乗せるとモデル名と得点を表示その時点の最高得点Meta AITechnology Innovation InstituteOpenAIAlibabaBaichuanMistral AIその他0%20%40%60%80%100%202020212022202320242025得点モデルの公開日出典:Epoch AI(CC BY 4.0)・作図:AGI Hub

2026年10月1日時点のデータ。最新の得点は原文へ。

概要

GSM8Kは短い物語形式の問題からなる。モデルは問題文を分解し、途中の計算を行い、最終的な数値の答えを出さなければならない。タスクは人間にとっては意図的に簡単にしてあるが、途中の推論を書き出す場(スクラッチパッド)を使わないモデルや、計算が正確でないモデルには難しい。

答えは自由形式の数値なので、このベンチマークは思考の連鎖(chain-of-thought)やツールを使った数学の評価によく使われる。完全一致で採点するため、誤りの原因を突き止めやすく、モデルどうしやプロンプトの手法どうしで比べやすい。

← ベンチマーク一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/benchmarks/gsm8k