ベンチマーク

OpenBookQA

原文:OpenBookQA

小規模な「教科書持ち込み可」の科学QAベンチマーク。中核となる事実に常識を組み合わせて4択問題に答える必要がある。

OpenBookQAの得点の推移点は各モデルの得点(70件)。破線はその時点までの最高得点。点にマウスを乗せるとモデル名と得点を表示その時点の最高得点Meta AIOpenAIMicrosoftTechnology Innovation InstituteMosaicMLGoogle Researchその他ランダムに答えた場合0%20%40%60%80%20202021202220232024得点モデルの公開日出典:Epoch AI(CC BY 4.0)・作図:AGI Hub

2026年10月1日時点のデータ。最新の得点は原文へ。

概要

OpenBookQAは、初等科学の文の集まり(「持ち込みの教科書」)と、その中核となる事実だけでは答えられない問題を中心に作られている。正解するには、与えられた事実を日常の知識や補助的な情報と組み合わせて、紛らわしい選択肢を除外する必要があることが多い。

規模は大きくないが、OpenBookQAは明示的な知識と暗黙の知識を橋渡しできるモデルを高く評価する。これは、科学QAで安定した性能を出すうえで中心となる能力である。

← ベンチマーク一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/benchmarks/open-book-qa