ベンチマーク

WinoGrande

原文:WinoGrande

大規模な代名詞解決・共参照解析のベンチマーク。アノテーションの偏りによる手がかりを減らし、常識を重視するよう設計されている。

WinoGrandeの得点の推移点は各モデルの得点(137件)。破線はその時点までの最高得点。点にマウスを乗せるとモデル名と得点を表示その時点の最高得点Meta AIOpenAITechnology Innovation InstituteDeepMindMistral AIGoogle Researchその他ランダムに答えた場合0%20%40%60%80%202020212022202320242025得点モデルの公開日出典:Epoch AI(CC BY 4.0)・作図:AGI Hub

2026年10月1日時点のデータ。最新の得点は原文へ。

概要

WinoGrandeは、古典的なWinograd Schema Challengeを一般化したもので、敵対的なフィルタリングを経た例をはるかに多く収めている。各問題では、あいまいな代名詞が何を指すかを、常識と世界についての知識にもとづいて正しく選ぶ必要がある。

誤答の選択肢が注意深く作られているため、WinoGrandeでは手っ取り早い目安に頼る解き方が通用しにくく、モデルが文章中の事物や因果関係を本当に追えているかがよくわかる。

← ベンチマーク一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/benchmarks/wino-grande