ベンチマーク

HellaSwag

原文:HellaSwag

敵対的にふるい分けた、常識にもとづく文完成のベンチマーク。日常の場面で何がもっともらしいかの判断を測る。

HellaSwagの得点の推移点は各モデルの得点(107件)。破線はその時点までの最高得点。点にマウスを乗せるとモデル名と得点を表示その時点の最高得点OpenAITechnology Innovation InstituteMeta AIMicrosoftMicrosoft,NvidiaAlibabaその他ランダムに答えた場合0%20%40%60%80%100%202020212022202320242025得点モデルの公開日出典:Epoch AI(CC BY 4.0)・作図:AGI Hub

2026年10月1日時点のデータ。最新の得点は原文へ。

概要

HellaSwagは、物語の続きとして最も筋の通ったものをモデルに選ばせる。誤答の選択肢は、紛らわしいほどもっともらしくなるように生成・選別されている。データセットは手順の説明文や動画の説明文のコーパスから作られているので、正解するには物理的な常識と、日常の一連の動作についての知識が必要になる。

HellaSwagは、それ以前のモデルがつけ込んでいた表面的な手がかりが通用しないように作られている。常識推論と、敵対的に選ばれた誤答選択肢への頑健さを調べる定番のテストである。

← ベンチマーク一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/benchmarks/hella-swag