ベンチマーク

LAMBADA

原文:LAMBADA

長い文脈を扱う言語モデリングのベンチマーク。文章の最後の単語を、それまでの文脈全体から予測させる。

LAMBADAの得点の推移点は各モデルの得点(53件)。破線はその時点までの最高得点。点にマウスを乗せるとモデル名と得点を表示その時点の最高得点Meta AIOpenAIBaichuanAlibabaDeepMindMicrosoft,Nvidiaその他0%20%40%60%80%202220232024得点モデルの公開日出典:Epoch AI(CC BY 4.0)・作図:AGI Hub

2026年10月1日時点のデータ。最新の得点は原文へ。

概要

LAMBADAでは、正解となる最後のトークンは、たいてい最後の一文だけからは予測できないが、それより前の文脈全体を読めば明らかになる。そのため、局所的なnグラムの統計を超えた、長い範囲にわたる一貫性、登場する人や物の追跡、物語の理解が試される。

LAMBADAは、生成モデルが長い文脈を活かして次のトークンを正確に予測できるかを示す、簡潔で広く使われている指標であり続けている。

← ベンチマーク一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/benchmarks/lambada