データの解説 ベンチマーク・レビュー
概要
原文:Benchmark Reviews documentation – Overview
Epochのベンチマークレビューは、外部のベンチマークを私たちが独立にレビューするものである。 この解説では、各ベンチマークの評価に使う評価基準(ルーブリック)を説明し、よくある質問に答える。 各ベンチマークには、次のいずれかの判定を付ける。
- 検証済み 検証済み(Verified):ベンチマークを、おおむね説明どおりに解釈できる。誤りがあっても、結果に大きな影響はない。
- 欠陥あり 欠陥あり(Flawed):ベンチマークに実質的な欠陥が一つ以上あり、結果を正しく解釈するには利用者がそれを知っておく必要があると私たちは考えている。
- 情報不足 情報不足(Not enough information):ベンチマークをレビューするのに十分な情報がない。
- Epoch作成 Epoch作成(By Epoch):利益相反があるため、私たちが作成したベンチマークはレビューしない。
質問や、追加してほしいベンチマークの提案があれば、reviews@epoch.ai まで連絡してほしい。