MMMU-Pro
多分野の画像つき問題の理解と推論(ツールなし)。
- 分類
- マルチモーダル
- 単位
- パーセント(%)
- 高いほど良い
- 比較グループ
- 3グループ
- すべてのモデルの順位(記録)・順位を付けた結果 5 件
すべてのモデルの順位(記録)
旧モデルと Claude Code / Codex で選べないモデルを含めて、比較グループごとに順位を付け直したものです。順位を付ける顔ぶれが違うので、上の順位とは違います。
旧モデル・選べないモデルを含む順位を開く(5 件)
公式の結果(Kimi K3.1 Pro (Hugging Face model card, moonshotai))
| 順位 | モデル | effort | スコア | 出典のコスト(指標) | 計測・報告 | 出典 |
|---|---|---|---|---|---|---|
| 1 | Kimi K3.1 Pro | Max | 84.1% | — | Moonshot AI | Kimi K3.1 Pro (Hugging Face model card, moonshotai)2026-11-13 取得・ベンダー発表値(Moonshot AI 自己申告)。表の列見出し Kimi K3.1 Pro (max)、表注: all Kimi K3.1 Pro results use reasoning effort max, temperature 1.0, top-p 0.95。公式プロトコル(入力順を保ち画像を先頭に置く)出典の該当箇所MMMU-Pro | 84.1所在 HF モデルカード「3. Evaluation Results」の表、MMMU-Pro 行・Kimi K3.1 Pro (max) 列(左端の数値列)。根拠の脚注: Reasoning 4 |
公式の結果(Kimi K3 (Hugging Face model card, moonshotai))
| 順位 | モデル | effort | スコア | 出典のコスト(指標) | 計測・報告 | 出典 |
|---|---|---|---|---|---|---|
| 1 | Kimi K3 | Max | 81.6% | — | Moonshot AI | Kimi K3 (Hugging Face model card, moonshotai)2026-11-13 取得・ベンダー発表値(Moonshot AI 自己申告)。表注: All Kimi K3 results are obtained with reasoning effort set to 'max' and temperature = 1.0出典の該当箇所MMMU-Pro | 81.6 / 83.4所在 HF モデルカード「3. Evaluation Results」の表、MMMU-Pro(ツールなし / ありの左) 行・Kimi K3 (max) 列(左端の数値列)。根拠の脚注: Multimodal(3 回平均・公式プロトコル) |
公式の結果(Gemini 3.5 Flash model card)
| 順位 | モデル | effort | スコア | 出典のコスト(指標) | 計測・報告 | 出典 |
|---|---|---|---|---|---|---|
| 1 | Gemini 3.5 Flash | 記載なし | 83.6% | — | Gemini 3.5 Flash model card2026-11-13 取得・ベンダー発表値。Google の model card の表。methodology PDF(deepmind.google/models/evals-methodology/gemini-3-5-flash): All of the results are all run with the Gemini API ... with default sampling settings unless indicated otherwise。Gemini は自社計算・Standard(10 択)と Vision の平均・ツールなし。thinking level の記載なし出典の該当箇所MMMU-Pro Multimodal understanding and reasoning | No tools | 83.6%所在 Gemini 3.5 Flash model card の Evaluation 表、MMMU-Pro(No tools) 行・Gemini 3.5 Flash 列。自社計算の根拠は methodology PDF の Image / MMMU-Pro | |
| 2 | Gemini 3 Flash Preview | 記載なし | 81.2% | — | Gemini 3.5 Flash model card2026-11-13 取得・ベンダー発表値。Google の model card の表。methodology PDF(deepmind.google/models/evals-methodology/gemini-3-5-flash): All of the results are all run with the Gemini API ... with default sampling settings unless indicated otherwise。Gemini は自社計算・Standard(10 択)と Vision の平均・ツールなし。列見出しは Gemini 3 Flash(Gemini API のモデル一覧で該当するのは gemini-3-flash-preview のみ)。thinking level の記載なし出典の該当箇所MMMU-Pro Multimodal understanding and reasoning | No tools | 81.2%所在 Gemini 3.5 Flash model card の Evaluation 表、MMMU-Pro(No tools) 行・Gemini 3 Flash 列。自社計算の根拠は methodology PDF の Image / MMMU-Pro | |
| 3 | Gemini 3.1 Pro Preview | 記載なし | 80.5% | — | Gemini 3.5 Flash model card2026-11-13 取得・ベンダー発表値。Google の model card の表。methodology PDF(deepmind.google/models/evals-methodology/gemini-3-5-flash): All of the results are all run with the Gemini API ... with default sampling settings unless indicated otherwise。Gemini は自社計算・Standard(10 択)と Vision の平均・ツールなし。列見出しは Gemini 3.1 Pro(Gemini API のモデル一覧で該当するのは gemini-3.1-pro-preview のみ)。thinking level の記載なし出典の該当箇所MMMU-Pro Multimodal understanding and reasoning | No tools | 80.5%所在 Gemini 3.5 Flash model card の Evaluation 表、MMMU-Pro(No tools) 行・Gemini 3.1 Pro 列。自社計算の根拠は methodology PDF の Image / MMMU-Pro |