Mini-o3: Scaling Up Reasoning Patterns and Interaction Turns for Visual Search
Xin Lai, Junyi Li, Wei Li, Tao Liu, Tianjian Li, Hengshuang Zhao
Reason for Selection
LLMを用いた複雑な視覚探索タスクへの応用。複数ツールの連携、試行錯誤、長期推論、スケーラビリティなど注目点が多い。
Simple Summary (for Social Media)
画像検索で難問を解くAI「Mini-o3」登場！試行錯誤を繰り返す深い思考で、従来をはるかに超える精度を実現。複雑な手順も難なくこなすその能力は、まるで人間のようです！
Detailed Summary
本論文は、大規模マルチモーダルモデルにおける画像ベースツールと強化学習を用いた視覚問題解決の限界を克服するMini-o3システムを提案する。既存のオープンソースアプローチは単調な推論パターンと限定的なインタラクション回数に留まり、試行錯誤を必要とする複雑なタスクには不向きであるという背景がある。
Mini-o3は、OpenAI o3のような深層かつ多ターン（数十ステップ）に渡る推論を実行することで、困難な視覚探索タスクにおいて最先端の性能を達成する。その実現には三つの主要な要素が用いられている。第一に、探索的推論を目的とした数千の困難な視覚探索問題からなるVisual Probe Datasetを構築した。第二に、深さ優先探索、試行錯誤、目標維持といった多様な推論パターンを示すコールドスタート軌跡を得るための反復的なデータ収集パイプラインを開発した。第三に、強化学習において最大ターン数に達した応答（オーバーターン応答）に対するペナルティを回避するオーバーターンマスキング戦略を提案し、訓練時間の効率性とテスト時のスケーラビリティのバランスを取った。
Mini-o3は、わずか6ターンの上限で訓練されているにも関わらず、推論時には自然に数十ターンにスケールし、ターン数が増加するにつれて精度が向上する。これは、オーバーターンマスキング戦略の効果を示している。広範な実験により、Mini-o3は豊かな推論パターンと深い思考経路を生み出し、複雑な視覚探索問題を効果的に解決することが実証された。本研究は、大規模マルチモーダルモデルにおける深層推論能力の向上に大きく貢献する。
Visual Representation Alignment for Multimodal Large Language Models
Heeji Yoon, Jaewoo Jung, Junwan Kim, Hyungyu Choi, Heeseong Shin, Sangbeom Lim, Honggyu An, Chaehyun Kim, Jisang Han, Donghyun Kim, Chanho Eom, Sunghwan Hong, Seungryong Kim
Reason for Selection
マルチモーダルLLMの弱点である視覚的推論能力の向上を、VFMsとの連携で解決するVIRALを提案。
Simple Summary (for Social Media)
画像とテキストを理解するAIは、画像認識が苦手？ 本研究は、既存のAIモデルに画像理解の達人「VFMs」の知恵を共有させることで、物体の数え上げや空間認識など、画像中心のタスクで大幅な性能向上を実現しました！ 複雑な画像もバッチリ分析！
Detailed Summary
本論文は、視覚指示チューニングを用いて訓練されたマルチモーダル大規模言語モデル（MLLM）が様々なタスクで高い性能を示す一方、物体カウントや空間推論といった視覚中心タスクでは依然として限界がある問題に取り組んでいる。その原因として、テキストのみの教師あり学習パラダイムが挙げられており、これは視覚経路への間接的なガイダンスしか提供せず、MLLMが訓練中に微細な視覚情報を捨てる傾向を生むと指摘する。
そこで本研究では、MLLMの内部視覚表現と、事前学習済みの視覚基礎モデル（VFM）のそれらを整列させる、シンプルながらも効果的な正則化戦略であるVIsual Representation ALignment（VIRAL）を提案する。VIRALは、この表現の整列を明示的に強制することで、MLLMが入力視覚エンコーダからの重要な視覚情報を保持するだけでなく、VFMからの追加的な視覚知識を補完することを可能にし、複雑な視覚入力に対する推論能力を高める。
実験では、広く採用されているマルチモーダルベンチマークの全タスクにおいて一貫した性能向上を示した。さらに、包括的なアブレーションスタディを通じて、提案手法の主要な設計選択の妥当性を検証している。本研究のシンプルな発見は、MLLMの訓練における視覚情報の効果的な統合という重要な方向性を拓くものと期待される。具体的には、VFMの豊富な視覚知識をMLLMに効果的に取り込むことで、視覚中心タスクにおける性能を飛躍的に向上させることが示された。この手法は、既存のMLLMの訓練手法に容易に追加できるため、実用的なインパクトも大きいと言える。
Parallel-R1: Towards Parallel Thinking via Reinforcement Learning
Tong Zheng, Hongming Zhang, Wenhao Yu, Xiaoyang Wang, Xinyu Yang, Runpeng Dai, Rui Liu, Huiwen Bao, Chengsong Huang, Heng Huang, Dong Yu
Reason for Selection
LLMの並列思考能力を、強化学習を用いたParallel-R1によって実現。数学ベンチマークでの良好な結果も注目点。
Simple Summary (for Social Media)
AIが複数の解法を同時に考える「並列思考」を実現！従来法の限界を突破し、難しい数学問題でも正解率大幅アップ！独自の学習法で、最初は試行錯誤、最後は多角的検証で解を導き出します。驚くべき精度向上で、AIの思考能力進化に貢献！
Detailed Summary
本論文は、大規模言語モデル（LLM）の推論能力向上を目指し、並列思考を導入した強化学習フレームワーク「Parallel-R1」を提案している。既存手法が合成データを用いた教師あり微調整（SFT）に依存し、探索と汎化よりも模倣を促進するのに対し、Parallel-R1は複雑な現実世界の推論タスクに並列思考能力を付与する初の強化学習ベースのフレームワークである。
手法として、Parallel-R1は段階的なカリキュラム学習を採用し、強化学習におけるコールドスタート問題に対処している。まず、容易なタスクからのプロンプト生成軌跡を用いたSFTにより、モデルに並列思考能力の基礎を植え付ける。その後、より困難な問題で強化学習に移行し、この能力の探索と汎化を促進する。
MATH、AMC23、AIMEといった数学ベンチマークを用いた実験の結果、Parallel-R1は並列思考能力を効果的に獲得し、困難なタスクで直接強化学習を行った逐次思考モデルと比較して8.4%の精度向上を示した。分析によると、モデルの思考様式は学習段階によって変化する。初期段階では探索戦略として、後期段階では多角的な検証として並列思考を用いることが確認された。特に注目すべきは、並列思考を中間段階の探索足場として活用することで、強化学習後の性能上限が向上し、AIME25においてベースラインと比較して42.9%の改善が見られた点である。これは、一時的な探索段階が最終的な性能に大きく貢献することを示唆している。 コード、データを含む全てをオープンソースとして公開している。
CAViAR: Critic-Augmented Video Agentic Reasoning
Sachit Menon, Ahmet Iscen, Arsha Nagrani, Tobias Weyand, Carl Vondrick, Cordelia Schmid
Reason for Selection
動画推論タスクにおいて、LLMエージェントが動画モジュールをツールとして活用。複雑な推論を実現。
Simple Summary (for Social Media)
動画理解AIは進化中！複雑な質問にも対応できるよう、巨大言語モデルと動画解析AIを組み合わせた新システムを開発。従来より高い精度で、長い動画からの複雑な質問にも答えられるようになりました！
Detailed Summary
本論文は、近年進歩著しい動画理解において、複雑な推論を要するタスクにおける性能向上が課題となっている点を指摘している。既存手法では、短い動画からの知覚は高度化しているものの、複雑なクエリや長尺動画への対応は不十分であり、LVBench、Neptune、ActivityNet-RTLなどのベンチマークでもその限界が示されている。
本研究では、既存の動画知覚能力を複雑な動画推論に活用できるか検証するため、動画モジュールをサブエージェント（ツール）として利用可能な大規模言語モデルエージェントを開発した。Visual Programming、ViperGPT、MoReVQAなどの先行研究のように固定的な手順に従うのではなく、本エージェントは各モジュール呼び出しの結果に基づいて次のステップを動的に決定する。
手法としては、テキスト推論分野の手法に着想を得て、エージェントの行動列の成功・失敗を判別する批評家（critic）を導入した。エージェントは、動画理解に必要な様々なモジュール（例えば、物体検出、行動認識など）へのアクセスを有し、批評家はエージェントが生成した行動列を評価し、成功例から学習することでエージェントの性能向上を図る。
結果として、提案手法は前述のベンチマークデータセットにおいて高い性能を達成した。これは、大規模言語モデルと動画知覚モジュールの組み合わせ、そして動的な行動計画と批評家による学習効果が、複雑な動画推論タスクにおいて有効であることを示している。従来の固定的な手順に基づく手法とは異なり、本研究のアプローチはより柔軟で適応的な動画理解システムの実現に貢献する可能性を持つ。
SimpleQA Verified: A Reliable Factuality Benchmark to Measure Parametric Knowledge
Lukas Haas, Gal Yona, Giovanni D'Antonio, Sasha Goldshtein, Dipanjan Das
Reason for Selection
LLMの事実性を評価するベンチマークSimpleQAの改良版。GeminiやGPT-5の性能評価結果も興味深い。
Simple Summary (for Social Media)
AIの事実確認能力を測る新基準「SimpleQA Verified」が登場！既存基準の欠点を克服し、より正確で難しい質問でLLMを評価。Gemini 2.5 Proが最高精度を記録！AIの「うそつき」問題解決への大きな一歩です！
Detailed Summary
本論文は、大規模言語モデル（LLM）の事実性の評価を目的とした、改良版SimpleQAベンチマーク「SimpleQA Verified」を提案している。既存のSimpleQAは、ラベルのノイズ、トピックの偏り、質問の冗長性といった問題を抱えていた。本研究では、これらの問題点を克服するため、多段階のフィルタリングプロセスを導入した。具体的には、重複の除去、トピックバランスの調整、情報源の照合を行い、より信頼性が高く、かつ困難な評価セットを構築した。さらに、自動評価プロンプトも改良されている。
SimpleQA Verifiedを用いた評価の結果、Gemini 2.5 Proが最先端のF1スコア55.6を達成し、GPT-5を含む他の最先端モデルを凌駕した。これは、パラメータ規模の増加による事実性の向上を正確に評価できることを示唆している。従来のベンチマークの問題点を解消したSimpleQA Verifiedは、LLMの幻覚（hallucination）問題の軽減に貢献するだけでなく、モデルの事実性に関する真の進歩をより正確に追跡するための高精度なツールとして、研究コミュニティに貢献する。ベンチマークデータセット、評価コード、リーダーボードは、公開されている。この研究は、LLMの事実性評価における重要な課題を解決し、より信頼性の高い評価基盤を提供することで、LLM研究の発展に大きく寄与する。