Editor’s Note
XピックアップOllamaにNemotron 3.5 Super VL追加 80〜249GBの配布形態と「最大5倍」の条件
Ollamaは10月16日（日本時間）、NVIDIA Nemotron 3.5 Super VLをモデル一覧に追加した。視覚理解、推論、ツール利用を一つにまとめた120B級モデルを、ollama run nemotron-3.5-superで呼び出せる。画像や文書を読むエージェントをローカル環境へ持ち込みたい人には面白い追加だが、必要な保存容量と性能表示は分けて見たほうがいい。
80〜249GB、同じ名前でも配布物は違う
上流のモデルカードによる正式系統は「NVIDIA Nemotron 3.5 Super VL 120B-A12B」。総120Bパラメータのうち、トークンごとに12Bを有効化するMoEモデルだ。
Ollamaのタグ一覧には9種類があり、latestは環境に応じて約80〜90GB。明示的にはNVFP4のMLX版が80GB、Q4_K_M版が90GB、Q8_0版が133GB、BF16版が249GBと、量子化方式やランタイムが異なる。つまり「80GBで動く版」と上流のBF16版は、同じ精度の単一ファイルではない。
上流BF16版の公式構成例は4基のH100または2基のGB200を必要とする。一方で、この条件をOllamaの量子化版すべてへそのまま当てはめることもできない。導入判断ではモデル名より先に、使うタグ、空き容量、実行環境を確認したい。
視覚を別モデルへ渡さない利点
NVIDIAは、推論、命令追従、ツール利用に加え、文書・画像・動画の理解を一つのモデルへ統合したとしている。従来のようにテキストモデルと別の視覚言語モデルをつなぐ構成に比べ、モデル間で文脈を受け渡す工程を減らせるのが実用上の利点だ。公式レシピには、図表や画面、文書ページへの質問、関数呼び出し、財務文書画像のLoRA調整、ダッシュボードやスキャン文書を調べるエージェントの例が並ぶ。
ただし、上流モデルが動画入力を掲げる一方、10月16日に確認したOllamaのタグ一覧が明記する入力はTextとImageのみ。Ollama版で動画を扱えるかは、掲載情報からは確認できない。
1Mコンテキストと「最大5倍」の読み方
Ollamaのモデルページとモデルカードは最大1Mトークンを掲げる。これは設計上の上限で、プロンプト、画像、履歴、ツール結果、生成文が同じ枠を共有する。実際に使える長さはメモリ、ランタイム設定、同時実行数に左右されるため、1Mを常に使えるという意味ではない。
「最大5倍」もNVIDIAの発表によるベンダー測定だ。公開図では、100K入力のArtificial Analysis Intelligence Index系タスクをBaseten上で測り、Inkling Smallと比較している。Ollamaの各タグや一般的なローカル環境で5倍になる証拠ではなく、単一GPUの具体的な構成も本文からは特定できない。今回は公開資料に基づく整理で、編集部による実行や性能検証ではない。
