Unsloth、Hugging Face累計5億DLを報告　Qwen3.8-27B GGUFが牽引

Unslothは公式Xで、Hugging Face上のモデル累計ダウンロードが5億件を超え、Qwen3.8-27B GGUFが同社の歴代最多ダウンロードモデルになったと報告した。数字の大きさだけでなく、27B級の視覚言語モデルをローカル環境へ持ち込む量子化版が牽引役になった点が興味深い。

ただし、9月24日に確認したUnslothのHugging Face組織ページでは同モデルに約713万件という変動中の表示がある一方、組織全体の累計値や歴代順位は公開されていない。5億件と1位はUnslothの報告であり、公開ページから独立に再計算できる数字ではない。

新モデルではなく、27Bモデルの量子化版

今回の主役は、新しい基盤モデルそのものではない。Qwen公式のQwen3.8-27BをUnslothがGGUF形式へ量子化した派生物だ。Unslothは8月19日にDynamic v3.0版への更新を案内している。

Dynamic v3.0の説明によると、従来のv2.0から、imatrixと呼ばれる量子化用の較正データ、レイヤー選択、量子化手法を見直し、エージェント型コーディング、チャット、多言語での品質を狙った。これは学習時に量子化へ適応させるQAT/QADではなく、学習後の量子化だ。精度改善はUnsloth自身の評価による主張で、こちらでベンチマークを再現したわけではない。

4ビット推奨版でも17〜19GBが目安

Unslothのモデルページでは、推奨4ビット版「UD-Q4_K_XL」をUnsloth RunやDesktopで実行でき、テキストと画像、思考モード、コーディングエージェント用途に対応するとしている。必要なRAMとVRAMの合計は17〜19GBが目安だ。BF16版は56GB、2ビット版でも11〜13GBなので、「量子化版なら軽量端末で無条件に動く」という話ではない。容量が足りなくてもディスクへのオフロードで動く場合はあるが、公式資料も低速化を明記する。

量子化を小さくするほど機能構成も変わる。8.37GB以下の版は約500MBを節約するためMTPモジュールを含まず、使うには別配布のQ4_0 MTPモジュールが必要だ。また、ベースモデルの標準文脈長は262,144トークン。100万トークンへ広げるにはYaRNなどの設定が必要で、Qwenは静的YaRNが短い入力の性能へ影響し得るとして、長文処理が必要な場合だけ変更するよう勧めている。

5億ダウンロードは普及の勢いを示す節目だが、実際に選ぶときはダウンロード数より、欲しい量子化版が手元のメモリに収まるか、必要な機能が省かれていないかを見るほうが実用的だ。

参考資料

• Unsloth AI — Hugging Face organization
• Unsloth：Qwen3.8-27B
• Unsloth Dynamic 3.0 GGUFs
• Qwen公式：Qwen3.8-27B
• Introducing Unsloth Dynamic v3 Qwen3.8

参照したX投稿

Unsloth（@unslothai）の元投稿