GLM-5.3-FlashのUnsloth GGUF、128GB RAMで3-bitローカル実行を案内

金のニワトリ氏（@gosrum）は、GLM-5.3-FlashのGGUFが公開されていたことにXで注目し、「1-bitなら128GBでも動かせそうか」と期待を示した。引用されたUnslothの投稿では、Unsloth GGUFの3-bit版を128GB RAMでローカル実行できると案内している。大きなモデルを手元で試したい人には、必要メモリの具体的な目安が見えた点が気になるニュースだ。

3-bitの案内と1-bitへの期待は分けて読む

元投稿に含まれる引用には、ガイドとGGUFへのリンクも添えられている。ただし、128GB RAMでの実行として明示されているのは3-bit版だ。1-bit版については金のニワトリ氏が可能性を尋ねたもので、動作確認や測定結果ではない。

この違いは小さいようで大切だ。すぐ試すなら3-bit版と128GB RAMの組み合わせが投稿上の出発点になる。1-bit版は、実際の配布物や実行条件が確認できるまで「動くかもしれない」という段階に置いておきたい。

ベンチマーク比較はUnslothの主張

Unslothは引用投稿で、GLM-5.3-Flash（ox-alpha）がDeepSWE、コーディング、エージェント系ベンチマークでClaude Opus 4.8に匹敵すると述べている。一方、引用文には個別スコアや詳しい測定条件までは示されていない。

今回の材料は、金のニワトリ氏の観察とUnslothの案内であり、独立した検証結果ではない。ローカル実行の入口としては具体的だが、速度や品質を判断するには、ガイドの条件を確かめたうえで自分の環境で試す必要がある。

参照したX投稿

金のニワトリ氏（@gosrum）の元投稿