X Digest
Xまとめ新Mac mini／Mac StudioのローカルAI選び、チップ名よりメモリ容量を先に見る
新しいMac mini／Mac StudioをローカルAI用に選ぶとき、判断の順番がはっきりしてきた。まず使いたいモデルがメモリに収まるか。次に、収まったモデルをどれだけ待たずに動かせるかだ。新チップの倍率だけで決めると、速いのに目的のモデルを読み込めない構成を選びかねない。
容量が入口、帯域はその次
Yume_X氏は、モデルを保持できるメモリを先に買うべきだと主張する。ユニファイドメモリはOSやブラウザも共有するため、公称容量をすべてLLMに使えるわけではない。同氏の目安では、macOSだけで8〜12GBを差し引く必要がある。例えば64GB構成でも、長い文脈を含む70Bの4bit量子化モデルには余裕が小さい、という見立てだ。
一方、メモリ帯域は、モデルが収まった後の生成速度に効く。同氏は、ニューラルアクセラレータによる最初の応答までの短縮と、帯域による生成中の短縮も分けている。実際の机上ではMac mini M4 Pro 64GBで27Bモデルを27トークン／秒で使っているという。この具体例を見ると、「起動できた」と「毎日気持ちよく使える」の間には、かなり距離がある。
大きなMoEが高メモリ機の理由になる
DMNSH氏が注目するのは、必要な部分だけを選んで動かすMoE（専門家混合）モデルのサイズだ。近年は40B未満のローカル向けモデルが目立つ一方、100B前後の選択肢には空白があったと分析し、Qwen3.8-Flash-NextのようなモデルがMac StudioやDGX Sparkなど高価な機器の需要を押し上げる可能性を挙げる。これは正式な製品予告ではなく、今後のオープンモデルを見通した本人の議論だ。
ここが面白い。ハードの価値は発売時の最高速度だけでなく、その容量に合うモデルが継続して出るかでも変わる。大容量を将来への保険として買うなら、モデル側の展開も同じくらい不確実だ。
第三者ベンチが出るまでは予測として見る
connect24h氏は、Apple公称としてM5 Ultraのメモリ帯域1.2TB/s、最大512GBのユニファイドメモリを紹介する一方、第三者ベンチがなく、測定条件も見えないと注意を促している。Yume_X氏の速度値にも予測が多く、MLXやMetal側の最適化次第で結果は変わり得る。
購入前に確認したい順番はシンプルだ。
- 使いたいモデルと量子化形式が、OS分を引いた実メモリに収まるか
- 最初の応答時間と生成速度のどちらを改善したいか
- Mac上の実測値が出ているか、CUDA向け結果の換算ではないか
新しいMacは有力な候補だが、予約を急ぐより、自分のモデル名と必要容量を書き出す方が先だ。
