X Digest
XまとめAppleの新Mac mini登場、ローカルLLM用途はメモリ容量が判断軸に
Appleは新しいMac miniの登場を告知し、日常の作業からAIまでを用途に挙げた。続くX上の議論で見えてきたのは、ローカルLLM用Macを比べるとき、処理速度だけでなく、どれだけ大きなモデルを本体のメモリに載せられるかも分けて考える必要があるということだ。
小さなMacがAIワークステーション候補に
AppleのTim Cook氏は、新しいMac miniを小型で高性能な製品として紹介した。ただし、この投稿にはチップやメモリの具体的な仕様は書かれていない。
一方、Prince Canuma氏は、M6について2基の16コアNeural Engineと170GB/sの帯域、M5 Ultraについて最大80コアGPU、512GBのユニファイドメモリ、1.2TB/sの帯域を挙げた。そのうえで、巨大なLLMを端末内だけで動かせる規模になり、AIワークステーションがMacへ近づいていると評価している。これは同氏の観察であり、Appleの投稿とは分けて受け止めたい。
速くても、載る量は別の話
使う側の感覚をよく表しているのが、佐藤剛裕氏の投稿だ。現在Mac mini M4 Proの64GB構成でローカルLLMを使っており、4倍の速度という見通しには魅力を感じる一方、ユニファイドメモリが最大64GBのままなのかを気にしている。速度向上はまだ同氏が触れた見通しで、実機で確認済みの結果ではない。
ここが今回の比較で大事なところだ。Prince Canuma氏が大規模モデルの端末内実行と512GBを結びつけ、佐藤氏が64GBという上限に目を向けたのは、同じ判断軸の両側を見ている。処理が速いことと、目的のモデルを載せられることは、購入時に別々に確かめる必要がある。
最高構成の価格だけで驚かない
佐藤氏が引用した投稿では、Mac miniは周辺機器を自分で選んで環境を組む人、Mac Studioは映像、音楽、3DCG、開発、AIなどに使う人を主な対象として説明している。最高構成の価格を、家庭向けMac全体の値上がりと同じ意味に取るべきではない、という見方だ。
日常用途なら日常向け製品と比べ、ローカルLLMなら使いたいモデルの規模から必要なメモリを考える。その後で速度を見る。この順番にすると、新しいMac miniとMac Studioの派手な性能値も、自分に必要な話かどうかを整理しやすい。
