Apple M6
ローカル推論から見ると、Apple M6 と M5 Ultra は統合メモリと帯域で Mac 上の大規模モデル体験をどう変えるのかが焦点です。
Apple は M6 と M5 Ultra を同時に更新し、軸を容量と帯域に置きました。M6 は 2nm を M シリーズに初めて載せ、デュアル 16 コア Neural Engine と 170GB/s 帯域を備えます。M5 Ultra は 4 ダイ接続で 1.2TB/s、統合メモリ最大 512GB、Mac Studio は端末上で数千億パラメータのモデルを動かせます。容量が足りなければモデルを縮めるしかない。
