Appleによると、M6搭載の新型iMacは、M1搭載のiMacと比べてLM Studioでのプロンプト処理が最大12倍、M4比でも最大5倍高速なオンデバイスAI性能を実現するそうです。この一文には、注目すべき点が2つあります。比較対象が古いハードウェアであること、そして測っているのはモデルがプロンプトを読む速さで、回答を書く速さではないことです。
Appleの2つのM6発表、技術仕様、ストアページを確認しました。私たちの見解は、M6は優れていて価格も妥当なチップだが、ローカルAIのために上位を選ぶ価値は薄い、というものです。重要なのはメモリで、M6の上限は32GBです。
Appleが実際に発表したもの
M6を搭載したのは2機種だけです。M6搭載の14インチMacBook Proは米国で$1,999から、M6搭載のiMacは10コアが$1,499、12コアが$1,699からです。どちらもデュアル16コアのNeural Engineを備え、各GPUコアにNeural Acceleratorを搭載しています。Appleは、ノートのGPUでのAIワークロードがM5比で最大25%高速、Neural Engineは最大1.9倍高速としています。
ノートはユニファイドメモリが標準で16GB、最大32GBまで構成可能で、メモリ帯域幅は16GBで153GB/s、24GBまたは32GBで170GB/sです(Appleの技術仕様より)。iMacも帯域幅は最大170GB/sとされています。ただしAppleのiMac発表では最大メモリ容量が明記されていないため、ここでは記載しません。
Appleのハードウェアエンジニアリング担当バイスプレジデントのShelly Goldbergは、発表の中で「オンデバイスAIのさらに強力な機能」を約束しています。それ自体はもっともな話です。ただ、これは機能についての言葉です。ローカルモデルを使う人にとって最も重要な機能であるメモリは、Appleが32GBのまま据え置いた部分です。
性能面より、価格面のほうが明るい話題です。どちらも、置き換え対象のモデルと同じ価格から始まります。9to5Macによると、今年前半の値上げでiMacは$1,299から$1,499に、MacBook Proは$1,699から$1,999に上がっていました。同サイトの評価は、M6搭載の新Macは「決して安くはない」ものの、さらなる値上げはなかった、というものです。
もう1つの新型MacBook Pro、つまりOLEDタッチディスプレイ搭載モデルは、M6をまったく使っていません。M5 ProとM5 Maxを搭載し、ユニファイドメモリはMaxで最大128GB(Proは64GB)、米国で$2,899からです。ローカルAIが目的なら、Appleが示しているのはこちらのマシンです。Appleのプレスリリースは、M5 Maxならプロは「数千億パラメータのLLMを完全にデバイス上で実行できる」としています。
2種類のオンデバイスAI、手助けが必要なのは片方だけ
Apple Intelligenceは、文章作成ツール、音声入力、写真編集などのために小さなモデルをMac上で動かし、より難しいリクエストはAppleのサーバーシステムであるPrivate Cloud Computeに送ります。Appleのプライバシーに関する説明は、「Apple Intelligenceは、個人情報を収集することなく、あなたの個人情報を理解します」というものです。モデルを選んだりメモリを管理したりする必要はありません。利用条件はM3以降で、ユニファイドメモリが12GB以上のMacであること。つまりM6で得られるのはアクセスではなく速度です。クラウド側については、Siri AIとGeminiの位置づけの解説記事で取り上げています。
Appleは、Foundation Modelsフレームワークを通じて、あらゆるアプリがこれらのオンデバイスモデルを呼び出せるようにもしています。Appleによれば、オフラインで、リクエストごとの費用もかかりません。メモリの多いMacが時間とともに便利になっていく、目立たない理由がここにあります。
2つ目は、ベンチマークの対象になったほうです。オープンモデルをダウンロードして自分で動かします。使うのはLM Studio(AppleのiMac記事では、Apple siliconに最適化されたアプリとしてLM Studio Bionicも挙げられています)やOllamaなどです。データがマシンの外に出ることはなく、従量課金もありません。ただし、最大級のクラウドモデルに並ぶものもありません。どのオープンモデルがディスク容量を割く価値があるかは別の話で、オープンウェイトモデルのまとめ記事で扱っています。
メモリが動かせるモデルを決める。まずこの行を読もう
モデルは動かすためにメモリに載っている必要があり、MacではCPUとGPUが1つのメモリプールを共有します。以前のOllamaのREADMEには、目安が書かれていました。7Bモデルには8GB以上、13Bモデルには16GB、33Bモデルには32GBのRAMです。(この記述は古いタグ付きリリースのもので、現行のREADMEにはありません。約束事ではなく、ツールの歴史に残るおおまかな下限として受け取ってください。)LM Studioのシステム要件では、16GB以上が推奨で、8GBのMacでは小さめのモデルと控えめなコンテキストサイズにとどめるよう案内されています。
次に、実際に大きなモデルを見てみましょう。OllamaのFAQでは、ollama psがllama3:70bを42 GBと表示しています。このモデルサイズからの私たちの推定では、チップが何であれ32GBのMacには収まりません。必要なのは64GBで、つまりM6ではなくM5 ProかM5 Maxです。
速度はまた別の制約です。M6についてのAppleのAI関連の主張はプロンプト処理に関するもので、たとえばノートの注記付きテストでは、M5より最大1.3倍速い最初のトークンまでの時間が挙げられています。これはAppleの環境で測ったAppleの数字です。私たちの考えでは、回答を書く部分で注目すべきはメモリ帯域幅で、M6は上のグラフでも下のほうの行に位置しています。
32GBにお金を払うべき人、払わなくていい人
7B〜14B程度のモデルを動かして、下書き作成、非公開ドキュメントの要約、コーディング支援に使いたい、しかもGPUを借りるより静かでバッテリーが長持ちするノートを所有したい、という人は、24GBまたは32GBのM6を買ってください。この用途なら、構成選択画面で最も価値のある出費がメモリの増設です。この用途では、$1,999のベースモデルの16GBは避けたいところです。小さなモデルは動きますが、余裕を作るためにアプリを閉じ続けることになります。
70Bクラスのモデル目的でM6を買うのはやめましょう。日常的に使うものについて、昨年のチップから劇的に向上することも期待しないでください。それが目的なら、M5 ProかMaxの価格を調べ、さらにその代替案の価格も調べてください。MacRumorsによると、メモリ512GBのMac Studioは米国で$22,299からです。ここまで来ると、週に数時間使うクラウドサービスの請求額は小さく見えます。損益分岐点がどのあたりにあるかは、ローカルAIとクラウドAIの比較で解説しています。そもそも作業の大半にフロンティアモデルが要らないなら、タスクに合わせたモデルティアの選び方も参考になります。
手持ちの古いMacを使い続ける理由
Appleがうたう大きな向上は、ほとんどがM1との比較です。M5と比べると、ノートのプロンプト処理は最大1.3倍高速です。ベンチマークでは分かっても、チャットではほぼ実感できないでしょう。24GB以上のM4またはM5 Macをお持ちなら、そのまま使い続けて、次回はメモリを増やすことにお金を回すのがおすすめです。8GBのM1をお使いなら、買い替えの効果は確かにあります。ただ、32GBの中古または整備済みのM-seriesなら、$1,999より安く同じモデルを動かせます。新型MacにはWi-Fi 7無線と改善されたバッテリーが搭載されていますが、どちらもモデルを動かす助けにはなりません。
未解決の疑問が1つあります。25%のGPU向上のうち、どれだけがトークン生成に反映されるのか、Appleは明らかにしておらず、私たちが読んだ報道のどれも答えを出せていません。独立したLM StudioやOllamaの数値は、マシンが顧客に届いてから出てくるはずです。
よくある質問
Apple IntelligenceにはM6が必要ですか?
いいえ。Appleが対象としているのは、M3以降でユニファイドメモリが12GB以上のMacモデルです。M6で速くはなりますが、使えるようになるわけではありません。
ローカルAIモデルを動かすのに16GBで足りますか?
小さなモデルと控えめなコンテキストなら足ります。LM Studioは16GB以上を推奨しており、以前のOllamaのREADMEも13Bモデルには16GBを挙げていました。ただ、他のアプリに回せる余裕はほとんど残りません。
サードパーティのベンチマークを待つべきですか?
ローカルAI目的で買うなら、待つべきです。Appleのテストは自社の環境でM1やM5と比較したもので、測っているのはプロンプト処理です。