A Apple diz que o novo iMac com M6 entrega até 12x mais desempenho de IA no dispositivo no processamento de prompts no LM Studio do que um iMac com M1, e até 5x mais do que o M4. Dois detalhes dessa frase decidem se você deve se importar. A comparação é com hardware antigo, e ela mede a velocidade com que o modelo lê o seu prompt, não a velocidade com que escreve a resposta.
Lemos os dois anúncios do M6 da Apple, as especificações técnicas e as páginas da loja. Nossa opinião: o M6 é um chip bom e com preço justo, mas, para IA local, é o lugar errado para gastar a mais. O que importa é a memória, e o M6 vai só até 32GB.
O que a Apple realmente lançou
Só duas máquinas ganharam o M6. O MacBook Pro de 14 polegadas com M6 começa em US$ 1.999 nos EUA, e o iMac com M6 começa em US$ 1.499 (10 núcleos) ou US$ 1.699 (12 núcleos). Ambos têm um Neural Engine duplo de 16 núcleos e Neural Accelerators em cada núcleo da GPU. A Apple diz que as cargas de IA na GPU do notebook ficam até 25% mais rápidas que no M5, e que o Neural Engine é até 1,9x mais rápido.
O notebook vem com 16GB de memória unificada de série, configurável até 32GB, com largura de banda de 153GB/s com 16GB e 170GB/s com 24GB ou 32GB, segundo as especificações técnicas da Apple. O iMac também aparece com largura de banda de até 170GB/s; o anúncio do iMac não informa a memória máxima, então não vamos citar um valor.
Shelly Goldberg, vice-presidente de Engenharia de Hardware da Apple, é citada no anúncio prometendo "recursos ainda mais poderosos para IA no dispositivo". Até aí, tudo bem. Mas é uma frase sobre capacidade, e a capacidade que mais importa para quem usa modelos locais, a memória, é justamente a que a Apple deixou parada em 32GB.
A história dos preços é melhor que a do desempenho. As duas máquinas começam no mesmo preço dos modelos que substituem, o que, segundo o 9to5Mac, veio depois de aumentos no início do ano que levaram o iMac de US$ 1.299 para US$ 1.499 e o MacBook Pro de US$ 1.699 para US$ 1.999. O veredito do site: os novos Macs com M6 estão "longe de ser baratos", mas não sofreram outro aumento.
O outro MacBook Pro novo, o de tela OLED touch, não usa o M6. Ele roda M5 Pro e M5 Max, com até 128GB de memória unificada no Max (64GB no Pro), a partir de US$ 2.899 nos EUA. Se IA local é o motivo da sua compra, é essa a máquina para a qual a Apple aponta. O comunicado da Apple diz que, com o M5 Max, profissionais podem "rodar LLMs com centenas de bilhões de parâmetros inteiramente no dispositivo".
Dois tipos de IA no dispositivo, e só um precisa da sua ajuda
O Apple Intelligence roda um modelo pequeno no Mac para ferramentas de escrita, ditado, edição de fotos e afins, e envia os pedidos mais pesados para o Private Cloud Compute, o sistema de servidores da Apple. A linha de privacidade da empresa é que "o Apple Intelligence conhece suas informações pessoais sem coletá-las". Você não escolhe modelo nem gerencia memória. O requisito de entrada é qualquer Mac com M3 ou posterior e pelo menos 12GB de memória unificada, então o M6 traz velocidade, não acesso. Nosso texto sobre a Siri com IA e onde o Gemini entra cobre a parte na nuvem.
A Apple também deixa qualquer app chamar esses modelos no dispositivo pelo framework Foundation Models, que, segundo a empresa, funciona offline e sem custo por requisição. É o motivo discreto pelo qual um Mac com mais memória fica mais útil com o tempo.
O segundo tipo é o do benchmark: baixar um modelo aberto e rodar você mesmo no LM Studio (o post do iMac também cita o LM Studio Bionic entre os apps otimizados para Apple silicon) ou no Ollama. Nada sai da máquina, nada é cobrado por uso, e nada é tão bom quanto os maiores modelos na nuvem. Quais modelos abertos merecem o espaço em disco é outra questão, que tratamos no nosso panorama de modelos open-weight.
A memória decide o que roda, então leia essa linha primeiro
Um modelo precisa caber na memória para rodar, e no Mac CPU e GPU compartilham o mesmo pool. Um README antigo do Ollama sugeria uma regra prática: pelo menos 8GB de RAM para modelos de 7B, 16GB para modelos de 13B e 32GB para modelos de 33B. (Essa linha vem de uma versão antiga e não está no README atual, então trate como um piso aproximado da história da ferramenta, não como promessa.) Os requisitos de sistema do LM Studio recomendam 16GB ou mais e dizem que Macs de 8GB devem ficar com modelos menores e contextos modestos.
Agora olhe um modelo grande de verdade. O FAQ do Ollama mostra o ollama ps listando o llama3:70b com 42 GB. Por inferência nossa a partir desse tamanho, ele não cabe em um Mac de 32GB, seja qual for o chip; precisaria de 64GB, ou seja, um M5 Pro ou M5 Max, não um M6.
Velocidade é outro limite. As alegações de IA da Apple para o M6 são sobre processamento de prompt, como um tempo até o primeiro token até 1,3x mais rápido que o M5 nos testes com nota de rodapé do notebook. São números da Apple, medidos nas configurações da Apple. No nosso raciocínio, a largura de banda de memória é o que observar na parte de escrever a resposta, e o M6 fica nas últimas linhas do gráfico acima.
Quem deve pagar pelos 32GB e quem não deve
Compre o M6 com 24GB ou 32GB se você quer rodar modelos de uns 7B a 14B para rascunhos, resumo de documentos privados ou ajuda com código, e prefere ter um notebook silencioso e de bateria longa a alugar uma GPU. Para isso, a memória extra é o melhor dinheiro gasto no configurador. Para esse uso, nós evitaríamos os 16GB do modelo base de US$ 1.999. Ele roda modelos pequenos, mas você vai viver fechando apps para abrir espaço.
Não compre o M6 para modelos da classe de 70B, e não espere um salto dramático sobre o chip do ano passado em nada que você rode no dia a dia. Se esse é o objetivo, avalie um M5 Pro ou Max, e depois avalie a alternativa, porque o MacRumors informa que um Mac Studio com 512GB de memória começa em US$ 22.299 nos EUA. Nesse ponto, a conta de um serviço em nuvem que você usa algumas horas por semana parece pequena. Nossa comparação entre IA local e IA na nuvem mostra onde fica o ponto de equilíbrio, e combinar camadas de modelo com tarefas ajuda se a maior parte do seu trabalho não precisa de um modelo de ponta.
Por que manter o seu Mac antigo
Os ganhos de destaque da Apple são, em sua maioria, em relação ao M1. Contra um M5, o processamento de prompt do notebook é até 1,3x mais rápido, o que você percebe em benchmark e quase nada em um chat. Se você tem um Mac M4 ou M5 com 24GB ou mais, nós o manteríamos e guardaríamos o dinheiro para ter mais memória na próxima compra. Se você tem um M1 com 8GB, o upgrade é real, mas um M-series usado ou recondicionado com 32GB rodaria os mesmos modelos por menos de US$ 1.999. Os novos Macs têm rádio Wi-Fi 7 e bateria melhor. Nenhum dos dois roda modelo.
Uma pergunta em aberto: a Apple não disse quanto dos 25% de ganho da GPU aparece na geração de tokens, e nenhuma das matérias que lemos soube dizer. Números independentes de LM Studio e Ollama devem aparecer quando as máquinas chegarem aos clientes.
Perguntas frequentes
O Apple Intelligence precisa de um M6?
Não. A Apple lista Macs com M3 ou posterior e pelo menos 12GB de memória unificada. O M6 deixa mais rápido, não disponível.
16GB bastam para rodar modelos de IA locais?
Para modelos pequenos e contexto modesto, sim. O LM Studio recomenda 16GB ou mais, e um README antigo do Ollama sugeria 16GB para modelos de 13B. Vai sobrar pouco espaço para outros apps.
Devo esperar por benchmarks de terceiros?
Se você está comprando especificamente para IA local, sim. Os testes da Apple comparam com M1 e M5 em configurações da própria empresa, e medem processamento de prompt.