Cerebras explica como roda modelos de IA com trilhões de parâmetros em vários chips gigantes
Em post técnico, a Cerebras mostra como divide um modelo de cerca de 3 trilhões de parâmetros entre 59 chips do tamanho de uma pastilha, buscando de 1.000 a 2.000 tokens por segundo.
Em 3 pontos
- A Cerebras explicou como divide modelos de trilhões de parâmetros entre vários chips.
- No exemplo do Kimi K3, são 59 chips, cada um com 44 GB de memória interna.
- A meta da empresa é de 1.000 a 2.000 tokens por segundo.
Redação IA Seenup · via Cerebras
Em números
- 3 triparâmetros do Kimi K3 (aprox.)
- 44 GBmemória por chip WSE-3T
- 59chips para rodar o exemplo
- 1.000–2.000+tokens por segundo buscados
O que aconteceu
A Cerebras, empresa que fabrica chips de IA do tamanho de uma pastilha de silício inteira, publicou em 22 de outubro de 2026 um texto em seu blog explicando como coloca para funcionar modelos gigantes. O objetivo declarado é rodar modelos com vários trilhões de parâmetros a 1.000–2.000 tokens por segundo. Token é o pedacinho de texto que a IA produz a cada passo.
O problema é de espaço. Segundo a empresa, cada chip WSE-3T tem 44 GB de memória dentro dele, enquanto modelos de trilhões de parâmetros precisam de terabytes só para guardar seus pesos, os números que formam o “conhecimento” do modelo.
Para explicar, o blog usa como exemplo o Kimi K3, modelo aberto de cerca de 3 trilhões de parâmetros, com 69 camadas de atenção linear e 24 camadas densas. Com os pesos comprimidos para 4 bits cada, cada camada ocupa cerca de 16 GB. Camadas densas precisam de espaço extra para a memória de contexto (o KV cache), então ficam uma por chip. Já as lineares, que não precisam disso, cabem duas por chip. A conta da empresa dá 59 chips no total.
Os chips funcionam como uma linha de montagem. Os pesos ficam parados em cada chip, e só os resultados intermediários passam de um para o outro, por rede Ethernet, em cerca de 2 microssegundos por salto. Para não deixar chips ociosos, a Cerebras mantém a linha cheia: cada etapa trabalha em um pedido diferente ao mesmo tempo, em pequenos grupos chamados micro-lotes.
Por que importa
Modelos abertos de ponta estão chegando à casa dos trilhões de parâmetros. Segundo o blog, o Kimi K3 marca 88,3% no Terminal-Bench 2.1 (contra 88,8% do GPT-5.6 Sol) e 91,2% no BrowseComp (contra 90,4%). O texto afirma que ele supera modelos proprietários em alguns testes. Esses números vêm da própria Cerebras, que cita o Kimi como fonte, e não de uma avaliação independente.
O post mostra que o desafio de usar esses modelos não é só treiná-los, mas servi-los de forma rápida. A empresa defende que manter as camadas na memória do chip, sem movê-las, é o caminho para velocidade alta.
O que muda para quem usa IA
Para o usuário comum, nada muda de imediato: o texto é uma explicação técnica, sem anúncio de produto ou preço. Mas ele indica o que a empresa busca: respostas muito mais rápidas de modelos grandes, o que importa para assistentes que programam ou navegam sozinhos e fazem muitas etapas em sequência. Se a promessa de 1.000 a 2.000 tokens por segundo se confirmar em serviços reais, esperar pela resposta tende a ficar bem menos incômodo.
O que muda
Antes
- Modelo gigante não cabe na memória de um chip
Depois
- Camadas são distribuídas em 59 chips, e só os resultados circulam entre eles
Entenda os termos
- Parâmetros
- Os números internos que o modelo aprendeu no treino. Quanto mais, em geral maior o modelo.
- Token
- Pedaço de texto, como uma sílaba ou palavra curta, que a IA lê e escreve a cada passo.
- KV cache
- Memória que guarda o que o modelo já leu da conversa, para não recalcular tudo a cada novo token.
Gostou? Compartilhe
