A parceria entre Meta e Panmnesia utiliza a tecnologia CXL para criar um domínio computacional coerente, eliminando latências de rede tradicionais e permitindo a coordenação massiva de aceleradores de IA.
A nova arquitetura híbrida da Meta
O gigante de tecnologia Meta está colaborando com a pequena startup coreana Panmnesia para desenvolver um novo design de datacenter voltado para inteligência artificial. O objetivo é permitir que milhares de processadores operem dentro de um único ambiente computacional coerente, uma mudança significativa em relação às estruturas atuais.
A proposta utiliza a tecnologia Compute Express Link (CXL) para conectar CPUs, aceleradores e memória através de vários racks, sem a necessidade dos links de rede convencionais. Segundo o anúncio, essa arquitetura pode integrar até 960 aceleradores de IA em um único domínio de coerência, aproximando-se da capacidade de mil GPUs operando como um sistema unificado.
Eliminando gargalos de latência
O projeto visa resolver um problema crítico no treinamento de grandes modelos de IA: a sincronização. Quando centenas ou milhares de aceleradores processam dados enormes, qualquer componente atrasado força os outros a esperar. Redes tradicionais como Ethernet ou InfiniBand exigem processamento de pacotes e coordenação de software, o que introduz variações de latência imprevisíveis conforme a carga se espalha.
A solução da Panmnesia emprega um mecanismo de coerência compartilhada. Isso permite que processadores, aceleradores e memória participem de um ambiente conectado único. O design utiliza interruptores de alta saída, unidades de aceleração de links e controladores de tecido para gerenciar o tráfego. Curiosamente, a organização desses componentes segue princípios normalmente associados ao arranjo de blocos funcionais dentro de chips semicondutores.
Desempenho superior às soluções atuais
A proposta é comparada à configuração atual da NVIDIA GB200 NVL72, onde um CPU coordina diretamente apenas dois aceleradores via NVLink-C2C. Sob a nova arquitetura da Panmnesia, um único CPU poderia coordenar 16 aceleradores — um aumento oito vezes maior.
Estimativa de escala:
- Aproximadamente 60 desses grupos formariam um domínio de coerência.
- O total resultante seria de cerca de 960 aceleradores.
Além do aumento na coordenação, o acesso entre racks reduziria o tempo de resposta de nível de microssegundos para algumas centenas de nanossegundos, uma redução de ordem de magnitude. Isso também facilitaria a substituição de dispositivos falhos sem desligar servidores inteiros.
Desafios físicos e o futuro
Myoungsoo Jung, CEO da Panmnesia, declarou que “o CXL permite que todo o datacenter opere como um único sistema de computação”. No entanto, existem limites físicos: os sinais elétricos CXL alcançam apenas cerca de sete metros a 128 GT/s com dois retimers. Para distâncias maiores, a startup propõe links CXL ópticos, para os quais já concluíram a validação do conceito de hardware.
