À medida que os clusters de computação de IA fazem a transição de links de 100G e 400G para 800G, Eric Litvin, cofundador e presidente da Luma Optics, sustenta que a variável decisiva na interconexão óptica não é mais a velocidade bruta. Em vez disso, é a qualidade da calibração e o diagnóstico. A Luma Optics, empresa de transceptores ópticos sediada em Sebastopol, Califórnia, cofundada por Litvin em 2004, projeta transceptores de 100G, 400G e 800G, incluindo uma linha de 800G projetada para a malha de IA NVIDIA GB200. Sob a liderança de Litvin, a empresa investiu em uma plataforma robótica de calibração com patente pendente e diagnósticos baseados em aprendizado de máquina que ajustam os transceptores às condições térmicas e elétricas específicas da malha do cliente.
Em taxas de link de 800G, pequenas variações na polarização do laser, sensibilidade à temperatura ou alinhamento da interface elétrica podem produzir instabilidade no link que se propaga por toda a malha do cluster de IA. A calibração robótica aplica ajustes repetíveis e controlados por máquina para que cada transceptor corresponda ao ambiente onde realmente será executado, em vez de um padrão de fábrica uniforme. A Luma Optics relata uma taxa de falha em campo inferior a 0,01% e aproximadamente 30% menos consumo de energia por unidade. A posição de Litvin é que a confiabilidade por watt e a qualidade da calibração se acumulam ao longo das gerações de produtos, razão pela qual a empresa as priorizou. A camada de diagnóstico por ML foi projetada para sinalizar padrões de desvio no comportamento do transceptor antes que se manifestem como falhas na camada de rede, mudando a manutenção de substituição reativa para intervenção precoce. Em ambientes de treinamento de IA, um único link com falha pode paralisar um trabalho de vários nós.
Litvin enquadra a questão de compras para compradores de clusters de IA em termos diretos: parem de precificar o transceptor e comecem a precificar a falha. O preço de compra de um transceptor é pequeno em comparação com o custo de inatividade, ciclos de retreinamento e logística de substituição quando um link falha dentro de uma malha densa de IA. O argumento reflete uma mudança estrutural na forma como a interconexão óptica é avaliada. Em taxas de link mais altas, cada conexão carrega mais do tráfego do cluster, de modo que o custo operacional de uma falha em campo aumenta a cada geração. O investimento de Eric Litvin na Luma Optics em calibração e diagnóstico é posicionado como uma resposta a essa equação de risco alterada.
A visão de Litvin é que os fornecedores que dependem de calibração genérica serão superados por fornecedores que conseguem ajustar os transceptores à impressão digital térmica e elétrica específica da malha do cliente. As especificações de throughput continuam necessárias, mas, na avaliação dele, são insuficientes como critério principal de compra para infraestrutura de IA. AI Optical Interconnect - Eric Litvin descreve como as estratégias de confiabilidade devem evoluir com as taxas de link. À medida que as taxas de link aumentam, a qualidade da calibração e a inteligência de diagnóstico tornam-se a base da diferenciação. Para os operadores de clusters de IA, a implicação é que a seleção de transceptores deve pesar as taxas de falha em campo e as capacidades de diagnóstico juntamente com a velocidade, potencialmente reduzindo o tempo de inatividade e melhorando o custo total de propriedade. Mais informações sobre o trabalho de Litvin estão disponíveis em https://ericlitvin.ai/eric-litvin/, e recursos adicionais podem ser encontrados em https://ericlitvin.ai.
