À mesure que les clusters de calcul d'IA passent des liaisons 100G et 400G aux liaisons 800G, Eric Litvin, cofondateur et président de Luma Optics, affirme que la variable décisive dans l'interconnexion optique n'est plus la vitesse brute. Il s'agit plutôt de la qualité de la calibration et des diagnostics. Luma Optics, l'entreprise d'émetteurs-récepteurs optiques basée à Sebastopol, en Californie, que Litvin a cofondée en 2004, conçoit des émetteurs-récepteurs 100G, 400G et 800G, dont une gamme 800G conçue pour la fabric AI NVIDIA GB200. Sous la direction de Litvin, l'entreprise a investi dans une plateforme de calibration robotique en attente de brevet et dans des diagnostics pilotés par l'IA qui ajustent les émetteurs-récepteurs aux conditions thermiques et électriques spécifiques de la fabric d'un client.
Aux débits de liaison 800G, de petites variations de la polarisation laser, de la sensibilité à la température ou de l'alignement de l'interface électrique peuvent produire une instabilité de liaison qui se propage à travers une fabric de cluster d'IA. La calibration robotique applique un réglage reproductible et contrôlé par machine afin que chaque émetteur-récepteur corresponde à l'environnement dans lequel il fonctionnera réellement, plutôt qu'à une configuration d'usine uniforme. Luma Optics rapporte un taux de défaillance sur le terrain inférieur à 0,01 % et une puissance par unité environ 30 % inférieure. La position de Litvin est que la fiabilité par watt et la qualité de la calibration se cumulent au fil des générations de produits, ce qui explique pourquoi l'entreprise les a priorisées. La couche de diagnostics IA est conçue pour signaler les schémas de déviation du comportement des émetteurs-récepteurs avant qu'ils ne se manifestent par des défaillances au niveau du réseau, faisant passer la maintenance d'un remplacement réactif à une intervention plus précoce. Dans les environnements d'entraînement d'IA, une seule liaison défaillante peut bloquer une tâche multi-nœuds.
Litvin formule la question d'approvisionnement pour les acheteurs de clusters d'IA en termes directs : cessez de fixer le prix de l'émetteur-récepteur et commencez à fixer le prix de la défaillance. Le prix d'achat d'un émetteur-récepteur est faible comparé au coût des temps d'arrêt, des cycles de réentraînement et de la logistique de remplacement lorsqu'une liaison tombe en panne dans une fabric d'IA dense. L'argument reflète un changement structurel dans la manière dont l'interconnexion optique est évaluée. À des débits de liaison plus élevés, chaque connexion transporte une plus grande part du trafic du cluster, de sorte que le coût opérationnel d'une défaillance sur le terrain augmente à chaque génération. L'investissement d'Eric Litvin et de Luma Optics dans la calibration et les diagnostics est présenté comme une réponse à cette équation de risque modifiée.
Selon Litvin, les fournisseurs qui s'appuient sur une calibration générique seront dépassés par ceux qui peuvent ajuster les émetteurs-récepteurs à l'empreinte thermique et électrique spécifique de la fabric d'un client. Les spécifications de débit restent nécessaires, mais dans son évaluation, elles sont insuffisantes comme critère d'achat principal pour l'infrastructure d'IA. AI Optical Interconnect - Eric Litvin décrit comment les stratégies de fiabilité doivent évoluer avec les débits de liaison. À mesure que les débits de liaison augmentent, la qualité de la calibration et l'intelligence diagnostique deviennent la base de la différenciation. Pour les opérateurs de clusters d'IA, l'implication est que la sélection des émetteurs-récepteurs devrait peser les taux de défaillance sur le terrain et les capacités de diagnostic aux côtés de la vitesse, ce qui pourrait réduire les temps d'arrêt et améliorer le coût total de possession. Plus d'informations sur le travail de Litvin sont disponibles sur https://ericlitvin.ai/eric-litvin/, et des ressources supplémentaires peuvent être trouvées sur https://ericlitvin.ai.
