Jensen Huang, CEO de Nvidia, ha aclarado que, aunque la tecnología óptica empaquetada tiene un gran potencial para reducir el consumo energético, aún no es lo suficientemente fiable para ser utilizada en las GPU de gama alta de la compañía. Durante su conferencia inaugural en la Nvidia Developer Conference en San José, California, y tal y como recoge Reuters, Huang destacó las limitaciones actuales de esta tecnología.
La tecnología óptica empaquetada utiliza haces de luz láser para transmitir datos a través de cables de fibra óptica entre los chips, lo que ofrece una mayor eficiencia energética y velocidades más rápidas que las conexiones de cobre tradicionales. Nvidia planea implementar esta tecnología en dos nuevos chips de red que se colocarán en los interruptores de los servidores, los cuales serán tres veces y media más eficientes en términos de energía que sus predecesores. Estos nuevos chips llegarán al mercado entre finales de 2024 y 2026.
Sin embargo, Huang dejó claro que, aunque la empresa ha considerado la posibilidad de usar la tecnología óptica empaquetada en las GPU, no tiene planes de hacerlo en el corto plazo. Según el CEO, las conexiones de cobre siguen siendo “órdenes de magnitud” más fiables que las actuales conexiones ópticas. “No vale la pena”, afirmó Huang. “Seguimos explorando, pero el cobre es mucho mejor”.
El CEO de Nvidia subrayó que su enfoque está en ofrecer productos fiables para sus clientes, como OpenAI y Oracle, quienes están construyendo infraestructura de inteligencia artificial (IA) a gran escala. Huang destacó que se espera que, en los próximos años, se inviertan cientos de miles de millones de dólares en infraestructura de IA, lo que hace crucial una planificación adecuada para estos proyectos de gran escala.
En Silicon Valley, la tecnología óptica empaquetada ha generado un gran interés. Startups como Ayar Labs, Lightmatter y Celestial AI están trabajando para integrar conexiones ópticas directamente en chips de IA, con la esperanza de transformar la informática para la IA y crear sistemas más grandes y eficientes. Estas empresas incluso están preparándose para salir a bolsa.
A pesar de las ventajas de las conexiones ópticas, las actuales conexiones de cobre siguen siendo más asequibles y rápidas. Sin embargo, el cobre tiene limitaciones: solo puede transmitir datos a distancias cortas. Este ha sido un reto para Nvidia, cuyo servidor insignia, que incluye 72 chips, consume 120 kilovatios de electricidad y requiere un sistema de refrigeración líquida para manejar el calor generado. En 2027, la compañía planea lanzar un nuevo servidor que incluirá cientos de chips Vera Rubin Ultra en un solo rack, con un consumo de hasta 600 kilovatios.
Este aumento en el número de chips por rack exigirá importantes avances en ingeniería. Dado que la computación de IA requiere mover grandes volúmenes de datos entre chips, Nvidia está trabajando para mantener tantos chips como sea posible dentro del alcance de las conexiones de cobre.
