Google y marvell, una apuesta audaz por la inferencia de ia
La guerra por la eficiencia de la inteligencia artificial ha entrado en una nueva fase. google, líder indiscutible en el campo, ha sellado una importante alianza estratégica con Marvell Technology para diseñar dos nuevos chips especializados en la inferencia, la fase operativa de los modelos de IA.
El desafío de la inferencia: la clave del valor real
Mientras que el entrenamiento de estos modelos, como el Ironwood de séptima generación, se beneficia de aceleradores como los TPU, la inferencia – es decir, la aplicación de un modelo ya entrenado – representa el verdadero desafío. Aquí reside el valor económico y la utilidad práctica de la IA. google busca optimizar este proceso, y la colaboración con Marvell es una apuesta clara en esa dirección.
El acuerdo contempla el desarrollo de un chip de memoria que trabajará en sinergia con la unidad de procesamiento tensorial (TPU) de google, y otro chip TPU completamente nuevo, diseñado específicamente para tareas de inferencia. Se trata de complementar la estrategia actual con fabricantes como Broadcom, MediaTek y TSMC, consolidando así la posición tecnológica de la compañía.
Ironwood, lanzado en noviembre pasado, ya ha demostrado un rendimiento diez veces superior al de las TPU v5p y un rendimiento por chip más de cuatro veces mayor que la v6e, gracias a su capacidad para integrar hasta 9.216 chips en un ‘superpod’ conectado mediante la red ICI, una tecnología de interconexión diseñada por google. Esta red, con una velocidad de transferencia de 9,6 Tb/s, permite acceder a una memoria de alto ancho de banda compartida de 1,77 Petabytes – una densidad y velocidad que supera con creces la de la RAM tradicional.
Pero la carrera no es solo de google. Microsoft, con su acelerador Maia 200, se presenta como un competidor directo, ofreciendo un rendimiento FP4 tres veces superior al del Amazon Trainium de tercera generación y un rendimiento FP8 que supera al TPU de séptima generación de Google. La competencia se intensifica, y la inferencia se convierte en el campo de batalla donde se medirá la verdadera potencia de la inteligencia artificial.
Lo que realmente importa es la velocidad y la eficiencia. La capacidad de generar predicciones y conclusiones en tiempo real, impulsando así la toma de decisiones y la automatización, es la clave para desbloquear todo el potencial de la IA. Y Google, con esta nueva alianza, está convencido de que puede liderar la vanguardia de esta revolución. Una jugada que, en definitiva, podría cambiar el juego.