Google Expande su Oferta de Chips de IA con Dos Nuevas TPUs Especializadas para Datos Sensibles y Cargas de Memoria Exigentes

Tecnologia
Google ha introducido dos nuevas variantes de sus procesadores de IA de diseño propio, las TPUs 8tx y 8i Max, para abordar necesidades específicas del mercado. Estas incorporaciones buscan fortalecer la presencia de Google en el hardware de IA, desafiando el dominio de Nvidia. Las nuevas TPUs están diseñadas para proteger datos sensibles y manejar cargas de trabajo con alta demanda de memoria, respectivamente, marcando un hito en la estrategia de especialización de la compañía.

Google está enriqueciendo su línea de procesadores de inteligencia artificial con el lanzamiento de dos nuevas versiones, cada una diseñada para funciones específicas: una para computación que requiere la protección de información delicada y otra para gestionar cargas de trabajo con alta demanda de memoria. La empresa busca expandir su catálogo de chips en un sector históricamente dominado por Nvidia. Con estas adiciones, Google ha lanzado cuatro configuraciones de sus Unidades de Procesamiento Tensorial (TPUs) en un solo año, un logro significativo para la compañía.

Las novedades incluyen los sistemas TPU 8tx y TPU 8i Max. Estos se suman a las TPUs 8t, orientada al entrenamiento, y 8i, diseñada para el razonamiento, presentadas por la compañía en el Google Cloud Next de abril. Google asegura que la 8t ofrece un rendimiento de entrenamiento hasta 2,7 veces superior, y la 8i proporciona una mejora de hasta el 80% en la relación precio-rendimiento para inferencia, en comparación con la generación anterior.

Aunque Google no ha especificado los precios ni las fechas exactas de lanzamiento, Amin Vahdat, responsable de chips de la compañía, mencionó a un medio especializado que las nuevas variantes estarán disponibles el próximo año. La relevancia de este lanzamiento radica en que, tradicionalmente, Google ha presentado nuevas TPUs cada dos años. La introducción de cuatro configuraciones en una misma generación subraya el interés de la empresa en captar una mayor porción del mercado de hardware para IA. Mientras que Nvidia ha sido el actor principal, las TPUs de Google están ganando terreno. Vahdat explicó que esta estrategia se basa en la idea de que “el futuro se centrará en la especialización”. En lugar de un chip universal, argumenta, las versiones personalizadas “ofrecen mucho más valor”.

La opción segura, el TPU 8tx, está dirigida a entidades gubernamentales e industrias reguladas que necesitan ejecutar modelos y agentes de IA con datos confidenciales. Google detalla que, si bien los datos suelen estar cifrados en almacenamiento y en tránsito, deben ser descifrados en la memoria durante su procesamiento. La compañía afirma que el 8tx integra la protección directamente en el hardware, garantizando el aislamiento de los datos y los pesos de los modelos incluso mientras están en uso. Esta versión utiliza el mismo silicio que el TPU 8t y se combina con procesadores AMD EPYC de quinta generación. Además, Google asegura que ofrece una latencia hasta dos veces menor que el 8t, con una mínima reducción de rendimiento a pesar de la seguridad adicional. La compañía también garantiza que los clientes pueden ajustar los modelos con datos privados sin necesidad de transferirlos entre clústeres.

La opción de memoria, el TPU 8i Max, aborda lo que Google denomina el “muro de la memoria”: una situación en la que, al trabajar muchos agentes de inteligencia artificial en grandes bases de código o extensas horas de vídeo, el ancho de banda de la memoria se convierte en un cuello de botella. La solución de Google consiste en integrar dos chips TPU 8i en un único paquete. En comparación con el 8i estándar, esta configuración duplica la capacidad de cálculo, la memoria SRAM integrada y el ancho de banda de la memoria. Asimismo, permite integrar el doble de silicio en el mismo espacio de rack, lo que posibilita a los centros de datos aumentar la cantidad de chips y la potencia en la misma superficie. Vahdat comentó a un medio que el sistema está diseñado para aplicaciones de contexto largo, como el descubrimiento de fármacos, problemas matemáticos complejos y programación.

En realidad, no se trata de chips completamente nuevos, ya que el propio Vahdat indicó al medio que ambas variantes son reconfiguraciones de silicio ya existente, adaptadas a las demandas de los clientes. Un chip nuevo requiere años de diseño y fabricación, mientras que un sistema construido a su alrededor (redes, memoria, empaquetado) puede ajustarse en cuestión de meses. Google prefiere aprovechar este enfoque para mantenerse al día con el rápido avance del software de IA.

El mercado de las TPUs de Google muestra un gran potencial. Según una firma de inteligencia de mercado, se estima que las ventas de TPU, incluyendo hardware y software relacionados, superarán los 135.000 millones de dólares para 2028, en contraste con los aproximadamente 12.000 millones proyectados para este año. Entre los clientes actuales se encuentran Apple, Meta y Oracle, esta última ha comunicado que sus clientes de la nube podrán utilizar las TPUs a partir del próximo año. Según un documento regulatorio citado por un medio, Anthropic tiene la opción de adquirir hasta 150.000 millones de dólares en TPUs entre 2028 y 2031, y el mismo medio ha informado que OpenAI también planea comprarlas.

No obstante, persisten obstáculos. Según un medio, citando la última presentación de resultados de Google, todas las TPUs disponibles de la compañía ya están contratadas por un cliente. La escasez de memoria y de capacidad de fabricación sigue siendo un problema, y se informa que Google está ampliando su base de proveedores más allá de Broadcom, incluyendo un acuerdo con Marvell. También está surgiendo competencia: Tenspresso, una startup fundada por dos exingenieros de TPU, se enfoca en la inferencia de contexto largo, aunque la misma fuente informa que su chip está al menos a un año de completar su diseño. Además, OpenAI y Anthropic también están desarrollando chips propios con veteranos de TPU.