Google amplía su gama de TPU con sistemas de IA seguros y de mayor memoria para competir con Nvidia

Dos nuevos sistemas responden a las próximas necesidades de la IA

Google amplió la octava generación de sus unidades de procesamiento tensorial (TPU) con dos sistemas especializados: TPU 8tx, que protege la información confidencial mientras la procesa la IA, y TPU 8i Max, que combina dos chips en un mismo paquete para manejar cantidades mucho mayores de información. Anunciadas el 9 de noviembre de 2026, estas incorporaciones elevan a cuatro los sistemas TPU que Google presentó en un solo año, algo inédito para la empresa.

Los nuevos sistemas responden a dos problemas prácticos para las empresas que adoptan agentes de IA: proteger los datos privados y proporcionar al software suficiente memoria para trabajar con colecciones completas de documentos, código informático o videos. Se prevé que los envíos comiencen en 2027. Google no ha especificado la fecha de entrega ni el precio de ninguno de los dos sistemas.

El anuncio de la gama de TPU de Google describe ambos productos como configuraciones basadas en silicio ya existente. TPU 8tx utiliza el mismo chip subyacente que TPU 8t, junto con unidades centrales de procesamiento AMD EPYC de quinta generación. TPU 8i Max integra dos chips TPU 8i en un mismo paquete, con lo que duplica la capacidad de cómputo, parte de la memoria integrada y el ancho de banda de memoria.

Una TPU es un procesador diseñado para realizar las operaciones matemáticas que utiliza la IA. Google desarrolló originalmente estos procesadores para sus propios servicios, como el reconocimiento de voz y la traducción. Ahora también impulsan Gemini, los servicios en la nube para clientes externos y las implementaciones en centros de datos de clientes.

Esta expansión refuerza el desafío de Google a Nvidia al ofrecer a los clientes más opciones para tareas específicas. En lugar de pedir a un solo diseño de acelerador que responda a todos los requisitos, Google está creando distintas combinaciones de procesadores, memoria, redes y seguridad en torno a sus chips existentes.

Por qué llegaron cuatro sistemas en un año

Google presentó TPU 8t para tareas de entrenamiento a gran escala y TPU 8i para respuestas rápidas de IA en Google Cloud Next, en abril de 2026. El entrenamiento crea o modifica un modelo mediante ejemplos. La inferencia es el proceso de utilizar ese modelo para generar una respuesta o realizar una tarea.

Google afirma que TPU 8t ofrece hasta 2,7 veces el rendimiento de entrenamiento de la generación anterior, mientras que TPU 8i mejora en un 80% la relación entre precio y rendimiento en inferencia. Estas comparaciones se hacen con respecto a las TPU anteriores de Google. Las últimas incorporaciones amplían la misma generación para incluir la computación confidencial y tareas que requieren mucha más memoria.

Amin Vahdat, director de tecnología y vicepresidente sénior de IA e infraestructura de Google, describió las prioridades en el anuncio:

«A medida que las empresas ponen en funcionamiento agentes autónomos, hemos creado dos nuevas configuraciones de estos sistemas fundamentales para resolver dos nuevos desafíos urgentes: la seguridad de los datos a nivel de hardware y una ventana de contexto de un millón de tokens».

Google afirma que diseñar un chip nuevo lleva años, mientras que adaptar el empaquetado, la memoria, las redes ópticas y la seguridad en torno a un chip existente puede llevar meses. Su enfoque modular permite a los ingenieros adaptar los sistemas a los cambios en los requisitos del software antes de que esté listo un procesador completamente nuevo.

El calendario de desarrollo y entrega incluye ahora:

• Abril de 2026: Google presentó TPU 8t y TPU 8i en Google Cloud Next.
• Octubre de 2026: Google afirma que publicó TorchTPU como software de código abierto para facilitar el desarrollo con PyTorch en las TPU.
• 9 de noviembre de 2026: Google anunció TPU 8tx, TPU 8i Max y software adicional de infraestructura.
• 2027: Se prevé que comiencen los envíos de los nuevos sistemas, mientras Oracle planea empezar a ofrecer acceso a las TPU a sus clientes de la nube.

TPU 8tx protege la información durante su procesamiento

TPU 8tx está dirigido a gobiernos y empresas sujetas a regulación, incluidas organizaciones financieras y sanitarias. Estos clientes pueden necesitar que la IA analice registros muy confidenciales y, al mismo tiempo, proteja tanto la información como los parámetros internos del modelo.

La computación confidencial protege la información cuando se está utilizando. El cifrado ya protege los datos almacenados en una unidad o que circulan por una red. Durante el procesamiento, la información normalmente debe estar disponible en la memoria de trabajo. Google afirma que TPU 8tx incorpora protecciones de hardware que mantienen aislados los datos confidenciales y los pesos del modelo durante esa etapa.

Los procesadores EPYC de quinta generación de AMD proporcionan la plataforma de cómputo anfitriona. El sistema también cifra y autentica las conexiones PCIe, que trasladan información entre los principales componentes de una computadora. Las especificaciones técnicas que acompañan el lanzamiento indican que TPU 8tx tiene 216 GB de memoria de alto ancho de banda.

Google combina el sistema con su red Boardfly, que conecta los procesadores para que puedan intercambiar información con rapidez. La empresa afirma que esta configuración puede reducir la latencia hasta a la mitad en comparación con TPU 8t, con un impacto casi nulo en el rendimiento debido a las protecciones de seguridad. La latencia es el tiempo que tarda un sistema en completar un paso o responder.

TPU 8tx también admite tareas de entrenamiento más pequeñas. Las organizaciones pueden adaptar un modelo con información privada, comprimir un modelo grande para crear otro más pequeño mediante un proceso llamado destilación, o entrenar agentes con aprendizaje por refuerzo, que utiliza retroalimentación para mejorar sus acciones. Google afirma que estas tareas pueden realizarse junto con la inferencia en un mismo sistema, lo que reduce la necesidad de trasladar información confidencial entre distintos grupos de computadoras.

TPU 8i Max ofrece más espacio de trabajo para tareas grandes

TPU 8i Max aborda otra limitación: los procesadores pueden hacer cálculos más rápido de lo que la memoria puede suministrar la información que necesitan. Google llama a esto «muro de la memoria». Añadir capacidad de cómputo funciona mejor cuando aumentan a la par la capacidad de memoria y la velocidad de transferencia de datos.

El sistema combina dos chips TPU 8i en un mismo paquete. Sus especificaciones incluyen 384 GB de memoria de alto ancho de banda, un ancho de banda de memoria de 17,2 terabytes por segundo y 768 MB de SRAM, un tipo rápido de memoria ubicado en el chip.

Google afirma que, en comparación con TPU 8i, el paquete duplica la capacidad de cómputo, la SRAM y el ancho de banda de la memoria de alto ancho de banda. La capacidad de esta última aumenta un 33%, por lo que la cantidad de información almacenada crece en menor proporción que la velocidad a la que puede transferirse.

Entre las cargas de trabajo previstas figuran bases de código completas, documentos extensos, horas de video y grupos de agentes que colaboran entre sí. El sistema está pensado para ventanas de contexto de hasta un millón de tokens. Una ventana de contexto es la información a la que un modelo puede recurrir al atender una solicitud; los tokens son pequeñas unidades de texto u otro contenido que procesa el modelo.

En una tarea de programación, ese espacio de trabajo adicional puede permitir que un agente mantenga disponibles más archivos relacionados mientras investiga un problema. La investigación farmacológica y el trabajo matemático son otras aplicaciones previstas. Google también afirma que incluir el doble de silicio en el espacio actual de los bastidores aumenta la capacidad de cómputo por metro cuadrado y por vatio.

Los agentes de IA generan trabajo más allá de una sola respuesta

Mark Lohmeyer, vicepresidente y director general de infraestructura de IA y cómputo de Google Cloud, dijo que una solicitud individual a un agente puede desencadenar cientos o miles de operaciones. Calculó que este cambio puede aumentar las necesidades de cómputo entre 10 y 1.000 veces, según la tarea.

Un agente puede dividir una solicitud en pasos, consultar una base de datos, escribir código, llamar a otra herramienta de software y esperar la aprobación de una persona. Este patrón genera demanda de comunicación rápida entre procesadores, memoria de trabajo persistente y protección para la información que pasa por varios sistemas.

Google también intenta reducir el costo de las pausas entre esas operaciones. Su nuevo Agent Compute Engine suspende y reanuda automáticamente las sesiones inactivas de los agentes, y libera recursos mientras esperan una respuesta de una base de datos, una herramienta externa o la opinión de una persona.

El objetivo práctico es evitar que procesadores costosos queden ocupados por sesiones que no tienen cálculos que realizar. Para los clientes que utilizan muchos agentes a la vez, gestionar esas pausas forma parte del control de los costos de infraestructura.

El software busca facilitar el cambio de hardware

La expansión del hardware de Google viene acompañada de un esfuerzo más amplio para facilitar la adopción de las TPU. La posición de Nvidia se apoya en parte en el software que los desarrolladores ya utilizan, por lo que la estrategia de Google incluye compatibilidad con herramientas de desarrollo conocidas, además de nuevos procesadores.

TorchTPU, desarrollado junto con Meta y la comunidad de PyTorch, proporciona una integración nativa de TPU para PyTorch, un marco de trabajo muy utilizado para crear modelos de IA. Google afirma que el código existente de PyTorch y los modelos de Hugging Face pueden ejecutarse en las TPU sin reescrituras. En la presentación del producto, describió una configuración básica que requiere añadir dos líneas de código.

El anuncio sobre infraestructura de Cloud de Google también describe la compatibilidad de las TPU con vLLM y SGLang, motores de código abierto utilizados para ofrecer modelos de IA. El trabajo con Inferact y RadixArk respalda un enfoque más amplio en el que los clientes pueden utilizar tanto TPU como unidades de procesamiento gráfico.

El nuevo XLA Serving Engine permite a los desarrolladores entrenar modelos en Python y ponerlos en funcionamiento mediante un entorno de ejecución en C++ en TPU, GPU y CPU. Un conjunto de agentes para TPU, disponible en versión preliminar, se conecta con herramientas de programación como Claude Code, Cursor y Google Antigravity para ayudar a configurar las cargas de trabajo e identificar cuellos de botella.

Google destaca los resultados en relación con el precio y el rendimiento en las pruebas InferenceX y AgentX, que evalúan agentes de programación y tareas con contextos extensos. Se trata de afirmaciones de rendimiento de la empresa; al elegir una infraestructura, los compradores aún deben comparar el costo, la velocidad de respuesta y la precisión de sus propias aplicaciones.

La gestión de memoria se convierte en parte del producto

El nuevo software TPU Sync de Google va más allá de la memoria conectada físicamente a un acelerador. Coordina la memoria del chip, la del equipo anfitrión, el almacenamiento compartido y la red del centro de datos para que una carga de trabajo pueda utilizarlos como distintas capas de un sistema de memoria más amplio.

Uno de sus principales objetivos es la caché KV, la información de trabajo que un modelo guarda sobre el contenido que ya ha procesado. Las ventanas de contexto extensas y el uso simultáneo de muchos agentes pueden generar cachés muy grandes. TPU Sync puede trasladarlas fuera del chip en milisegundos y reservar la costosa memoria del acelerador para las tareas activas.

Google afirma que el software puede reducir en más del 90% la latencia de transferencia de KV y el tiempo hasta la primera respuesta. También permite transferir contexto entre distintas etapas de procesamiento y sincronizar los pesos del modelo durante el aprendizaje por refuerzo.

Otras dos actualizaciones se centran en la organización de los grupos de computadoras. Cloud Pathways, ya disponible de forma general a través de Google Kubernetes Engine, permite que un solo controlador coordine trabajos distribuidos en TPU. Dynamic slicing de GKE utiliza conmutación óptica de circuitos para formar grupos más grandes de TPU o dividirlos en grupos aislados más pequeños a medida que cambian las necesidades.

Google afirma que dynamic slicing puede acelerar hasta cinco veces el inicio de los trabajos y hasta 4,5 veces la recuperación ante fallos. En conjunto, estas herramientas abordan el mismo problema comercial que el nuevo hardware: convertir la capacidad de cómputo instalada en trabajo útil con menos esperas.

Un negocio más amplio que Google Cloud

Google afirma que su negocio de TPU ya cuenta con cerca de 100 clientes, entre ellos laboratorios de IA, empresas de negociación financiera, minoristas y universidades. La empresa amplía el acceso más allá de su propia nube, incluso mediante implementaciones directas en centros de datos de clientes. Algunos clientes podrán instalar TPU 8tx en sus propias instalaciones.

Oracle anunció planes para poner las TPU a disposición de sus clientes de la nube a partir de 2027. Anthropic tiene opciones para comprar chips por un valor de hasta 150.000 millones de dólares entre 2028 y 2031, mientras que, según se informa, OpenAI también planea comprar TPU. La cifra de Anthropic representa el límite potencial de compra previsto en esas opciones.

Jump Trading es un ejemplo de clientes que eligen distintos equipos para distintas tareas. La empresa afirma que las TPU mejoran la eficiencia energética y reducen los costos de algunos trabajos, mientras que los productos de Nvidia siguen siendo su plataforma principal para entrenar modelos de IA.

El analista Mandeep Singh calcula que las TPU cuestan alrededor de un 30% menos que las GPU de Nvidia y ofrecen una capacidad competitiva para procesar datos. Una proyección de investigación sitúa las ventas de TPU, incluido el hardware y el software asociados, en torno a los 12.000 millones de dólares en 2026 y por encima de los 135.000 millones en 2028, sin contar los ingresos de los clientes que acceden a las TPU a través de Google Cloud.

Ese pronóstico implicaría que la cifra aumente a más de 11 veces el valor de 2026 en dos años, al dividir 135.000 millones de dólares por 12.000 millones. Describe una expansión muy rápida, cuyo cumplimiento dependerá de la capacidad de fabricación, el gasto de los clientes y los plazos de implementación.

La oferta y los límites de construcción condicionan la oportunidad

Google dijo en octubre que los clientes ya habían reservado todas las TPU que podía suministrar. La escasez de memoria y los límites de la capacidad de fabricación siguen siendo obstáculos, y el equipo de Vahdat trabaja para diversificar las fuentes de suministro.

Las evaluaciones del sector sitúan la fabricación avanzada y el empaquetado del sistema de la familia TPU de octava generación en el ecosistema de Taiwan Semiconductor Manufacturing Company. Por lo tanto, el aumento de la demanda de TPU crea oportunidades para los proveedores de Taiwán, además de para Google, pero también convierte el acceso a capacidad de producción y empaquetado avanzados en un desafío práctico.

La construcción de centros de datos afronta un obstáculo distinto. Singh calcula que la oposición a nuevas instalaciones podría reducir entre un 5% y un 7% los 1,4 billones de dólares de gasto en infraestructura que se proyectan para el sector tecnológico en 2027. Aplicada a esa proyección, la reducción sería de unos 70.000 a 98.000 millones de dólares.

Una mayor densidad de cómputo puede ayudar a los operadores a hacer más en un edificio existente, lo que da a TPU 8i Max una utilidad práctica en lugares donde escasea el espacio. Aun así, Google debe conseguir chips y memoria, entregar los sistemas y crear un negocio rentable. Singh calcula que los márgenes de ganancia de las TPU siguen por debajo de los de Nvidia.

La competencia ya no se limita a la velocidad máxima de procesamiento. Google combina computación confidencial, sistemas con mayor memoria, software conocido y opciones de implementación más flexibles para captar cargas de trabajo específicas. La rapidez con que las reservas de los clientes se conviertan en ingresos dependerá de la capacidad de la empresa para suministrar esos sistemas.

Puntos clave

• Google anunció TPU 8tx y TPU 8i Max el 9 de noviembre de 2026 y prevé que los envíos comiencen en 2027.
• TPU 8tx combina el silicio existente de TPU 8t con procesadores anfitriones AMD EPYC y protecciones de hardware para los datos confidenciales en uso.
• TPU 8i Max combina dos chips TPU 8i, con 384 GB de memoria de alto ancho de banda y el doble de capacidad de cómputo y ancho de banda de memoria que TPU 8i.
• Google presentó cuatro sistemas TPU en 2026 y afirma que su negocio de TPU cuenta con cerca de 100 clientes.
• TorchTPU, TPU Sync y otras actualizaciones de software buscan simplificar el desarrollo y reducir el tiempo de inactividad del cómputo.
• El acceso a través de Oracle y las implementaciones directas para clientes amplían el mercado de Google, mientras que las limitaciones de memoria, fabricación y construcción restringen la expansión.