Google lanza TPU 8tx y 8i Max: entrenamiento seguro y el doble de memoria

Si ejecuta modelos en la nube, es probable que tenga dos dolores de cabeza crónicos. El primero: hay que entregar datos sensibles y pesos del modelo a una infraestructura ajena, y a los equipos legales y de seguridad eso no les entusiasma. El segundo: las solicitudes largas chocan con la memoria del acelerador. El lunes, Google mostró dos nuevos chips dirigidos precisamente a estos problemas: TPU 8tx y TPU 8i Max.

Qué se ha lanzado exactamente

Ambos chips pertenecen a la octava generación de TPU, que Google presentó en abril. Entonces la gama incluía la TPU 8t para entrenamiento a gran escala y la TPU 8i para inferencia. Ahora se amplía para cubrir dos escenarios concretos.

La TPU 8tx está basada en la 8t y se desarrolló junto con AMD. Está pensada para el entrenamiento y la ejecución confidenciales de modelos. Según Google, la protección está integrada directamente en el nivel de hardware: los datos sensibles y los pesos del modelo permanecen aislados y protegidos incluso durante el funcionamiento activo. Normalmente se cifran los datos en disco y en tránsito, pero durante el cálculo quedan expuestos. Aquí se declara protección precisamente en esa fase.

La TPU 8i Max es más sencilla: son, en la práctica, dos chips 8i en un solo encapsulado. La memoria, la potencia de cómputo y el ancho de banda se duplican. Para el desarrollador, esto significa que el modelo puede manejar un mayor volumen de información dentro de una sola solicitud.

Entrenamiento e inferencia en el mismo hardware

La 8tx tiene otra particularidad. Es una red especial para inferencia que permite ejecutar el modelo en paralelo con el entrenamiento. Google propone usarla para la destilación y el entrenamiento de modelos pequeños sobre la marcha.

Imagine un banco o una clínica. Tienen datos privados con los que hay que reentrenar un modelo compacto para su tarea. Normalmente esto implica mover datos entre distintos dispositivos: entrenamiento en unos, verificación e inferencia en otros. Cada traslado aumenta la superficie de ataque y el volumen de aprobaciones. Google afirma que en la 8tx no hace falta mover los datos: el modelo aprende y responde en el mismo dispositivo dentro de un perímetro protegido.

Ahora, sobre la 8i Max. Si su servicio trabaja con documentos largos, grandes bases de código o escenarios de agentes de varios pasos, la memoria suele ser la principal limitación. En lugar de dividir el modelo o el contexto entre varios chips, se puede usar un solo chip con recursos duplicados. Menos transferencias entre chips suele significar una arquitectura de despliegue más simple, aunque Google no aporta cifras concretas de latencia en el anuncio.

Por qué lo hace Google y qué hacer usted

Esto forma parte de la gran carrera por la independencia de Nvidia. Google fabrica sus propias TPU para depender menos de chips ajenos en su negocio de nube. Microsoft y Amazon, así como laboratorios como OpenAI y Anthropic, también trabajan en sus propios chips de IA y en el software asociado. La apuesta de Google es clara: si el procesamiento confidencial de datos y una gran capacidad de memoria se convierten en argumentos a favor de las TPU, ayudará a vender la nube a empresas para las que la confidencialidad es importante.

También conviene tener en cuenta las limitaciones. El anuncio no incluye fechas de disponibilidad, precios ni mediciones independientes. Las afirmaciones sobre la protección de pesos y datos siguen siendo afirmaciones de Google, y la verificación por parte de auditores aún está por llegar. Y, como siempre con las TPU, uno queda ligado a la pila de Google, y migrar a GPU requerirá trabajo.

La conclusión práctica es esta.

• Si trabaja en un sector regulado y entrena modelos con datos privados, siga la disponibilidad de la TPU 8tx y pida a Google detalles sobre el modelo de amenazas y la certificación.
• Si la memoria le ahoga con contextos largos, pruebe la 8i Max con sus propias cargas en cuanto haya precios y acceso.
• Si está eligiendo plataforma para uno o dos años, tenga en cuenta que las grandes nubes están obteniendo alternativas reales a Nvidia, lo que significa margen para negociar.

Por ahora el anuncio es más una candidatura que un resultado. Pero la dirección está clara: los proveedores de nube empiezan a competir no solo por potencia, sino también por la tranquilidad con la que se les pueden confiar los datos.