BitCorner

Cuestionamos las finanzas tradicionales y exploramos Bitcoin como alternativa.

Noticias › IA

IA

Google presenta los TPU 8tx y 8i Max, con privacidad y memoria como armas frente a Nvidia

El 8tx añade computación confidencial por hardware; el 8i Max duplica los chips por paquete; Google abre el código de TPU Sync y afirma reducir en más del 90 % ciertos retrasos de transferencia.

por Juan Cienfuegos·
BitCorner

Google presentó el lunes dos sistemas de computación de inteligencia artificial, el TPU 8tx y el TPU 8i Max, que se suman a su octava generación de procesadores tensoriales y dan a las empresas cuatro configuraciones para entrenar y ejecutar modelos. Google dice atender a casi cien clientes de TPU, desde laboratorios de IA hasta universidades. A diferencia de las GPU de Nvidia, los TPU son aceleradores creados para IA que Google desarrolló para sus propios servicios y que cada vez ofrece más a terceros, incluso instalados en sus instalaciones.

El TPU 8tx apunta a un problema que frena a muchas empresas: proteger información sensible mientras un modelo la usa. Los datos suelen estar cifrados al almacenarse y al transmitirse, pero el procesamiento normalmente exige descifrarlos en memoria. Google asegura que esta configuración usa computación confidencial por hardware para aislar los datos del cliente y los parámetros propietarios del modelo incluso durante la operación. Combina el silicio TPU 8t con procesadores AMD EPYC de quinta generación y la red Boardfly de baja latencia. Según Google, puede reducir la latencia hasta a la mitad frente al TPU 8t, con una penalización de rendimiento casi nula por la protección adicional. Así, una empresa podría ajustar y ejecutar modelos en el mismo sistema sin mover información sensible entre clústeres.

El propio texto de la noticia añade una advertencia razonable: la computación confidencial no impide que un agente de IA mal diseñado maneje mal los datos a los que sí tiene acceso. Protege del operador de los servidores, no de errores de la aplicación. Esa distinción es importante y la vimos esta misma semana con una brecha en otra empresa de IA que vendía privacidad como característica central.

El TPU 8i Max ataca otra limitación: la memoria. Los agentes autónomos que analizan datos, código, documentos u horas de vídeo necesitan acceso rápido a mucha más información que las tareas convencionales. Google combina dos chips TPU 8i en un solo paquete, con el doble de potencia de cálculo, de SRAM integrada y de ancho de banda de memoria que el 8i, y el doble de silicio en el mismo espacio de rack. «Nuestro cuarto sistema, el TPU 8i Max, está pensado para un problema distinto: el muro de la memoria», escribió Amin Vahdat, responsable técnico de infraestructura de IA de Google.

Además, Google abre el código de TPU Sync, un software que mueve la memoria de trabajo de la IA entre chips, servidores y almacenamiento, y afirma que puede reducir en más de un 90 % ciertos retrasos de transferencia y de arranque de respuesta. Son cifras de la propia compañía, no verificadas de forma independiente.

El anuncio llega mientras Nvidia sufre presión en bolsa por la investigación a su director. Más oferta de chips alternativos puede abaratar la computación a medio plazo, que es lo que le interesa a quien construye con IA. En cualquier caso, hablamos de anuncios: faltan precios, plazos y pruebas de terceros.

Fuentes: Decrypt ↗

Solo hechos, nunca asesoramiento financiero.

Sobre el autor

Juan Cienfuegos

Fundador y CEO de BitCorner Media

Presenta BitCorner, el podcast de Bitcoin desde El Salvador. BitCorner Media es el primer medio de Bitcoin y tecnología de El Salvador y ayuda a empresas de Bitcoin y tecnología a llegar y a formar a la audiencia hispanohablante.