Alibaba entrena su próximo modelo Qwen con chips T-Head mientras EE. UU. endurece las restricciones

12 min de lectura
Alibaba Trains Its Next Qwen Model on T-Head Chips as US Curbs Tighten

Una sola cadena de suministro de chips ahora respalda tanto la fabricación como la ejecución de Qwen

Alibaba está usando procesadores de su unidad de chips T-Head para entrenar la próxima generación de sus modelos de inteligencia artificial Qwen, dijo el director ejecutivo Eddie Wu el 19 de noviembre.

Contenido
  1. Una sola cadena de suministro de chips ahora respalda tanto la fabricación como la ejecución de Qwen
  2. ¿Qué aporta T-Head al trabajo de entrenamiento?
  3. Por qué el entrenamiento y la inferencia requieren atención separada
  4. ¿Con qué rapidez los nuevos chips pueden aumentar el suministro?
  5. ¿Qué dicen los resultados sobre el negocio de IA?
  6. ¿Qué significan las nuevas reglas de EE. UU. para Alibaba?
  7. ¿Qué sigue sin decidirse?
  8. Puntos clave

La empresa también está usando chips fabricados en China para ejecutar modelos para clientes a través de Bailian, su plataforma para acceder a modelos de IA y desarrollar aplicaciones.

El anuncio pone bajo el mismo techo a dos trabajos exigentes. El entrenamiento es el proceso de enseñar a un modelo al ejecutarlo con grandes cantidades de datos y ajustar sus ajustes internos. La inferencia es lo que sucede cuando un modelo terminado responde a una pregunta o lleva a cabo una tarea. El entrenamiento generalmente requiere un poder computacional considerable, mientras que la inferencia sucede cada vez que un usuario o una aplicación solicita a la modelo que haga algo.

Para Alibaba, usar chips T-Head para ambos trabajos podría reducir la dependencia de procesadores externos y ayudar a coordinar hardware, modelos y servicios en la nube. También da a la empresa una forma de probar sus propios chips en las cargas de trabajo complejas para las que están diseñados. Wu dijo que la conexión entre los chips y los modelos de la compañía podría reducir los costos de computación y hacer más eficiente el desarrollo de aplicaciones de IA.

El cambio se produce cuando China enfrenta límites más estrictos para acceder a la computación avanzada. Las nuevas reglas de EE. UU. anunciadas el 16 de noviembre exigen licencias para los centros de datos en países como Malasia, Singapur, Tailandia, Indonesia y Brasil si suministran una computación sustancial a empresas chinas. Eso significa que el acceso a través de centros de datos en el extranjero, así como los envíos de algunos chips, enfrenta una mayor incertidumbre.

Los resultados de Alibaba subrayan la importancia del asunto. Los ingresos del tercer trimestre que finalizó en septiembre alcanzaron 271.5 mil millones de yuanes, un aumento del 10% respecto al año anterior. Sus servicios en la nube de IA y de computación generaron unos 61 mil millones de yuanes, un aumento del 53%. Alibaba espera que el crecimiento de los ingresos por la nube se desacelere a entre el 30% y el 45% en el próximo ejercicio fiscal, antes de superar potencialmente el 50% en el calendario de 2028.

Publicidad

¿Qué aporta T-Head al trabajo de entrenamiento?

T-Head es la filial de diseño de chips de Alibaba. Su procesador Zhenwu M890 entró en servicio en agosto y pasó a ventas a gran escala, según la llamada sobre los resultados de Wu. La compañía dice que el M890 ofrece un rendimiento tres veces mayor que el de su predecesor, el Zhenwu 810E.

El Anuncio del M890 de Alibaba lista 144 gigabytes de memoria en el chip y 800 gigabytes por segundo de ancho de banda entre chips. La memoria es el espacio de trabajo rápido que utiliza un procesador al manejar datos. El ancho de banda describe la rapidez con la que puede mover la información, incluido entre procesadores que trabajan juntos en un trabajo grande.

El M890 admite varios niveles de precisión numérica, desde FP32, que conserva más detalle para cálculos, hasta FP4, que usa menos datos y puede adaptarse a tareas más rápidas y económicas. Ese rango importa porque el entrenamiento y la inferencia no siempre necesitan el mismo equilibrio entre precisión, velocidad y costo.

Alibaba dice que T-Head ha enviado más de 560,000 chips Zhenwu, con más de 400 clientes externos en 20 industrias que los usan. Esos cifras apuntan a un negocio que sirve a clientes más allá del desarrollo de modelos de Alibaba, aunque la compañía no ha revelado cuánto de los ingresos de T-Head proviene de compradores externos.

Por qué el entrenamiento y la inferencia requieren atención separada

Un modelo puede entrenarse con un tipo de hardware y luego ejecutarse con otro. El anuncio de Alibaba es un paso hacia el uso de procesadores T-Head en ambas etapas, pero la distinción aún importa cuando la compañía planifica su suministro. Entrenar el próximo modelo Qwen impone demandas sostenidas a los clústeres de computación. La inferencia requiere suficiente capacidad para responder muchas solicitudes de clientes de manera confiable y a un costo que los negocios puedan pagar.

Bailian, conocido internacionalmente como Model Studio, conecta esos procesadores con desarrolladores y empresas que quieren usar modelos de IA. Los clientes pueden usar el servicio para acceder a modelos y herramientas para desarrollar aplicaciones. Alibaba dice que Bailian ya está proporcionando inferencia con chips fabricados en China, por lo que el hardware local está trabajando no solo en el desarrollo interno, sino también en los servicios al cliente.

Wu dijo que Alibaba tiene la intención de comprar otros chips chinos también, especialmente para la inferencia. La compañía espera que la mayor parte de su nuevo suministro de chips de IA después de 2027 provenga de T-Head, mientras usa una gama de procesadores domésticos para satisfacer las necesidades de inferencia. Este enfoque da a Alibaba un suministro interno principal, pero deja espacio para usar chips de otros fabricantes chinos.

Un procesador T-Head separado, llamado PPU, también ha sido descrito como un producto centrado en la inferencia. Los informes publicados le dan especificaciones diferentes al M890, incluidos 96 gigabytes de memoria y 700 gigabytes por segundo de ancho de banda entre chips. Esos datos se refieren al PPU, no al M890 que se está usando para entrenar a Qwen. Mantener los productos separados ayuda a explicar por qué Alibaba podría usar diferentes chips para diferentes trabajos.

Publicidad

¿Con qué rapidez los nuevos chips pueden aumentar el suministro?

Los planes de Alibaba van más allá del M890. Wu dijo que la próxima generación Zhenwu V900 se espera que comience la producción en masa en el primer trimestre de 2027, con una capacidad de computación tres veces mayor que la del M890. Se planea un clúster supernode que usa el V900 para el despliegue comercial en el segundo trimestre de 2027. Un supernode es un grupo de procesadores fuertemente conectados diseñados para trabajar juntos como un solo sistema computacional grande.

El siguiente Zhenwu J900 está planeado para 2028. El cronograma importa porque Alibaba espera que el suministro de computación se mantenga ajustado en China durante 2027 y 2028. Los nuevos modelos y una mayor disponibilidad de procesadores podrían aliviar parte de esa presión, pero los planes de la compañía dependen de si la producción de chips y la infraestructura de soporte pueden crecer como se pretende.

Alibaba también está buscando inversión externa en T-Head. La compañía anunció planes para escindir la unidad de chips con el fin de una cotización en Hong Kong, después de que T-Head presentara una solicitud confidencial el 11 de septiembre. Alibaba no ha revelado las cifras financieras detalladas de la filial ni los términos finales de la cotización. El proyecto de cotización de T-Head daría a los inversores una manera de evaluar el negocio de chips por separado, mientras deja abierta cómo funcionaría su relación comercial con Alibaba Cloud.

Wu dijo que Alibaba primero asegurará que sus propios modelos tengan suficiente capacidad de computación, y luego considerará las necesidades de los socios importantes. Esa asignación podría importar para los clientes de la nube si la demanda de servicios de IA continúa superando la oferta de procesadores.

¿Qué dicen los resultados sobre el negocio de IA?

Los servicios en la nube de IA y de computación de Alibaba generaron 60.97 mil millones de yuanes en el trimestre de septiembre, un aumento del 53% frente al año anterior. Los ingresos de clientes externos fueron de unos 47 mil millones de yuanes, un aumento del 64%. Dentro de ese total, los ingresos por productos de IA alcanzaron los 17.9 mil millones de yuanes y habían registrado un crecimiento de tres dígitos durante 13 trimestres consecutivos, según las cifras reveladas alrededor de los resultados.

Los resultados ajustados antes de intereses, impuestos y amortización de la empresa por el negocio de la nube fueron de 8.84 mil millones de yuanes, con un margen del 14.5%. Alibaba ha relacionado la mejora de la rentabilidad de la nube con una mayor participación de productos de IA de mayor margen, una fuerte demanda de computación y eficiencias de sus centros de datos. Usar procesadores T-Head en lugar de chips comprados más caros también podría ayudar a controlar los costos, aunque los ahorros reales por entrenar a Qwen con ellos no se han revelado.

El negocio de servicios de modelos de Bailian tiene su propio objetivo de ventas. Wu dijo que su ingreso recurrente anual, una estimación anual basada en el ritmo actual de suscripciones y uso, superó los 20 mil millones de yuanes en agosto. Mantuvo un objetivo de 30 mil millones de yuanes para el final del ejercicio fiscal. Un anuncio anterior de la compañía situó los ingresos recurrentes anuales de la plataforma por encima de los 10 mil millones de yuanes en el segundo trimestre, lo que muestra que las cifras se refieren a momentos distintos.

Alibaba está invirtiendo fuertemente para construir la capacidad detrás de ese crecimiento. El gasto de capital alcanzó los 50.5 mil millones de yuanes en el trimestre de septiembre, un 60% más que hace un año. La compañía se ha comprometido a más de 53 mil millones de dólares durante tres años para negocios y servicios que abarcan modelos de IA, chips e infraestructura en la nube. Los ejecutivos también han dicho que el plan a largo plazo de construir 20 gigavatios de capacidad computacional podría revisarse, mientras esperan que el flujo de caja se vuelva positivo en la segunda mitad de 2028.

Publicidad

¿Qué significan las nuevas reglas de EE. UU. para Alibaba?

Las medidas del 16 de noviembre se dirigen a una ruta que han usado las empresas chinas para acceder a chips avanzados: alquilar capacidad de computación de centros de datos fuera de China. Bajo las nuevas restricciones, los centros de datos que suministran una computación sustancial a clientes chinos necesitan una licencia. Las reglas también cubren países específicos de Asia sudoriental y Brasil, ampliando los controles más allá de los envíos directos de chips hacia el acceso a servicios de computación.

Wu dijo que las reglas afectarían los productos y servicios de Alibaba en 2027 y traerían incertidumbre a las cadenas de suministro globales. También dijo que todavía era demasiado pronto para saber cómo las restricciones podrían afectar el desarrollo de Qwen. La diferencia entre esas declaraciones captura la posición de la compañía: T-Head ya está apoyando cargas de trabajo reales, mientras que el suministro futuro y el ritmo del desarrollo de modelos siguen dependiendo de la rapidez con la que se puedan producir sus chips.

Alibaba mantiene su objetivo para 2030 de obtener 100 mil millones de dólares en ingresos externos por la nube y un margen de utilidad a largo plazo superior al 20%. Su pronóstico de crecimiento de la nube a corto plazo es más conservador, del 30% al 45% para el próximo ejercicio fiscal. La diferencia refleja un plan que sigue siendo ambicioso durante varios años, aunque enfrenta límites a corto plazo en los recursos computacionales necesarios para atender a los clientes y desarrollar nuevos modelos.

¿Qué sigue sin decidirse?

Alibaba no ha dicho cuánto del entrenamiento del próximo modelo Qwen se ejecutará con chips T-Head, cuánta capacidad de computación requerirá el trabajo o qué ahorros de costos ha logrado la compañía. La escala final de su construcción de centros de datos y cualquier cambio en su objetivo de 20 gigavatios también siguen sin decidirse. Los próximos hitos importantes de hardware de la compañía son el inicio de producción del V900 previsto para principios de 2027 y el lanzamiento comercial planeado de su clúster supernode más tarde en la primavera de ese año.

La prueba práctica es si T-Head puede suministrar suficientes procesadores, y si esos procesadores funcionan bien y de manera económica a gran escala. El éxito ayudaría a Alibaba a depender más de su propio hardware para el desarrollo de modelos y los servicios en la nube. También daría a T-Head un papel más importante en la cadena de suministro de IA doméstica de China en un momento en que el acceso a recursos computacionales extranjeros es menos seguro.

Publicidad

Puntos clave

  • El director ejecutivo de Alibaba, Eddie Wu, dijo que la compañía está entrenando su próximo modelo Qwen con chips T-Head y usando chips chinos para los servicios de inferencia de Bailian.
  • El Zhenwu M890 tiene 144 gigabytes de memoria en el chip y es calificado por Alibaba con un rendimiento tres veces mayor que el de su predecesor.
  • Alibaba espera que la mayor parte del nuevo suministro de chips de IA después de 2027 provenga de T-Head, mientras también compra otros chips domésticos para la inferencia.
  • Se espera que el V900 entre en producción en masa a principios de 2027, con un clúster supernode planeado para el despliegue comercial en el segundo trimestre.
  • Alibaba reportó unos 61 mil millones de yuanes en ingresos por servicios en la nube de IA y de computación para el trimestre de septiembre, un aumento del 53% respecto al año anterior.
  • Las restricciones de EE. UU. anunciadas el 16 de noviembre añaden requisitos de licencia para algunos centros de datos que suministran computación a empresas chinas.
Compartir este artículo

También le puede interesar