Un investigador adolescente se marcha tras ayudar a rediseñar Kimi
Chen Guangyu, un investigador de 17 años que ayudó a desarrollar una nueva forma de transmitir información entre las capas de los modelos de inteligencia artificial, anunció el 15 de octubre de 2026 que había dejado Moonshot AI, la empresa china responsable de Kimi. Se había incorporado a su equipo de investigación en noviembre de 2025, cuando tenía 16 años.
Contenido
- Un investigador adolescente se marcha tras ayudar a rediseñar Kimi
- La contribución de Chen a la investigación
- Cómo cambia un modelo Attention Residuals
- Qué muestran los resultados publicados
- De una competición escolar de programación a un equipo de investigación
- Las fechas de un rápido ascenso
- La invitación de Anthropic y la historia del millón de dólares
- Por qué Discovery Loop entró en la conversación
- Qué deja su salida en Moonshot
- Puntos clave
Conocido internacionalmente como Nathan Chen, el adolescente de Shenzhen se marcha con una contribución concreta a la investigación: comparte la primera autoría de Attention Residuals, un artículo publicado el 16 de marzo de 2026 junto con los investigadores de Moonshot Yu Zhang y Jianlin Su. Según informaciones sobre el lanzamiento del modelo en julio, la técnica pasó a formar parte de Kimi K3.
Los experimentos publicados por Moonshot ofrecen una imagen más precisa del trabajo que la atención suscitada por su edad. En pruebas con un modelo Kimi Linear de 48.000 millones de parámetros, los investigadores registraron mejoras en todas las tareas evaluadas. Su método Block Attention Residuals también igualó la pérdida de entrenamiento de un modelo convencional al que se le asignó 1,25 veces más capacidad de cómputo.
La salida de Chen ha suscitado una invitación pública de Anthropic, especulaciones sobre una empresa emergente fundada por exinvestigadores de Google y conjeturas que lo relacionan con un adolescente no identificado que, según informaciones, tenía cinco ofertas de empleo por un valor de alrededor de un millón de dólares cada una o más.
Sin embargo, Chen ha rechazado públicamente la idea de que se incorpore a Anthropic. No se ha confirmado quién será su próximo empleador, cuál será su remuneración ni si volverá a la universidad.
En su mensaje de despedida, Chen describió su paso por Moonshot y agradeció a quienes lo contrataron. El becario de investigación en aprendizaje automático que deja la empresa dijo:
«El último año ha sido el mejor de mi vida».
Su mensaje terminó con el deseo de seguir explorando, sin mencionar un destino concreto.
La contribución de Chen a la investigación
El nombre de Chen aparece junto a los de Zhang y Su, con una mención de contribución igualitaria, en el informe de Attention Residuals del equipo de Kimi. Esa mención reconoce que los tres lideraron contribuciones a un esfuerzo mucho más amplio del equipo.
Su, conocido por su trabajo sobre las incrustaciones posicionales rotatorias, o RoPE, llevó a cabo los experimentos iniciales. RoPE ayuda a un modelo de lenguaje a seguir la posición de las palabras u otros elementos de información en una secuencia. Zhang fue el primer autor de la investigación sobre la arquitectura Kimi Linear.
Su ha reconocido que Zhang y Chen ayudaron a convertir la idea inicial de Attention Residuals en algo práctico para modelos grandes. Ambos propusieron Block AttnRes, una versión concebida para conservar las ventajas y reducir las exigencias de memoria y comunicación al aplicar el método a gran escala.
Chen también trabajó en la aceleración de kernels de computación para Kimi Delta Attention, o KDA. Un kernel es un pequeño programa que realiza un cálculo concreto en una unidad de procesamiento gráfico. Mejorarlo puede permitir que el mismo hardware complete una tarea más rápido.
Por tanto, su trabajo abarcó dos áreas relacionadas: decidir cómo debe construirse un modelo y lograr que los cálculos de ese diseño se ejecuten de manera eficiente. Para un laboratorio que entrena modelos grandes, ambas influyen en la cantidad de investigación que puede llevar a cabo con su presupuesto de computación.
Cómo cambia un modelo Attention Residuals
Los modelos de lenguaje procesan información a través de muchas capas sucesivas. Cada capa transforma la información que recibe y construye representaciones que las capas posteriores utilizan para predecir una respuesta.
Las conexiones residuales convencionales mantienen la circulación de la información anterior al sumar las salidas de las capas. El repositorio oficial de investigación de Moonshot señala un problema de este enfoque: cuanto más profundo es el modelo, más puede diluirse cada contribución por la acumulación repetida y más puede crecer el tamaño de las señales internas.
Attention Residuals sustituye esa acumulación fija por un proceso de selección que se aprende. Una capa posterior puede asignar distintos pesos a la información producida antes, según la entrada actual. Es como si un lector consultara las notas más útiles de capítulos anteriores en vez de conservar todas con la misma importancia.
Aplicar esa selección por separado a cada capa anterior también tiene costos. Block AttnRes agrupa las capas, mantiene las sumas habituales dentro de cada grupo y selecciona entre las representaciones resultantes. Según el repositorio, unos ocho grupos permiten recuperar la mayor parte de las mejoras del método completo.
La configuración más grande de Kimi Linear descrita en el artículo tenía 54 capas, agrupadas de seis en seis. Sus nueve grupos, junto con la representación inicial de los tokens, proporcionaban 10 fuentes de información para la selección. Este paso práctico de ingeniería ayudó a llevar la idea desde la experimentación hasta el entrenamiento de modelos grandes.
Qué muestran los resultados publicados
El artículo de marzo probó Attention Residuals en un modelo Kimi Linear con un total de 48.000 millones de parámetros, de los cuales se activaban 3.000 millones durante el procesamiento. Los parámetros son los valores numéricos que el modelo aprende. Activar solo una parte permite que el modelo recurra a un gran conjunto de conocimientos aprendidos y limite, al mismo tiempo, los cálculos necesarios en cada paso.
El entrenamiento utilizó 1,4 billones de tokens, es decir, fragmentos de texto u otros datos que procesa un modelo. Los investigadores mantuvieron sin cambios los demás componentes arquitectónicos principales, lo que les permitió comparar la incorporación de Attention Residuals con el diseño de referencia.
En GPQA-Diamond, una prueba de preguntas científicas difíciles, la puntuación pasó de 36,9 a 44,4, una mejora de 7,5 puntos. HumanEval, que evalúa la generación de código, subió de 59,1 a 62,2. MMLU, una prueba amplia de conocimientos, aumentó de 73,5 a 74,6.
La comparación de capacidad de cómputo también resulta útil. Igualar los resultados de referencia con 1,25 veces más capacidad de cómputo significa alcanzar la misma pérdida de entrenamiento comunicada con cuatro quintas partes del presupuesto de referencia, es decir, con un 20 % menos de capacidad. La pérdida de entrenamiento mide cuánto se alejan las predicciones del modelo de las respuestas objetivo durante el entrenamiento.
Por separado, Moonshot afirmó que esta tecnología contribuyó a una mejora de alrededor del 25 % en la eficiencia del entrenamiento de K3, con menos de un 2 % de costos adicionales. Los experimentos de marzo y las afirmaciones posteriores sobre K3 corresponden a distintas configuraciones de modelo; las cifras detalladas de las pruebas publicadas más arriba son de Kimi Linear.
De una competición escolar de programación a un equipo de investigación
Chen nació en Shenzhen en 2009. Antes de incorporarse a Moonshot, organizó una comunidad de código abierto para adolescentes, desarrolló bots de software y exploró intereses que iban desde la seguridad de la inteligencia artificial hasta la física.
Mientras preparaba sus solicitudes universitarias, dejó de lado algunas actividades que no disfrutaba y empezó a leer sobre temas que le interesaban. Su posterior camino hacia la investigación combinó el estudio independiente, la divulgación técnica pública y el contacto con investigadores en activo.
En febrero de 2025, participó en una competición de inteligencia artificial de Moonshot para estudiantes de secundaria con ThirdArm, un proyecto que imaginaba un brazo robótico adicional para ayudar en distintas tareas. Allí conoció a Dong Kehan, miembro del equipo fundador de MiraclePlus, quien lo animó a centrarse en la tecnología de vanguardia.
Después, una publicación técnica sobre DeltaNet atrajo la atención del investigador Songlin Yang, que respondió a ella. El intercambio llegó a Ben Keigwin, de Tilde Research, una empresa emergente de Palo Alto, California, y dio lugar a una conversación sobre el trabajo de la compañía. En julio de 2025, Chen viajó solo hasta allí, con 16 años, para realizar una pasantía de siete semanas.
El método de aprendizaje de Chen incluía pasar horas conversando sobre artículos de investigación con Gemini, enviar capturas de pantalla de pasajes difíciles y hacer preguntas de seguimiento. También leía código, blogs y sitios web de investigadores, y pidió consejo al investigador de DeepSeek Yuan Jingyang sobre decisiones importantes.
Su experiencia va más allá de usar un chatbot como tutor. La divulgación pública permitió que otros vieran su razonamiento técnico; los investigadores respondieron y las pasantías le dieron oportunidades para convertir esas ideas en un trabajo colaborativo.
Las fechas de un rápido ascenso
Chen pasó de un proyecto escolar a una pasantía internacional y, después, a publicar investigaciones sobre modelos en menos de dos años. Su salida se produjo tras el uso de Attention Residuals en un importante lanzamiento de Kimi.
- Febrero de 2025: Chen participó en la competición de inteligencia artificial de Moonshot para estudiantes de secundaria.
- Julio de 2025: Comenzó una pasantía de siete semanas en Tilde Research, en Palo Alto.
- Noviembre de 2025: Se incorporó al equipo de Kimi de Moonshot como becario de investigación en aprendizaje automático, con 16 años.
- 16 de marzo de 2026: Se publicó el informe técnico de Attention Residuals, con Chen, Zhang y Su como coautores con igual contribución.
- Junio de 2026: Chen terminó la secundaria.
- Julio de 2026: Se lanzó Kimi K3, que incorporó Attention Residuals entre sus tecnologías arquitectónicas.
- 15 de octubre de 2026: Chen anunció que había dejado Moonshot.
- 16 de octubre de 2026: Rechazó las especulaciones sobre su incorporación a Anthropic.
- 20 de octubre de 2026: Una cuenta anónima afirmó que se incorporaba a Discovery Loop.
Su historial educativo público también señala que asistió a la Universidad Carnegie Mellon durante agosto y septiembre de 2026. Esa breve mención se ha sumado a las especulaciones sobre si su próximo paso será trabajar o seguir estudiando.
La invitación de Anthropic y la historia del millón de dólares
Sholto Douglas, responsable del aprendizaje por refuerzo escalable en Anthropic, comentó la publicación de despedida de Chen. Le preguntó si todavía planeaba asistir a Carnegie Mellon y lo invitó a trabajar juntos en San Francisco.
Chen respondió que se dirigía al área de la bahía de San Francisco. Cuando el intercambio dio pie a comentarios que afirmaban que se había incorporado a Anthropic, respondió brevemente:
no :)
La conversación sobre el salario surgió por separado. Deedy Das, inversor de Menlo Ventures, contó que había conocido a un joven de 17 años no identificado que había aprendido inteligencia artificial por su cuenta con ayuda de modelos de lenguaje, había pasado cerca de un año como pasante en una empresa líder del sector y había abandonado, tras dos semanas, un programa de grado en una universidad estadounidense de alto prestigio.
Según Das, ese adolescente tenía cinco ofertas de laboratorios líderes de inteligencia artificial de San Francisco, cada una por un valor de alrededor de un millón de dólares o más. Das también transmitió que el joven prefería aprender antes que ganar dinero.
Usuarios de redes sociales relacionaron esa descripción con Chen por su edad y trayectoria de investigación. Das no identificó al adolescente, y Chen no ha confirmado que las ofertas fueran para él. Por tanto, la conversación se refiere a las ofertas atribuidas a una persona no identificada, no a un contrato laboral de Chen que se haya hecho público.
La invitación pública de Douglas es una señal de interés más concreta: un investigador sénior animó abiertamente a Chen a incorporarse a su equipo. Su posterior rechazo también ofrece una respuesta directa a las especulaciones sobre Anthropic.
Por qué Discovery Loop entró en la conversación
Discovery Loop pasó a ser el centro de atención después de que Arfur Grok, una cuenta anónima que sigue los movimientos de personal en el sector de la inteligencia artificial, afirmara el 20 de octubre que Chen se había incorporado a la empresa. Chen no ha confirmado su contratación y la empresa se negó a comentar asuntos de personal.
La empresa fue fundada en agosto de 2026 por los exinvestigadores de Google Jeff Dean, Sanjay Ghemawat, Quoc Le y Oriol Vinyals. Su objetivo declarado es utilizar la inteligencia artificial para automatizar la investigación científica y en aprendizaje automático, desde la propuesta de ideas hasta la realización de experimentos y el análisis de resultados.
Para un investigador interesado en el diseño eficiente de modelos, esa misión implicaría problemas técnicos conocidos. Los sistemas que ejecutan muchos experimentos de investigación deben aprovechar los recursos de computación con eficiencia, y las mejoras en algoritmos o kernels pueden permitir realizar más experimentos con un presupuesto fijo.
La financiación de Discovery Loop también ha llamado la atención. Según informaciones, en septiembre buscó financiación con una valoración de unos 50.000 millones de dólares, frente a las conversaciones en torno a los 10.000 millones que habían tenido lugar apenas unas semanas antes: un aumento de cinco veces. Esas cifras corresponden a valoraciones propuestas para la empresa durante las conversaciones de financiación.
Chen también tiene vínculos previos con el área de la bahía a través de Tilde Research. Su pasantía allí ayuda a entender por qué un viaje a California podría incluir varios contactos profesionales, en lugar de un único destino evidente.
Qué deja su salida en Moonshot
El investigador de Moonshot Du Yulun, que apoyó la contratación de Chen cuando tenía 16 años, dijo que ambos habían mantenido varias conversaciones largas sobre su decisión de marcharse. Du expresó tristeza, pero respaldó el deseo de Chen de explorar nuevos intereses a su edad.
Las contribuciones de Chen siguen formando parte del historial de investigación del equipo. Kimi K3, lanzado en julio con 2,8 billones de parámetros, combinó Attention Residuals con Kimi Delta Attention. Ambas tecnologías abordan distintos aspectos del procesamiento de la información: AttnRes cambia la forma en que la información circula a través de las capas del modelo, mientras que KDA ayuda a procesar secuencias de forma eficiente.
Moonshot atribuyó una mejora de aproximadamente 2,5 veces en la eficiencia de escalado de K3 frente a K2 al conjunto de los cambios arquitectónicos, los métodos de entrenamiento y las decisiones sobre los datos. Esto sitúa el trabajo de Chen dentro de un esfuerzo más amplio de la empresa que incluye a muchos investigadores y varios cambios técnicos.
Lo que está en juego en la práctica va más allá de la trayectoria profesional de un empleado excepcionalmente joven. Un modelo que aprende con más eficiencia puede aprovechar mejor los costosos procesadores y los presupuestos de investigación. Un investigador capaz de vincular el diseño matemático con una implementación rápida puede contribuir directamente a ese objetivo.
Chen deja Moonshot con trabajos publicados, experiencia en dos entornos de investigación y muestras públicas de interés por parte de otro laboratorio destacado. La historia confirmada ya es considerable: un adolescente ayudó a convertir una idea arquitectónica en un método aplicable y luego decidió seguir explorando antes de anunciar su próximo puesto.
Puntos clave
- Chen Guangyu, también conocido como Nathan Chen, anunció que dejaba Moonshot AI el 15 de octubre de 2026, a los 17 años.
- Compartió la primera autoría, en igualdad de condiciones con Yu Zhang y Jianlin Su, de Attention Residuals, publicado el 16 de marzo.
- Los experimentos de Moonshot mostraron mejoras en todas las tareas evaluadas y resultados iguales a los de una referencia que utilizaba 1,25 veces más capacidad de computación.
- Chen ayudó a desarrollar Block AttnRes y trabajó en acelerar los cálculos de Kimi Delta Attention.
- Dijo que se dirigía al área de la bahía de San Francisco y rechazó las especulaciones sobre su incorporación a Anthropic.
- Su supuesta incorporación a Discovery Loop y las especulaciones que lo relacionan con cinco ofertas de alrededor de un millón de dólares cada una siguen sin confirmarse.
