DeepSeek OCR comprime texto en imágenes para reducir los costos de la IA y ampliar el contexto

Una nueva forma de condensar documentos extensos en el contexto de la IA

DeepSeek ha lanzado DeepSeek-OCR, un sistema de visión y lenguaje que comprime pasajes extensos de texto al convertirlos en imágenes y luego recupera el contenido cuando el modelo lo necesita. Según la configuración y el tipo de documento, este método reduce entre siete y veinte veces la cantidad de tokens que debe procesar un modelo de lenguaje grande, y mantiene una gran precisión con niveles moderados de compresión. DeepSeek afirma que el sistema alcanza una precisión de decodificación de alrededor del 97 % con una compresión de unas diez veces, y que sigue ofreciendo resultados útiles con índices mayores. El proyecto incluye el código y los pesos del modelo, está disponible para desarrolladores y aborda uno de los costos más elevados de la IA moderna: procesar contextos extensos a un costo razonable.

El sistema funciona en dos etapas. Un codificador visual llamado DeepEncoder convierte páginas de texto, tablas, gráficos y otros diseños en un conjunto compacto de tokens visuales. Luego, un modelo de lenguaje ligero, DeepSeek3B MoE A570M, decodifica esos tokens y los convierte de nuevo en texto estructurado. Esta configuración conserva el diseño y el formato cuando es necesario, admite muchos idiomas y puede generar texto sin formato o resultados estructurados, como tablas en Markdown.

La importancia de esto radica en los tokens, las unidades básicas que los modelos de lenguaje leen y escriben. Cuantos más tokens se utilizan, mayor es el consumo de memoria y la latencia, lo que eleva los costos. Además, los modelos tienen límites estrictos sobre la cantidad de contexto que pueden procesar a la vez. Al almacenar el contexto como imágenes y consultarlo de nuevo mediante tokens visuales, DeepSeek-OCR ofrece una opción de memoria más económica para sesiones prolongadas y documentos extensos, con el potencial de ampliar la ventana de contexto efectiva mucho más allá de lo que permite el texto por sí solo.

La escala es una de las principales afirmaciones del proyecto. Para el entrenamiento se utilizaron unos 30 millones de páginas PDF en casi 100 idiomas, además de datos sintéticos adicionales para gráficos, fórmulas e ilustraciones. En cuanto a las operaciones, el equipo informa que una sola GPU Nvidia A100 puede procesar más de 200.000 páginas al día. Un grupo de 20 servidores similares puede elevar esa cifra a unos 33 millones de páginas diarias. Estos datos apuntan a procesos rápidos para digitalizar documentos y generar datos de entrenamiento a gran escala.

Cómo convertir texto en imágenes reduce los tokens

Los modelos de lenguaje procesan la entrada como tokens, no como palabras o caracteres. Un artículo o informe típico puede convertirse en miles de tokens. Los mecanismos de atención de la mayoría de los transformadores comparan muchos pares de tokens, y esa carga aumenta rápidamente a medida que las secuencias se alargan. Un contexto extenso incrementa el uso de memoria y el tiempo de procesamiento, lo que a gran escala se convierte en un problema presupuestario.

Qué son los tokens y las ventanas de contexto

Los tokens son fragmentos de lenguaje que los modelos pueden interpretar. Una palabra corta puede corresponder a un token; una más larga puede dividirse en varios, y los signos de puntuación también cuentan. La cantidad máxima de tokens que el modelo puede considerar a la vez se denomina ventana de contexto. Muchos archivos de uso cotidiano superan ese límite, por lo que los usuarios deben recortar los documentos o pagar los altos costos de los modelos especializados en contextos extensos.

Por qué los píxeles pueden ser más baratos que el texto para almacenar información

Los codificadores visuales convierten una imagen en una cuadrícula más pequeña de fragmentos y luego comprimen esa cuadrícula en un conjunto de tokens visuales. El codificador de DeepSeek utiliza un bloque de compresión para reducir la cantidad de tokens antes de enviar las características al decodificador. En un ejemplo de las notas técnicas, una imagen de 1.024 por 1.024 píxeles comienza con 4.096 tokens de fragmentos y luego se reduce a 256 tokens comprimidos antes de pasar al sistema de visión y lenguaje. Si esos 256 tokens capturan la esencia de una página densa que, de otro modo, requeriría 1.500 tokens de texto o más, el ahorro es inmediato.

La disyuntiva es sencilla. En vez de almacenar el contexto extenso como tokens de texto, el sistema guarda instantáneas en forma de tokens visuales compactos y reconstruye el significado cuando se necesita. Así mantiene bajo control el uso de memoria, ayuda a conservar el diseño y los diagramas, y evita algunas limitaciones de los tokenizadores de texto. El costo está en los pasos adicionales de codificación y decodificación, así como en la pérdida gradual de precisión con índices de compresión muy altos.

Dentro del modelo: DeepEncoder y el decodificador

DeepEncoder combina dos conceptos conocidos: la percepción local y la comprensión global. Aplica una arquitectura de Segment Anything Model para identificar regiones y bordes detallados, y un módulo de tipo CLIP para captar el diseño semántico general. Entre ambos se encuentra un compresor convolucional que reduce drásticamente la cantidad de tokens visuales antes de enviarlos al modelo de lenguaje. El codificador admite varios modos de resolución, de modo que los usuarios pueden ajustar el presupuesto de tokens a la complejidad de cada página. Las diapositivas sencillas pueden procesarse con pocos tokens. Las páginas de noticias recargadas o las ilustraciones científicas complejas pueden necesitar más.

El decodificador es un modelo de lenguaje de mezcla de expertos, basado en un diseño de 3.000 millones de parámetros, con unos 570 millones de parámetros activos por token. La selección de expertos ayuda al modelo a centrarse en distintos tipos de contenido sin utilizar los 3.000 millones de parámetros para cada token. Esto reduce el procesamiento necesario y mantiene una alta calidad. El sistema puede generar texto sin formato, conservar la estructura en Markdown e incluso extraer datos de tablas y gráficos en formatos legibles por máquinas. Admite el reconocimiento óptico de caracteres en varios idiomas y puede interpretar diagramas, estructuras químicas y figuras geométricas.

Las configuraciones preestablecidas incluyen Tiny, Small, Base y Large, además de un modo dinámico para páginas muy complejas. Estas opciones equilibran el tamaño de la imagen y la cantidad de tokens. DeepSeek recomienda comenzar con Small para las páginas típicas y pasar a una configuración superior solo cuando el contenido sea denso o el diseño resulte complejo.

Qué muestran las pruebas comparativas y las cifras de precisión

La compresión solo resulta útil si el decodificador puede recuperar el texto con gran fidelidad. DeepSeek informa una precisión de alrededor del 97 % en pruebas de decodificación con índices de compresión inferiores a diez veces. Esa cifra baja a cerca del 60 % con una compresión de unas veinte veces. El equipo también muestra ejemplos en los que 100 tokens visuales representan documentos que habrían requerido entre 700 y 800 tokens de texto, con una precisión que sigue rondando el 97 % en una prueba comparativa específica. Estas cifras respaldan la afirmación de que la compresión moderada ofrece la mejor combinación de ahorro y precisión.

En OmniDocBench, una prueba habitual de comprensión de documentos, el modelo supera a sistemas de reconocimiento óptico de caracteres conocidos y utiliza menos tokens. La cantidad de tokens necesaria varía según la categoría del documento. Las diapositivas y los folletos sencillos pueden requerir unos 64 tokens visuales por página. Las revistas o los periódicos con muchas columnas e imágenes pueden necesitar varios cientos. Según la configuración del usuario, el sistema puede conservar el formato o eliminarlo.

Las métricas operativas son ambiciosas. El equipo cita más de 200.000 páginas procesadas al día con una sola tarjeta Nvidia A100 y unos 33 millones de páginas al día en un grupo de 20 servidores. El código de entrenamiento e inferencia, junto con los pesos del modelo, está disponible con una licencia permisiva. Esta combinación favorece la experimentación rápida en entornos de investigación y producción.

Qué podría cambiar para los costos, la memoria y el diseño de productos de IA

Muchos productos de IA encuentran un límite cuando las conversaciones o las cadenas de documentos se alargan. Almacenar el contexto anterior como tokens visuales ofrece a los modelos una capa de memoria más económica. Un sistema puede resumir o comprimir los intercambios anteriores en imágenes y luego decodificar los detalles solo cuando sea necesario. Así mantiene acotado el contexto de texto activo y conserva la posibilidad de recuperar datos, citas y diseños de etapas anteriores. También ayuda a los modelos a procesar páginas con tablas complejas o fórmulas matemáticas que los tokenizadores tradicionales suelen interpretar mal.

Para los usuarios, esto permite flujos de trabajo prácticos. Un asistente puede procesar archivos PDF extensos, contratos y hojas de cálculo, conservar una memoria compacta y luego recuperar secciones exactas con su estructura cuando se le solicite. Copiar filas de una tabla o extraer el pie de una ilustración resulta sencillo porque el decodificador reconstruye la estructura, no solo los caracteres sin formato. Esto también apunta a sistemas eficientes de búsqueda empresarial que indexen instantáneas comprimidas de páginas y decodifiquen fragmentos cuando se soliciten.

Para desarrolladores e investigadores, la capacidad de procesamiento es importante. El sistema puede generar grandes corpus de entrenamiento para modelos de lenguaje y visión, con cientos de miles de páginas por GPU al día. Esa velocidad ayuda a crear datos supervisados a menor costo. Sectores que dependen de gráficos y formularios, como las finanzas, la atención sanitaria y la ciencia, podrían acelerar la digitalización y conservar mejor la estructura de los documentos. Aun así, es necesario tener cuidado cuando los resultados comprimidos se usan para futuros entrenamientos, ya que pequeños errores de decodificación pueden generar etiquetas ruidosas a gran escala.

Limitaciones, riesgos y preguntas abiertas

Una mayor compresión reduce la cantidad de tokens, pero también la fidelidad. Con una compresión de unas veinte veces, la precisión comunicada cae a cerca del 60 %. Muchas tareas toleran errores menores. Otras, como la transcripción de nombres, cifras y cláusulas legales, requieren una recuperación casi perfecta. Los usuarios necesitarán políticas que asignen los modos de menor compresión a las páginas críticas y reserven la compresión más agresiva para el contexto que no requiera una reproducción exacta.

También cabe preguntarse cómo afecta al razonamiento. Los modelos razonan bien con tokens de texto porque se entrenaron de esa manera. Los tokens visuales implican sesgos inductivos distintos. El decodificador debe reconstruir primero el texto y luego razonar. Ese paso adicional podría afectar las tareas que dependen de largas cadenas de razonamiento. Los equipos deberán probar el razonamiento de varios pasos cuando el contexto importante esté detrás de la capa de imágenes y considerar alternativas para las tareas que exigen precisión.

La latencia y la planificación de la infraestructura siguen siendo factores relevantes. Los pasos adicionales de codificación y decodificación requieren más trabajo. El ahorro aparece cuando los documentos son extensos o las conversaciones se prolongan. Las implementaciones deben comparar el tiempo total de procesamiento, la memoria y el costo en varios tipos de documentos para establecer cuándo conviene comprimir y cuándo es mejor utilizar texto sin procesar. También cambian los formatos de almacenamiento: las imágenes o los tensores similares a imágenes sustituyen a los archivos de texto sin procesar, lo que puede afectar los sistemas de recuperación de información y los procesos de cumplimiento normativo.

La privacidad y la seguridad requieren atención. Comprimir archivos sensibles en imágenes o tokens visuales no elimina los riesgos. Los controles de acceso, el cifrado y los registros de auditoría deben aplicarse también al almacenamiento comprimido. Algunos documentos, como los escaneos de baja resolución o los manuscritos difíciles de leer, seguirán siendo un desafío para el modelo. Para los procesos críticos, es prudente mantener la selección dinámica del modo y la revisión humana.

Cómo probar DeepSeek OCR hoy

La página del proyecto en Hugging Face ofrece fichas del modelo, instrucciones para empezar y descargas. El código y los pesos también están disponibles en GitHub con una licencia permisiva que abarca tanto el uso académico como el comercial. Los desarrolladores pueden empezar aquí: página del modelo en Hugging Face y aquí: repositorio de GitHub.

La configuración de referencia indica Python 3.12.9 y CUDA 11.8, con dependencias que incluyen PyTorch, Transformers, Tokenizers, Einops, Addict, Easydict y Flash Attention. Se recomienda una GPU Nvidia para lograr mayor velocidad. Los modos preestablecidos permiten intercambiar detalle por costo. Para documentos empresariales habituales, el modo Small es un buen punto de partida. Las páginas científicas o legales densas pueden beneficiarse de una resolución mayor o del modo dinámico.

Un flujo de trabajo típico convierte un PDF en imágenes de sus páginas, introduce cada página en DeepEncoder con la resolución elegida y luego decodifica los tokens visuales resultantes con el modelo de lenguaje. Los resultados pueden ser texto sin formato para búsquedas o Markdown que conserve las tablas y los encabezados de sección. El repositorio de GitHub incluye scripts para el procesamiento por lotes y recomendaciones para mejorar la capacidad de procesamiento. Los equipos deben vigilar la precisión al aumentar el índice de compresión y mantener una configuración prudente para las páginas críticas.

Puntos clave

• DeepSeek-OCR comprime textos extensos al almacenarlos como imágenes y recupera el contenido cuando se necesita mediante un decodificador.
• El uso de tokens se reduce aproximadamente entre siete y veinte veces, según la configuración y la complejidad del documento.
• La precisión de decodificación comunicada es de alrededor del 97 % con una compresión cercana a diez veces y del 60 % con una compresión de unas veinte veces.
• La arquitectura combina DeepEncoder con un decodificador de mezcla de expertos que activa unos 570 millones de parámetros por token.
• Los modos van de Tiny a Large, además de una opción dinámica para páginas muy complejas, y permiten fijar presupuestos explícitos de tokens.
• Las pruebas comparativas muestran buenos resultados en OmniDocBench con menos tokens que los sistemas de referencia populares de reconocimiento óptico de caracteres.
• Las cifras de capacidad de procesamiento incluyen más de 200.000 páginas al día con una GPU Nvidia A100 y unos 33 millones de páginas al día en un grupo de 20 servidores.
• Los resultados estructurados incluyen tablas en Markdown y datos de gráficos, con compatibilidad para diagramas, fórmulas y muchos idiomas.
• El código de fuente abierta y los pesos están disponibles en Hugging Face y GitHub con una licencia permisiva.
• Entre los usos más adecuados están la memoria de contexto extenso a menor costo, la digitalización de documentos a gran escala y la generación de datos de entrenamiento, con configuraciones cuidadosas para las tareas que requieren precisión.