AitopkitDeepSeek anunció el 20 de octubre de 2026 que liberó el código de DeepInfer, su framework de inferencia desarrollado internamente, bajo la licencia Apache 2.0 totalmente permisiva. La empresa dice que DeepInfer impulsa su modelo insignia DeepSeek-V4.1-Flash a escala «con alto throughput y baja latencia», y comparte el stack de producción para ayudar a la comunidad a reducir los costos de cómputo, el consumo energético y hacer la IA más asequible.
El repositorio incluye el planificador, los kernels optimizados y el pipeline de tokens detrás de la infraestructura de serving de DeepSeek: inferencia distribuida con Attention DP, paralelismo de contexto y paralelismo de expertos MoE, un planificador por lotes de cero sobrecarga, salidas estructuradas y verificación programada por confianza. Por ahora soporta un solo modelo — DeepSeek-V4.1-Flash — y corre en GPU NVIDIA SM100 (Blackwell) y NPU Huawei Ascend 950. El README reconoce a vLLM como base principal, con inspiración de SGLang y TensorRT-LLM, y DeepSeek también publicó deepseek-recipe, su componente de codificación y decodificación de tokens para producción.
Vale la pena notar lo que no incluye: el sistema KV-cache, la desagregación prefill/decode y el balanceo de carga entre réplicas quedaron fuera, algo que DeepSeek atribuye a su estrecho acoplamiento con su infraestructura interna. Es software de inferencia offline, no un producto de serving gestionado terminado — y todas las cifras de rendimiento hasta ahora son los propios benchmarks de DeepSeek. Aun así, el simbolismo es difícil de ignorar: un laboratorio de Hangzhou está regalando exactamente el tipo de código de serving de producción que OpenAI y Anthropic guardan dentro de sus propios centros de datos. El lanzamiento llegó un día después de que el Departamento de Seguridad Nacional de EE. UU. publicara una orden que prohíbe la tecnología DeepSeek en los sistemas de agencias civiles federales, y rápidamente se convirtió en uno de los hilos de desarrolladores más grandes del día en Hacker News.