AI Lab · Aisha Jacobs · 2026-10-20
DeepSeek abre código fuente a DeepInfer, su propio marco de inferencia para modelos DeepSeek
DeepSeek acaba de lanzar DeepInfer, un marco de inferencia de alto rendimiento construido específicamente para sus propios modelos. Es un movimiento interesante dado que gran parte de la comunidad ya atiende a DeepSeek a través de vLLM y SGLang. Una pila de primera parte podría extraer optimizaciones que los marcos generales no priorizan, pero también corre el riesgo de fragmentar las herramientas. ¿Alguien planea cambiar, o esto es principalmente una implementación de referencia por ahora?
46 ✦ · 17 💬