Pesos abiertos no significa lo mismo que código abierto
Revisa licencia, acceso a los pesos, condiciones de redistribución y restricciones comerciales. La documentación, los datos de entrenamiento y el código de servicio pueden tener condiciones distintas.
No utilices la etiqueta open source como sustituto de una revisión legal o de seguridad. La ficha debe identificar qué componente es realmente abierto.
Calcula el coste de operar
Además de la inferencia, considera GPU, almacenamiento, colas, observabilidad, actualizaciones, embeddings, seguridad y soporte. Una API puede ser más barata para un volumen pequeño o variable; el despliegue propio puede tener sentido si existe escala y capacidad operativa.
Mide coste por resultado aceptado, no sólo precio por token o por hora de hardware.
Prueba el modelo en tu entorno
La cuantización, el servidor de inferencia, la ventana de contexto y el hardware afectan al rendimiento. Registra exactamente esa configuración si quieres comparar resultados con una API o con otra versión.
La decisión debe equilibrar control, cumplimiento, latencia, calidad y coste total de propiedad.
Siguiente paso