La API comercial funciona en local, con claves, límites y facturación
El producto principal es una API compatible con la de OpenAI: si ya usas su SDK, solo cambias la URL y la clave. Hoy la hemos probado de punta a punta en el portátil, contra un modelo servido por Ollama.
Qué hace ya
- Claves de API guardadas con hash; sin clave devuelve 401.
- Límite de peticiones por minuto por clave, con 429 y cabecera Retry-After.
- Chat normal y en streaming.
- Registro de cada petición con tokens y latencia, y métricas para Prometheus.
- Tarifa por modelo y un informe mensual por cliente en CSV o JSON, listo para facturar. Cada cliente puede consultar su propio consumo.
Un hallazgo
Los modelos Qwen3 servidos por Ollama gastan la salida en razonamiento interno y pueden devolver texto vacío. En local hemos pasado a Qwen 2.5 de 7B. Está documentado.
productoapi