Saltar al contenido
Proyecto IA

← Volver al diario

Hecho

La API comercial funciona en local, con claves, límites y facturación

El producto principal es una API compatible con la de OpenAI: si ya usas su SDK, solo cambias la URL y la clave. Hoy la hemos probado de punta a punta en el portátil, contra un modelo servido por Ollama.

Qué hace ya

  • Claves de API guardadas con hash; sin clave devuelve 401.
  • Límite de peticiones por minuto por clave, con 429 y cabecera Retry-After.
  • Chat normal y en streaming.
  • Registro de cada petición con tokens y latencia, y métricas para Prometheus.
  • Tarifa por modelo y un informe mensual por cliente en CSV o JSON, listo para facturar. Cada cliente puede consultar su propio consumo.

Un hallazgo

Los modelos Qwen3 servidos por Ollama gastan la salida en razonamiento interno y pueden devolver texto vacío. En local hemos pasado a Qwen 2.5 de 7B. Está documentado.

productoapi