Experimentos · ejecutado (real)
EXP-002A — Provider readiness probe
ExperimentalREAL- Status
- OBSERVED · 3 corridas
- Provider
- Crusoe Cloud
- Model
- zai-org/GLM-5.3-Flash
- Environment
- Estación local (Linux/WSL) · OpenAI SDK
Proveedor real · sin GPU propia · evidencia inmutable
Objetivo
Verificar si un endpoint de inferencia hospedado en un proveedor GPU-cloud (Crusoe) responde de forma funcional a una solicitud chat-completions estándar con el modelo zai-org/GLM-5.3-Flash, y si expone de forma observable el estado del resultado (finish_reason, tokens, presencia de razonamiento) — insumo para decidir su incorporación al harness de LLM de la plataforma.
Arquitectura (mínima)
- base_url
- https://api.inference.crusoecloud.com/v1
- contrato
- OpenAI-compatible
- parámetros
- timeout 45 s · max_retries 0 · temperature 0.2 · max_tokens 1024
- reasoning_effort
- low (extra_body.chat_template_kwargs)
Resultados observados — 3 corridas
El mismo probe se ejecutó tres veces. Los tres desenlaces se documentan; sólo la corrida exitosa dejó artefacto persistido (el script sobreescribe el JSON en cada corrida y aborta en error).
| # | resultado | finish | evidencia |
|---|---|---|---|
| 01 | Respuesta sin contenido visible (content vacío → incomplete) | — | Observado por el operador · sin artefacto |
| 02 | HTTP 503 capacity_unavailable (capacidad del proveedor) | — | Observado por el operador · sin artefacto |
| 03 | Inferencia exitosa | stop | Persistida · result.json |
Corrida con evidencia persistida (03)
| status | success |
| finish_reason | stop |
| latencia | 2.071 s |
| tokens (prompt / completion / total) | 23 / 28 / 51 |
| modelo (eco API) | zai-org/GLM-5.3-Flash |
| reasoning_content | false |
reasoning_effort="low" se aceptó sin error, pero no se observó reasoning_content: o el modelo no expone el canal de razonamiento por esta API, o el parámetro fue ignorado.
What this proves / What this does not prove
What this proves
- Conectividad y contrato de respuesta (shape OpenAI) del proveedor y modelo.
- Campos de telemetría básicos: finish_reason, uso de tokens y latencia.
- El proveedor puede devolver 503 por capacidad (un modo de falla acotado).
What this does not prove
- Calidad del modelo, disponibilidad sostenida (SLA) ni rate limits.
- Precio/costo por token.
- Que exista un canal de razonamiento (reasoning_content no observado).
- Uso de GPU propia ni de la infraestructura de la VM.
Limitaciones
- n=3; sólo una corrida dejó evidencia persistida (el script sobreescribe el JSON y aborta en error).
- Sin reintentos (deliberado en EXP-002A). Prompt trivial; no evalúa tareas reales del producto.
- La resiliencia del proveedor (503 / retry / observabilidad) es el foco de EXP-002B, no de EXP-002A.
Reproducibilidad
- 01Crear un venv e instalar el cliente OpenAI.
- 02Exportar CRUSOE_API_KEY en el entorno (nunca en el repo).
- 03Ejecutar el probe: una llamada chat-completions con reasoning_effort=low.
- 04Registrar status, finish_reason, tokens, latencia y presencia de razonamiento.
La credencial se lee de una variable de entorno y nunca se guarda en el repositorio. La evidencia cruda vive en el repositorio del Lab; esta página es una presentación técnica legible.