El problema no está en el razonamiento
Un modelo puede proponer pasos brillantes y aun así producir un sistema frágil. El fallo aparece cuando cada propuesta se convierte directamente en una acción: enviar, borrar, publicar, comprar o modificar sin una frontera verificable.
En producción, la pregunta relevante no es cuánto puede decidir un agente. Es qué decisiones pueden ejecutarse sin ambigüedad y cuáles necesitan una comprobación independiente.
Un contrato alrededor de lo probabilístico
Llamamos contrato determinista al conjunto de condiciones que una acción debe satisfacer antes y después de ejecutarse. Incluye esquema, identidad, permisos, límites, idempotencia, trazabilidad y un resultado esperado que pueda comprobarse sin pedir opinión al mismo modelo.
El agente puede decidir la estrategia. El contrato decide si esa estrategia es admisible. Separar ambas capas permite mejorar el modelo sin rediseñar cada control operativo.
Dónde colocar los límites
Los controles más valiosos viven en los bordes: antes de una herramienta, entre dos estados y al confirmar un efecto externo. Un borrador puede ser probabilístico. Su publicación exige un estado aprobado, un destino permitido y una identidad autorizada.
La autonomía útil no elimina la supervisión; la concentra donde cambia el riesgo. El objetivo es que el sistema avance solo en lo reversible y se detenga con precisión en lo irreversible.
Qué hemos aprendido
Diseñar primero los contratos cambia la conversación. El equipo deja de preguntar si el agente parece inteligente y empieza a medir si el sistema completo es recuperable, observable y seguro.
La fiabilidad no emerge de un prompt más largo. Aparece cuando las capacidades del modelo están contenidas por reglas que el modelo no puede reinterpretar.
ASGARDIUM CONSULTING