Por qué gana el Fail-closed

«Fail-closed» significa: cuando un sistema no está seguro, deniega — en lugar de dejar pasar ante la duda. Con agentes de IA autónomos, esa es la diferencia entre un ataque repelido y uno logrado.

~4 min de lectura · Diseño

Fail-open vs. Fail-closed

Todo sistema de protección debe decidir qué hace cuando no está seguro. Hay dos posturas:

• Fail-open: dejar pasar ante la duda. Cómodo, nunca estorba — pero cada hueco en el juicio se convierte en una puerta abierta.
• Fail-closed: bloquear o preguntar ante la duda. A veces incómodo — pero un caso poco claro nunca se convierte en daño en silencio.

En una cerradura, la elección es obvia: un sistema de cierre que se abre solo cuando se va la luz no es ninguna protección. Con agentes de IA, esa misma lógica se olvida a menudo.

Por qué precisamente los agentes necesitan Fail-closed

• Persistencia: lo que entra una vez en los Memory Files se queda. Un fallo fail-open no es fugaz, sedimenta.
• Autonomía: nadie mira en cada acción. El valor por defecto seguro debe estar integrado, no depender de la vigilancia humana.
• Ambigüedad: las entradas dañinas parecen legítimas. Un modelo a menudo estará «más bien inseguro» — y justo entonces no se debe dejar pasar.

Cómo aplica PoisonZero el Fail-closed

PoisonZero evalúa cada cambio con un solo número: un grado de peligro (0–1). De ahí surge una lógica clara y conservadora:

# Lógica de decisión (simplificada)
Peligro ≥ Umbral de bloqueo         → revert
Peligro ≤ Umbral seguro             → allow
si no (todo lo incierto entremedio) → quarantine

El punto decisivo es la última línea: lo que no se juzga claramente inofensivo no se deja pasar. Se pone en cuarentena: el estado limpio se restaura en el disco de inmediato y la versión sospechosa se aparta para que la revises más tarde, de forma asíncrona. Nada espera a una persona y a nadie se le pregunta en tiempo real; el caso simplemente queda a tu disposición. Tú fijas los umbrales por agente — explicados con claridad, con deslizadores en vez de archivos de configuración.

El precio y por qué merece la pena

Fail-closed significa, de vez en cuando, una pregunta que a posteriori resulta innecesaria. Ese es el precio. Frente a él está una entrada envenenada que, sin que nadie lo note, distorsiona cada decisión futura. Esa asimetría — una pequeña incomodidad visible frente a un gran daño invisible — es la razón entera por la que gana el Fail-closed.

Seguir leyendo: ¿Qué es el Memory Poisoning? · Agentes de IA en la pipeline de CI/CD · El motor que solo puede leer y responder

Todos los artículos