Pourquoi le fail-closed l'emporte

Fail-open vs fail-closed

Tout système de protection doit décider quoi faire quand il n'est pas sûr. Il y a deux postures :

• Fail-open : laisser passer en cas de doute. Commode, jamais gênant - mais chaque faille de jugement devient une porte ouverte.
• Fail-closed : bloquer ou demander en cas de doute. Parfois gênant - mais un cas incertain ne se transforme jamais discrètement en dommage.

Pour une serrure de porte, le choix est évident : un système de verrouillage qui s'ouvre simplement à une coupure de courant n'est pas une protection. Avec les agents IA, on oublie souvent la même logique.

Pourquoi les agents en particulier ont besoin du fail-closed

• Persistance : tout ce qui entre dans les Memory Files y reste. Une erreur de fail-open n'est pas fugace - elle s'installe.
• Autonomie : personne ne surveille chaque action. Le comportement par défaut sûr doit être intégré, pas dépendant de la vigilance humaine.
• Ambiguïté : les entrées malveillantes ressemblent aux légitimes. Un modèle sera souvent « plutôt incertain » - et c'est justement là qu'il ne doit pas laisser passer.

Comment PoisonZero met le fail-closed en pratique

PoisonZero examine chaque changement de vos Memory Files protégés et le classe dans l'un de trois résultats : une écriture clairement inoffensive passe, une écriture clairement dangereuse est annulée, et tout ce qui est entre les deux - ni manifestement sûr ni manifestement une attaque - n'est jamais accepté en silence.

Pour ce milieu incertain, ce qui suit dépend de la présence de quelqu'un pour répondre. Quand vous êtes à l'appareil, PoisonZero vous demande sur-le-champ : garder ou rejeter, dans une courte fenêtre de temps. Si personne ne répond - ou si rien ne tourne de façon interactive (headless) - il se rabat sur une position sûre : l'état sain est aussitôt restauré sur le disque et la version suspecte est mise de côté pour que vous l'examiniez plus tard, en asynchrone. Un délai dépassé compte comme un rejet, de sorte qu'un cas incertain ne se transforme jamais discrètement en dommage.

C'est vous qui tracez la ligne : le degré de prudence de PoisonZero est un réglage que vous contrôlez par agent, expliqué en langage clair avec des curseurs plutôt que des fichiers de config.

Le prix, et pourquoi il en vaut la peine

Le fail-closed signifie parfois une demande qui, après coup, s'avère inutile. C'est le prix. En face se tient une entrée empoisonnée qui fait discrètement pencher chaque décision future. Cette asymétrie (une petite gêne visible contre un grand dommage invisible) est toute la raison pour laquelle le fail-closed l'emporte.