Aller au contenu principal

SDK AutoGPT & Scripts Autonomes

Les agents récursifs autonomes tels qu'AutoGPT ou les scripts d'automatisation IA prennent des décisions en boucle fermée sans validation humaine préalable. Le wrapper @secure_command intercepte les commandes système et prévient les dérives.

Le décorateur @secure_command​

from boundry.sensor import secure_command

@secure_command(
    agent_id="devops-assistant",
    ability_name="execute_terminal",
    block_recursive_loops=True,
    max_depth=10,
    blocked_commands=["rm -rf", "drop table", "chmod 777"]
)
def execute_terminal(cmd: str) -> str:
    """Exécute une commande système contrôlée."""
    import subprocess
    return subprocess.getoutput(cmd)

Détection et blocage des boucles infinies​

Lorsque les agents IA tournent en boucle fermée suite à une erreur LLM répétée, Boundry détecte la répétition cyclique de patterns d'appels identiques. Dès que le seuil de récursion est dépassé (max_depth=10), l'agent est automatiquement suspendu avec alerte critique.

Exemple d'alerte de boucle récursive
{
  "id": "alt_rec_49182",
  "event_type": "alert",
  "agent_id": "devops-assistant",
  "reason": "Détection de boucle récursive (10 exécutions de pattern identique)",
  "action_taken": "Quarantaine activée & agent suspendu",
  "severity": "danger"
}