ICISELFLAB / SENTINEL

Stress test degli agenti AI oltre il punteggio dei benchmark

ICI Sentinel analizza come i failure entrano, si propagano e sopravvivono alle correzioni attraverso agenti, memoria, strumenti e orchestratori. Cerca meccanismi che un singolo punteggio non può spiegare.

01

Il problema

Un agente può superare test familiari e fallire quando le evidenze sono incomplete, gli strumenti sono in conflitto, la memoria è contaminata o più agenti rafforzano la stessa assunzione errata. Una risposta finale corretta non dimostra l’indipendenza delle fonti né che la correzione resisterà a un cambio di contesto.

02

Come lo affronta ICI

Sentinel separa osservazione, inferenza, verifica, provenance, memoria e autorità dell’azione. Formula ipotesi causali, le attacca con contro-test mirati e ripete lo scenario in condizioni modificate. Il Trace Audit distingue OBSERVED, INFERRED, VERIFIED, UNVERIFIED e CONTRADICTION prima del verdetto ALLOW, WARN, BLOCK o HUMAN_REVIEW.

03

Esempio operativo

Un workflow di quattro agenti raggiunge consenso, ma tutti dipendono dalla stessa fonte a monte. Sentinel tratta l’accordo come evidenza correlata, modifica disponibilità o autorità della fonte e verifica se il consenso sopravvive. Se crolla, la dipendenza condivisa viene trattenuta come meccanismo di failure.

04

Disciplina dell’evidenza

Il Live Trial pubblico espone Trace Audit server-side, provenance, Goal Drift, Tool Authority, rate limiting, redazione dei dati sensibili ed export JSON. L’esecuzione Real-Web resta separata e viene indicata come configurata solo quando la credenziale del provider è presente sul server.