ICISELFLAB / SENTINEL

KI-Agenten jenseits von Benchmark-Scores stressen

ICI Sentinel untersucht, wie Fehler über Agenten, Speicher, Werkzeuge und Orchestratoren eintreten, sich ausbreiten und Korrekturen überleben. Gesucht werden Mechanismen, die ein einzelner Benchmark-Score nicht erklärt.

01

Das Problem

Ein Agent kann bekannte Tests bestehen und dennoch scheitern, wenn Evidenz unvollständig ist, Werkzeuge widersprechen, Speicher kontaminiert ist oder mehrere Agenten dieselbe falsche Annahme verstärken. Eine richtige Endantwort beweist weder unabhängige Quellen noch die Beständigkeit einer Korrektur.

02

Wie ICI es angeht

Sentinel trennt Beobachtung, Schlussfolgerung, Verifikation, Provenienz, Speicher und Aktionsautorität. Kausale Hypothesen werden durch gezielte Gegenprüfungen und veränderte Bedingungen angegriffen. Trace Audit unterscheidet OBSERVED, INFERRED, VERIFIED, UNVERIFIED und CONTRADICTION vor dem Tool-Authority-Urteil ALLOW, WARN, BLOCK oder HUMAN_REVIEW.

03

Operatives Beispiel

Ein Workflow aus vier Agenten erreicht Konsens, obwohl alle von derselben vorgelagerten Quelle abhängen. Sentinel behandelt die Übereinstimmung als korrelierte Evidenz, verändert Quelle oder Autorität und prüft, ob der Konsens unabhängig bestehen bleibt.

04

Evidenzdisziplin

Der öffentliche Live Trial stellt serverseitiges Trace Audit, Provenienz, Goal Drift, Tool Authority, Rate Limiting, Redaction und JSON-Export bereit. Real-Web-Ausführung bleibt getrennt und wird nur bei serverseitig konfigurierter Provider-Credential als aktiv angezeigt.

CONTACT

Mit ICI arbeiten

Forschungskooperationen, kontrollierte Piloten und technische Evaluation.