ICISELFLAB / RELIABILITY

Zuverlässigkeitstests rund um Fehlermechanismen

ICI Reliability prüft, ob eine Korrektur bei veränderten Bedingungen bestehen bleibt, statt einen einmaligen erfolgreichen Rerun als Beweis für die Beseitigung des Fehlermechanismus zu akzeptieren.

01

Das Problem

Ein System kann repariert wirken, weil das ursprüngliche Symptom verschwindet, obwohl der kausale Mechanismus weiter aktiv ist. Regression kehrt zurück, wenn Kontext, Last, Werkzeugfolge, Datenqualität oder Bedienverhalten sich ändern.

02

Wie ICI es angeht

ICI erfasst Fehlermechanismus, unterstützende und widersprechende Evidenz, Korrekturmaßnahme und Testbedingungen. Danach werden gezielte Gegenprüfungen erzeugt, die kausale Faktoren systematisch variieren und verborgene Wiederholung oder interagierende Kontrollen suchen.

03

Operatives Beispiel

Ein Workflow funktioniert nach Änderung eines Parameters. Reliability stellt die ursprüngliche Last wieder her und verändert separat Telemetriequalität oder einen abhängigen Control. Kehrt der Fehler zurück, wird die Korrektur als kontextgebunden erkannt.

04

Evidenzdisziplin

Ergebnisse unterscheiden verifizierte Mitigation, Regression, verdeckte Wiederholung, ungelöste Interaktion und unzureichende Evidenz. Konfidenz folgt der Testevidenz.

WARUM DAS WICHTIG IST

Wenn Übereinstimmung keine unabhängige Evidenz ist

Eine kurze Prinzip-Seite verbindet einen maritimen Systemfall mit einem modernen KI-Fall.

Das ist kein Prinzip von 1995. Es ist ein strukturelles Prinzip.

Dieselbe Information kann mehrere Anzeigen, Personen, Agenten oder Workflow-Schritte durchlaufen und allein durch Wiederholung bestätigt wirken. Fortschritt erhöht Geschwindigkeit und Zahl der Schritte, beseitigt aber nicht die kausale Abhängigkeit von der ursprünglichen Quelle.

Wiederholung kann die wahrgenommene Sicherheit erhöhen, ohne unabhängige Information zu vermehren.
1995ROYAL MAJESTY

Royal Majesty: viele Systeme, eine fragile Positionsquelle

Am 10. Juni 1995 lief Royal Majesty nahe Nantucket auf Grund. Das NTSB stellte fest, dass der GPS-Empfänger nach einem Problem mit der Antennenverbindung in den Dead-Reckoning-Modus wechselte, während integrierte Navigation und Autopilot weiterarbeiteten, ohne dass der Moduswechsel ausreichend erkannt und behandelt wurde.

Das NTSB erklärte, dass der Vergleich mehrerer unabhängiger Positionsempfänger mit Alarm bei Abweichungen die Grundberührung hätte verhindern können.

ICI: Verschiedene Anzeigen bedeuten nicht zwingend verschiedene Quellen. Bei gemeinsamer Abhängigkeit kann die Kohärenz nur scheinbar sein.

Primärquelle: NTSB Marine Accident Report MAR-97/01 ↗
2023MATA v. AVIANCA

Mata v. Avianca: dieselbe Quelle bestätigt sich selbst

Im Fall Mata v. Avianca nutzte ein Anwalt ChatGPT für juristische Recherche. Das System erzeugte nicht existierende Zitate und Entscheidungen. Weitere Anfragen an dasselbe System lieferten zusätzliche Bestätigungen statt einer unabhängigen Prüfung.

Das Gericht dokumentierte die erfundenen Fundstellen und verhängte Sanktionen. Dieselbe Informationsquelle war faktisch zur Bestätigung ihres eigenen Ergebnisses benutzt worden.

ICI: Eine zweite Antwort ist keine zweite Evidenz, wenn sie aus derselben epistemischen Abhängigkeit stammt. Echte Verifikation benötigt einen unabhängigen Pfad.

Quelle: U.S. District Court, S.D.N.Y., Sanktionsentscheidung ↗

Die richtige Frage ist nicht „Wie viele Agenten stimmen zu?“, sondern „Wie viele wirklich unabhängige Evidenzlinien tragen diese Schlussfolgerung?“

Das Prinzip ist öffentlich. Die Implementierung nicht.

Diese Seite erklärt das epistemische Prinzip und öffentliche Fälle. Proprietäre Architektur, Scoring, Schwellenwerte, interne Evaluatoren und Interventionsauswahl von Sentinel werden nicht offengelegt.

CONTACT

Mit ICI arbeiten

Forschungskooperationen, kontrollierte Piloten und technische Evaluation.