ICISELFLAB / RELIABILITY
ICI Reliability demande si une correction survit à un changement de conditions au lieu d’accepter un seul rerun réussi comme preuve que le mécanisme de défaillance a disparu.
01
Un système peut sembler corrigé parce que le symptôme initial disparaît alors que le mécanisme causal reste actif. La régression réapparaît lorsque contexte, charge, ordre des outils, qualité des données ou comportement opérateur changent.
02
ICI conserve le mécanisme d’échec, les preuves pour et contre, l’action corrective et les conditions du test. Il génère ensuite des contre-tests ciblés qui modifient les facteurs causaux pour rechercher récurrence cachée, contrôles interactifs et limites de mitigation.
03
Un workflow cesse d’échouer après modification d’un paramètre. Reliability restaure la charge initiale tout en changeant séparément la qualité de télémétrie ou un contrôle dépendant. Si l’échec revient, la correction est identifiée comme dépendante du contexte.
04
Les résultats distinguent mitigation vérifiée, régression, récurrence cachée, interaction non résolue et preuve insuffisante. La confiance suit les résultats des tests.
POURQUOI C’EST IMPORTANT
Une courte page relie un cas maritime de système intégré à un cas moderne d’IA.
Une même information peut traverser plusieurs affichages, personnes, agents ou étapes et sembler confirmée parce qu’elle se répète. Le progrès augmente la vitesse et le nombre d’étapes, mais ne supprime pas la dépendance causale à la source d’origine.
La répétition peut accroître la confiance perçue sans accroître l’information indépendante.
Le 10 juin 1995, Royal Majesty s’est échoué près de Nantucket. Le NTSB a établi qu’après un problème de connexion de l’antenne GPS, le récepteur était passé en mode dead reckoning tandis que la navigation intégrée et le pilote automatique continuaient à fonctionner sans que ce changement soit correctement identifié et géré.
Le NTSB a indiqué que la comparaison de plusieurs récepteurs de position indépendants, avec alarme en cas d’écart, aurait pu éviter l’échouement.
ICI: Des affichages différents ne signifient pas nécessairement des sources différentes. Si la dépendance amont est commune, la cohérence aval peut être seulement apparente.
Source primaire : NTSB Marine Accident Report MAR-97/01 ↗Dans Mata v. Avianca, un avocat a utilisé ChatGPT pour une recherche juridique. Le système a produit des citations et décisions inexistantes. De nouvelles requêtes au même système ont apporté d’autres assurances au lieu d’une vérification indépendante.
Le tribunal a constaté que les autorités citées étaient fictives et a prononcé des sanctions. La même origine informationnelle avait de fait été réutilisée pour valider son propre résultat.
ICI: Une deuxième réponse n’est pas une deuxième preuve lorsqu’elle provient de la même dépendance épistémique. Une vraie vérification exige un chemin indépendant.
Source : U.S. District Court, S.D.N.Y., décision sur les sanctions ↗La bonne question n’est pas « Combien d’agents sont d’accord ? », mais « Combien de lignes de preuve réellement indépendantes soutiennent cette conclusion ? »
Cette page explique le principe épistémique et des cas publics. Elle ne divulgue ni l’architecture propriétaire de Sentinel, ni le scoring, les seuils, évaluateurs internes ou mécanismes de sélection des interventions.
CONTACT
Collaboration de recherche, pilotes contrôlés et évaluation technique.
