01
Проблема
Система может выглядеть исправленной, потому что исходный симптом исчез, хотя причинный механизм остаётся активным. Регрессия возвращается при изменении контекста, нагрузки, порядка инструментов, качества данных или поведения оператора.
ICISELFLAB / RELIABILITY
Тестирование надёжности вокруг механизмов отказа
ICI Reliability проверяет, сохраняется ли исправление при изменении условий, вместо того чтобы считать один успешный повторный запуск доказательством устранения механизма отказа.
02
Подход ICI
ICI сохраняет механизм отказа, доказательства за и против, корректирующее действие и условия теста. Затем создаются направленные контртесты, меняющие причинные факторы и ищущие скрытую повторяемость, взаимодействие контролей и границы эффективности исправления.
03
Операционный пример
Workflow перестаёт ошибаться после изменения параметра. Reliability возвращает исходную нагрузку и отдельно меняет качество телеметрии или зависимый контроль. Возврат ошибки показывает, что исправление было контекстным.
04
Дисциплина доказательств
Результаты различают подтверждённую mitigation, регрессию, скрытый возврат, нерешённое взаимодействие и недостаток доказательств. Уверенность следует тестовым данным.
ПОЧЕМУ ЭТО ВАЖНО
Когда согласие не является независимым доказательством
Короткая страница связывает морской случай интегрированной системы с современным случаем ИИ.
Это не принцип 1995 года. Это структурный принцип.
Одна и та же информация может пройти через несколько дисплеев, людей, агентов или этапов процесса и казаться подтверждённой просто из-за повторения. Прогресс увеличивает скорость и число шагов, но не устраняет причинную зависимость от исходного источника.
Повторение может повышать воспринимаемую уверенность, не увеличивая объём независимой информации.
1995ROYAL MAJESTY
Royal Majesty: много систем, один уязвимый источник позиции
10 июня 1995 года Royal Majesty сел на мель у Нантакета. NTSB установил, что после проблемы с соединением GPS-антенны приёмник перешёл в режим счисления пути, а интегрированная навигация и автопилот продолжили работу без достаточного распознавания смены режима.
NTSB указал, что сравнение данных нескольких независимых приёмников позиции с сигнализацией расхождений могло предотвратить посадку на мель.
ICI: Разные дисплеи не обязательно означают разные источники. При общей зависимости согласованность может быть лишь кажущейся.
Первичный источник: NTSB Marine Accident Report MAR-97/01 ↗2023MATA v. AVIANCA
Mata v. Avianca: когда один источник подтверждает сам себя
В деле Mata v. Avianca адвокат использовал ChatGPT для юридического поиска. Система сгенерировала несуществующие ссылки и решения. Новые запросы к той же системе дали дополнительные заверения вместо независимой проверки.
Суд установил, что процитированные решения были вымышленными, и применил санкции. Тот же информационный источник фактически использовался для подтверждения собственного результата.
ICI: Второй ответ не является вторым доказательством, если он происходит из той же эпистемической зависимости. Настоящая проверка требует независимого пути.
Источник: U.S. District Court, S.D.N.Y., решение о санкциях ↗Правильный вопрос не «Сколько агентов согласны?», а «Сколько действительно независимых линий доказательств поддерживают этот вывод?»
Принцип публичен. Реализация — нет.
Страница объясняет эпистемический принцип и публичные случаи. Она не раскрывает архитектуру Sentinel, логику оценки, пороги, внутренние оценщики или механизмы выбора вмешательств.
CONTACT
Работа с ICI
Исследовательское сотрудничество, контролируемые пилоты и техническая оценка.