ICISELFLAB / SELF-LAB
ICI Self Lab исследует функциональное самосознание: может ли искусственный агент представлять собственные способности, ограничения, действия и ошибки так, чтобы эта информация причинно меняла будущие решения.
01
Модель может убедительно описывать себя, не демонстрируя влияния самоинформации на поведение. Функциональная модель себя должна работать при неопределённости, переноситься в новые условия и выдерживать сравнение с более простыми объяснениями.
02
ICI разделяет Body, Agency, Capability и Epistemic Self и добавляет интероцептивный канал. Эффекты непрерывности, agency и сохранения ошибок проверяются baseline-контролями, случайными контролями и абляциями памяти, интероцепции и причинных связей. Цель — фальсифицируемое функциональное поведение, а не утверждение о человеческом феноменальном сознании.
03
Если агент ошибается из-за переоценки собственной способности, ICI сохраняет механизм, а не только правильный ответ. Затем меняются поверхностные признаки задачи и проверяется, изменит ли сохранённое знание о себе следующее действие.
04
Контроли, абляции, повторяемость и случаи провала являются частью результата. Доказательство сильнее, когда модель себя предсказывает поведение в изменённых условиях, и слабее, когда тот же эффект объясняет простой baseline.
CONTACT
Исследовательское сотрудничество, контролируемые пилоты и техническая оценка.