ICISELFLAB / SELF-LAB
ICI Self Lab étudie une forme fonctionnelle de conscience de soi : si un agent artificiel peut représenter ses capacités, limites, actions et erreurs de manière à modifier causalement ses décisions futures.
01
Un modèle peut se décrire avec assurance sans montrer que l’information sur lui-même influence son comportement. Un modèle de soi fonctionnel doit agir sous incertitude, se transférer à des conditions nouvelles et résister à des explications plus simples comme la familiarité du prompt ou la mémoire ordinaire.
02
ICI sépare Body, Agency, Capability et Epistemic Self et ajoute un canal d’intéroception. Les effets de continuité, d’agency et de rétention d’erreur sont attaqués par baselines, contrôles aléatoires et ablations retirant mémoire, intéroception ou liens causaux. L’objectif est un comportement fonctionnel falsifiable, pas une affirmation sur la conscience phénoménale humaine.
03
Si un agent échoue parce qu’il surestime une capacité propre, ICI retient le mécanisme plutôt que la seule réponse corrigée. Les détails de surface sont ensuite changés pour tester si cette connaissance de soi modifie l’action avant la répétition de la même erreur.
04
Contrôles, ablations, répétabilité et cas d’échec font partie du résultat. La preuve est plus forte lorsque le modèle de soi prédit le comportement sous conditions modifiées et plus faible lorsqu’une baseline simple explique le même résultat.
CONTACT
Collaboration de recherche, pilotes contrôlés et évaluation technique.