Explicabilité et offuscation d'objectifs : un modèle pour la coopération et la confidentialité


Lorsque des agents agissent dans un système où leur comportement est au moins partiellement observable par d'autres agents, des techniques de reconnaissance de plans peuvent permettre d'inférer leurs objectifs et compromettre leur stratégie ainsi que la vie privée d'éventuels utilisateurs. Cet article se positionne du point de vue de l'agent observé et propose une fonction permettant à un agent d'évaluer la quantité d'information transmise au travers de son comportement à un éventuel observateur. Une telle fonction fournit une mesure de l'impact de la sélection d'un plan sur l'offuscation ou la transparence des objectifs de l'agent. Cet article explore enfin la problématique de la justification d'un comportement volontairement offusqué à des agents de confiance. Une preuve de concept accompagne la présentation de ce modèle afin d'illustrer sa mise en œuvre au sein d'un système composé d'agents BDI.