Vérification formelle et éthique dans les SMA

L'utilisation croissante d'agents autonomes artificiels dans des secteurs comme le milieu hospitalier ou les transports amène à réfléchir au respect de règles morales partagées par tous. Le problème est d'autant plus crucial que les règles morales informellement validées par tous sont souvent incompatibles les unes avec les autres, et que ce sont souvent des règles éthiques qui amènent l'humain, suivant les circonstances à privilégier telle ou telle règle morale. Utiliser la preuve pour vérifier qu'un agent respecte bien des règles morales et éthiques pourraient aider à accroître la confiance que nous pouvons avoir en de telles unités logicielles. Dans cet article, nous montrons, en nous appuyant sur une étude de cas, comment, à partir de règles morales a priori contradictoires mais ordonnées par des règles éthiques, nous parvenons à définir un ensemble de propriétés formelles qui, lorsqu'elles sont établies par un agent, permettent d'assurer que l'agent en question respecte bien la règle éthique souhaitée.