Approche multi-agent combinant raisonnement et apprentissage pour un comportement éthique
Résumé
The need to imbue Artificial Intelligence algorithms with ethical considerations is more and more present.
Combining reasoning and learning, this paper proposes a hybrid method, where judging agents evaluate the ethics of learning agents' behavior.
The aim is to improve the ethics of their behavior in dynamic multi-agent environements.
Several advantages ensue from this separation: possibility of co-construction between agents and humans; judging agents more accessible for non-experts humans; adoption of several points of view to judge the same agent, producing a richer feedback.
Experiments on energy distribution inside a Smart Grid simulator show the learning agents' ability to comply with judging agents' rules, including when they evolve.
Le besoin d'incorporer des considérations éthiques au sein d'algorithmes d'Intelligence Artificielle est de plus en plus présent.
Combinant raisonnement et apprentissage, cet article propose une méthode hybride, où des agents juges évaluent l'éthique du comportement d'agents apprenants.
Le but est d'améliorer l'éthique de leur comportement dans des environnements dynamiques multi-agents.
Plusieurs avantages découlent de cette séparation : possibilité de co-construction entre agents et humains ; agents juges plus accessibles pour des humains non-experts ; adoption de plusieurs points de vue pour juger un même agent, produisant une récompense plus riche.
Les expérimentations sur la distribution de l'énergie dans un simulateur de Smart Grid montrent la capacité des agents apprenants à se conformer aux règles des agents juges, y compris lorsque les règles évoluent.
Fichier principal
2021 Approche multi-agent combinant raisonnement et apprentissage pour un comportement éthique.pdf (8.59 Mo)
Télécharger le fichier
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|