Les chercheurs ont tout mis en œuvre pour rendre l’intelligence artificielle plus transparente. Pour cela, ils sont essayé de développer des algorithmes qui permettent en outre de fournir des explications sur leurs actions. D’autre part, les scientifiques essaient également de comprendre leurs comportements. Une telle recherche pourrait aider à améliorer les interactions hommes-intelligence et à renforcer la confiance dans les machines.
Malgré les nombreux efforts déployés, il n’y a que peu d’études qui permettent d’évaluer de manière tangible l’impact des explications de l’IA sur les résultats attendus dans les tâches impliquant un humain et une machine. Une équipe de chercheurs de SRI International a tenté de régler cette lacune. Ils ont ainsi développé un jeu de réflexion basé sur l’IA. Ce jeu est similaire au célèbre jeu 20 Questions. Ceci permet d’évaluer l’utilité des explications à la machine.
Comment est née cette idée ?
L’idée est née alors que les chercheurs ont travaillé sur un projet DARAP. Dans le cadre de ce projet, ils ont développé des systèmes d’IA, qui génèrent non seulement le résultat souhaité, mais aussi des informations détaillant la manière dont ils ont réussi à obtenir ce résultat.
Voici une vidéo en anglais expliquant ce qu’est vraiment l’intelligence artificielle :
La détermination d’un mécanisme qui évalue ces explications a été cruciale pour les chercheurs. Pour ce faire, ils ont créé une tâche collaborative interactive homme-IA. Ils ont ainsi démontré l’efficacité des différentes techniques d’explication machine qu’ils ont développé.
Un jeu pour comprendre l’IA
Ce jeu présente une grande similitude avec le jeu populaire 20 Questions. Le jeu de réflexion a été conçu par des chercheurs qui essaient de comprendre les explications de l’IA. Sur 20Q, un joueur pense à quelque chose et le second essaie de devenir ce que c’est en posant 20 questions.
Dans ExAG, l’adaptation du jeu imaginée par Ray, cinq images sont présentées au joueur. Une d’entre elles a été sélectionnée par le système d’IA. Elle est définie comme étant l’image secrète. En d’autre terme, le joueur a pour objectif d’identifier l’image secrète. Pour y arriver, il pose plusieurs questions.
