EXPECTATION (Chist-ERA)

L'IA explicable (XAI) est apparue ces dernières années comme un ensemble de techniques et de méthodologies visant à expliquer les modèles d'apprentissage machine (ML) et à permettre aux humains de comprendre, de faire confiance et de manipuler efficacement les résultats produits par les entités intelligentes artificielles. Bien que ces initiatives aient dépassé l'état de l'art, plusieurs défis doivent encore être relevés pour appliquer XAI de manière adéquate dans des scénarios de la vie réelle. En particulier, deux aspects clés doivent être abordés : la personnalisation de l'IAX et la capacité à fournir des explications dans des environnements décentralisés où les connaissances sont hétérogènes. Tout d'abord, la personnalisation de l'IAO est particulièrement pertinente en raison de la diversité des antécédents, des contextes et des capacités des sujets qui reçoivent les explications générées par les systèmes d'IA (par exemple, les patients et les professionnels de la santé). Dès lors, le besoin de personnalisation doit s'accompagner de la nécessité impérative de fournir des résultats fiables, transparents, interprétables et compréhensibles issus du traitement ML. Deuxièmement, l'émergence de divers systèmes d'IA collaborant sur un ensemble donné de tâches s'appuyant sur des ensembles de données hétérogènes ouvre la voie à une interrogation sur la façon dont les explications peuvent être combinées ou intégrées, étant donné qu'elles émergent de différentes hypothèses de connaissances et de pipelines de traitement.

Dans ce projet, nous voulons relever ces deux défis, en nous appuyant sur le paradigme des systèmes multi-agents (SMA), dans lequel des agents d'IA décentralisés extrairont et injecteront des connaissances symboliques à partir de prédicteurs ML, qui, à leur tour, seront dynamiquement partagés pour composer des explications personnalisées. L'approche proposée combine les interactions inter-agent, intra-agent et humain-agent afin de bénéficier à la fois de la spécialisation des agents ML et de l'établissement de mécanismes de collaboration entre agents, qui intégreront des connaissances/explications hétérogènes extraites d'agents AI boîte noire efficaces.  

Le projet comprend la validation de l'approche de personnalisation et d'intégration de connaissances hétérogènes par le biais d'un prototype d'application dans le domaine de la surveillance et de la recommandation de l'alimentation et de la nutrition, y compris l'évaluation de l'explicabilité agent-homme, et la performance des techniques employées dans un environnement d'IA collaborative.

Publications

• Buzcu, B., Pannatier, Y., Aydoğan, R., Schumacher, M., Calbimonte, J.-P. & Calvaresi, D. (2024). A Framework for Explainable Multi-purpose Virtual Assistants: A Nutrition-Focused Case Study. Explainable and Transparent AI and Multi-Agent Systems, 58–78. https://doi.org/10.1007/978-3-031-70074-3_4
• Calvaresi, D., Eggenschwiler, S., Mualla, Y., Schumacher, M. & Calbimonte, J.-P. (2023). Exploring agent-based chatbots: a systematic literature review. Journal of Ambient Intelligence and Humanized Computing. https://doi.org/10.1007/s12652-023-04626-5
• Contreras, V. H., Marini, N., Fanda, L., Manzo, G., Mualla, Y., Calbimonte, J.-P., Schumacher, M. & Calvaresi, D. (2022). A DEXiRE for Extracting Propositional Rules from Neural Networks via Binarization. MDPI Electronics, 11(24). https://doi.org/https://doi.org/10.3390/electronics11244171 
• Calvaresi, D., Calbimonte, J.-P., Siboni, E., Eggenschwiler, S., Manzo, G., Hilfiker, R. & Schumacher, M. (2021). EREBOTS: Privacy-Compliant Agent-Based Platform for Multi-Scenario Personalized Health-Assistant Chatbots. Electronics, 10(6), 666. https://doi.org/10.3390/electronics10060666 
• Calvaresi, D., Eggenschwiler, S., Calbimonte, J.-P., Manzo, G. & Schumacher, M. (2021, December). A personalized agent-based chatbot for nutritional coaching. Proc. Of the IEEE/WIC/ACM International Conference on Web Intelligence. https://doi.org/10.1145/3486622.3493992