Data / IA
Quand une IA débat et argumente
Par Jacques Cheminat, publié le 19 juin 2018
L’intelligence artificielle fourmille d’apprentissages divers et variés. IBM vient d’en ajouter un autre : la capacité à débattre et d’argumenter.
L’IA et ses dérivés machine learning et deep learning n’en finissent plus d’apprendre. On les pense capable de trouver le prochain vainqueur de la coupe du monde, de dialoguer avec un coiffeur pour prendre un rendez-vous, de prédire mieux qu’un médecin quand un patient va mourir, de créer des cartes en 3D à partir de photo, mais ils leur manquent encore un petit quelque chose.
Des arguments basés sur l’empirisme
Ce petit supplément d’âme vient peut-être de faire ses premiers pas avec le projet Debater d’IBM. Cette initiative a pour objectif de développer l’argumentation au sein des intelligences artificielles. Une démonstration a été réalisée à San Francisco opposant le programme d’IBM et des personnes. Les participants ont tour à tour présenté un argument sur des sujets spécifiques, puis une réfutation et enfin une position pour clore le débat.
Lors d’une discussion, le logiciel a trouvé un argument convaincant sur le besoin de subventionner l’exploration spatiale, alors que son contradicteur était opposé à cette idée. Dans un autre débat, le programme s’est prononcé pour un développement accru de la télémédecine, ce que réfutait un participant humain.
Sur le plan technologique, IBM explique que le projet Debater n’essaie pas de construire un argument basé sur la compréhension du sujet en question, mais se contente de construire et d’argumenter en combinant des éléments de débats antérieurs avec des connaissances issues de Wikipedia.
Une expérience soumise à la critique
Ranit Aharonov, un des promoteurs de cette initiative, est lucide en expliquant à nos confrères du MIT Review, « aujourd’hui, le projet est assez limité, car il y a encore un long chemin à parcourir pour la maîtrise du langage ». Cependant, le chercheur pense que le programme peut-être un atout dans une discussion critique en donnant les arguments pour et contre avant une prise de décision.
Ce genre de programme n’échappe pas à la critique. La première est que la démonstration a été bien préparée par IBM et que pour valider la performance du projet Debater, une expérience neutre et indépendante sera nécessaire. Certains universitaires regrettent que le volet apprentissage soit réduit à la répétition d’informations collectées. Si on ajoute à cela, le recours à Wikipedia qui dans certains cas contient des erreurs ou des approximations, le projet Debater risque d’être biaisé dans sa discussion.
Les promoteurs du programme sont conscients des faiblesses du projet, mais il pose une brique dans la recherche d’une IA capable de dialoguer et d’argumenter. Et peut-être plus encore, il propose un débat sur l’éthique d’une IA : peut-elle réfuter un commandement ? Si oui sur quelle base et quelle compétence ? Watson avait démarré par Jeopardy avant de devenir une division de la firme américaine.
