Data / IA
Un droit de l’IA en construction
Par Pierre-Randolf Dufau, publié le 03 avril 2023
Soucieuse d’anticiper et de sécuriser le progrès technologique, l’Union européenne pose les premières pierres d’une règlementation commune relative à l’intelligence artificielle (IA). Ainsi s’ajoute à celle de la proposition initiale de Règlement sur l’intelligence artificielle (RIA) du 21 avril 2021, la proposition de Directive relative aux règles de responsabilité civile extracontractuelle applicables aux outils d’intelligence artificielle, publiée le 28 septembre 2022.
Par Me Pierre-Randolph Dufau, Avocat à la cour
& Isaure Lavigne, SELAS PRD avocats
La Commission européenne appréhende les enjeux juridiques des systèmes d’IA (SIA) à travers une classification à trois niveaux de risque : inacceptable ; élevé ; faible ou minimal. Grâce à cette approche, elle entend encadrer le risque par des obligations de diligences et de transparence selon les systèmes d’IA.
Les obligations de transparence s’appliqueront notamment aux systèmes qui interagissent avec les humains ou qui peuvent générer et altérer des contenus (deepfake par exemple). Pour les SIA à haut risque, ils seront autorisés sur le marché européen sous réserve d’une évaluation ex-ante de leur conformité, ainsi que du respect de certaines exigences obligatoires telles que la mise en place d’un système de gestion de qualité et l’obligation d’établir un document technique.
Concernant les SIA dont l’utilisation engendre un risque inacceptable, la proposition interdit leur mise sur le marché. On retrouve, entre autres, les SIA susceptibles de causer un préjudice physique ou psychologique en exploitant la vulnérabilité d’une personne âgée ou handicapée afin de modifier leur comportement. Les techniques subliminales via un SIA dans le but d’altérer le comportement sont aussi proscrites du marché européen.
Après avoir classifié les risques, la Commission européenne établit dans sa seconde proposition les moyens juridiques de solliciter, pour une victime de SIA, la réparation du préjudice qu’elle allègue. Elle inverse notamment la charge de la preuve grâce à la présomption de causalité. Il appartiendra non pas au demandeur de démontrer les défauts ayant entraîné un préjudice, mais au défendeur de démontrer qu’il n’a pas commis de faute (par exemple lors d’une discrimination à l’embauche résultant d’une décision prise par une IA). En outre, la commission entend créer un droit d’accès aux éléments de preuve en imposant au fournisseur de divulguer les pièces pertinentes qu’il détient.
Dans le prolongement de ces deux propositions, le Conseil européen a énoncé, le 6 décembre 2022 dans son Orientation générale, une définition plus large de l’IA, lui permettant d’intégrer la notion d’IA à usage général, comme pourrait être qualifié ChatGPT par exemple.
Alors que les risques ont clairement été identifiés, le volet répressif de ses propositions apparaît plus lacunaire. La Commission semble même reculer sur la mise en œuvre des sanctions en remplaçant l’autorité de contrôle par un comité européen de représentation de l’IA.
Ainsi, l’adoption des propositions de la Commission en matière d’IA est donc fortement attendue en ce qu’elle devient indispensable au regard de l’expansion fulgurante de l’utilisation des SIA dans notre vie quotidienne, et de façon indissociable, l’accroissement des risques et des potentiels préjudices.
À LIRE AUSSI :
