Data / IA

Les défis de la protection des données à l’ère de l’IA

Par La rédaction, publié le 09 octobre 2024

L’essor de l’IA et l’omniprésence des données remettent en question la conception traditionnelle de la vie privée (et de sa protection), fondée sur le consentement et la transparence. Face à des algorithmes capables de croiser des informations sensibles, la frontière entre données personnelles et non personnelles s’efface, imposant une redéfinition urgente de la confidentialité et une approche éthique et transparente de leur exploitation.

Par Ivana Bartoletti, Global Chief Privacy & AI Governance Officer chez Wipro

En 2023, la CNIL a intensifié ses actions avec 42 sanctions totalisant près de 90 millions d’euros d’amende. Bien que nécessaires, ces mesures ne répondent pas à la question fondamentale de la définition de la protection de la vie privée à l’ère de l’IA. L’approche européenne en matière de respect de la vie privée repose sur le consentement, la transparence et l’autonomie individuelle. Est-ce pertinent à une époque où les données sont constamment collectées ? La notion de confidentialité doit être redéfinie et protégée, tant dans son essence que dans sa pratique.

Quand l’IA brouille la frontière entre données personnelles et non personnelles

Beaucoup pensent que la vie privée a été sacrifiée au profit de la collecte de données omniprésente et d’un écosystème technologique largement non régulé. Selon cette perspective, les grandes entreprises technologiques sont devenues des jardins clos, imposant leurs propres règles en matière de confidentialité et de contrôles. En pratique, elles agissent désormais comme des régulateurs.

Dans quelle mesure est-ce vrai ? Il est essentiel de se pencher sur cette question, car en 2024, le respect de la vie privée et la concurrence sont étroitement liées. Bien que distincts – l’un touche aux droits humains, l’autre au bon fonctionnement des marchés – ils sont devenus imbriqués car ceux qui possèdent beaucoup de données et se sont établis en tant que services essentiels détiennent beaucoup de pouvoir. C’est pourquoi une nouvelle approche de la concurrence, à l’échelle internationale, vise à s’assurer qu’aucune entreprise n’est trop grande pour être tenue responsable. Dans cette perspective, la confidentialité est le fil conducteur qui relie l’équité de la concurrence et l’équité dans la manière dont nos informations sont collectées et utilisées.

Autrement dit : le développement de l’IA nécessite des quantités massives de puissance de calcul, de compétences techniques et de données personnelles, ce qui donne un avantage aux grands acteurs. Cela illustre comment l’IA renforce le lien entre les enjeux de concurrence et de protection des données personnelle. De plus, l’IA et l’analyse de données ne se contentent pas de traiter des données personnelles, mais aussi des informations sensibles pouvant révéler des aspects intimes de nos vies. Les derniers algorithmes, capables de croiser et d’analyser des données de manière complexe, rendent cette distinction initiale obsolète. Aujourd’hui, il ne suffit plus que de protéger la vie privée ou de contrôler strictement ses informations personnelles ; il est crucial d’assurer l’utilisation éthique et transparente des données.

Une nouvelle approche de la confidentialité

Lors de la dernière conférence mondiale sur les femmes de l’ONU, il a été défendu que le respect de la vie privée est une question d’égalité. Ce sont en effet souvent les plus vulnérables qui souffrent le plus de la surveillance et de l’extraction des données. L’IA aggrave ce problème, car de nombreuses applications dopées à l’IA évaluent désormais la fiabilité et la pertinence des profils en fonction de leurs données.

Le respect de la vie privée n’est pas seulement un droit, mais une valeur essentielle. Les entreprises qui la respectent ne se contentent pas de protéger les données, elles favorisent une croissance et un développement responsables et durables. En garantissant l’équité et l’autonomie personnelle à l’ère du microciblage et de la manipulation, la protection de la vie privée devient un atout concurrentiel.

Nous débattons désormais de qui constitue des données personnelles ou non et des compromis à faire. Par exemple, le régulateur de la protection des données d’Hambourg soutient que les grands modèles de langage (LLM) ne stockent pas réellement de données personnelles, bien que cela n’exclue pas leur traitement. Cette position a suscité des avis divergents, mais il est clair qu’il faut faire avancer le débat. Le respect de la vie privée doit aller au-délà de simples avis trompeurs se traduisant par un consentement automatique. Elle ne doit pas non plus devenir un obstacle aux bénéfices et à l’expérimentation des possibilités offertes par les nouvelles technologies.

Il ne peut pas non plus s’agir de fausses solutions renforçant la confidentialité, qui sont certes bonnes du point de vue de la protection des données, mais qui ne traitent pas la question de savoir quelles données nous collectons en premier lieu.

Repenser le respect de la vie privée comme l’égalité et l’autonomie peut nous aider à surmonter certains défis auxquels nous sommes confrontés et de faire de la confidentialité un atout.

À LIRE AUSSI :