L’intelligence artificielle deviendrait-elle éthique ?

A l’occasion de sa 31^e réunion plénière, le 4 décembre dernier, la Commission européenne pour l’efficacité de la justice (CEPEJ) a, à son tour, adopté une Charte éthique européenne sur l’utilisation de l’intelligence artificielle (IA) dans les systèmes judiciaires. Retour sur un mouvement qui prend de l’ampleur.

A l’instar de tous les secteurs de nos sociétés modernes, les juridictions n’échappent pas à la révolution numérique. Sans surprise, les États n’en sont pas au même niveau de réflexion sur les aspects éthiques associés à ce phénomène. Cette disparité d’avancement sur ce sujet au niveau européen ne doit pourtant pas conduire à négliger les enjeux communs et considérables à tous les systèmes judiciaires. C’est dans ce contexte que la CEPEJ a élaboré le premier texte européen énonçant des principes éthiques relatifs à l’utilisation de l’IA dans les systèmes judiciaires. Si certains pays comme les Pays-Bas se mettent à peine au travail, d’autres États d’Europe de l’ouest semblent déjà avoir développé une réflexion avancée sur l’IA avec des applications concrètes tant sur le plan technologique, que sur celui de l’accompagnement juridique et éthique. C’est notamment le cas de la France. Le Comité éthique et scientifique de la justice prédictive a dévoilé le 20 novembre dernier, une Charte éthique de la justice prédictive. Ce projet, s’est appuyé sur les travaux de la Clinique du droit de Science Po Paris, en collaboration avec Predictice et le cabinet Taylor Wessing.

Des chartes complémentaires

La Charte éthique européenne sur l’IA dans les systèmes judiciaires est le premier instrument adopté par une organisation internationale au niveau européen et mondial en la matière. Elle s’adresse aux 47 états membres du Conseil de l’Europe, en ciblant les autorités nationales responsables de l’intégration de l’IA dans les législations nationales et/ou les politiques judiciaires, les professionnels de la justice et les acteurs privés. Elle a vocation à les guider dans la définition d’un futur cadre juridique. De son côté, la charte du Comité éthique et scientifique sur la justice prédictive fonctionne sur l’adhésion spontanée des acteurs de justice prédictive afin leur permettre de justifier auprès du justiciable et des professions réglementées avec lesquelles elles sont susceptibles de travailler un certain niveau d’éthique dans la délivrance des prestations juridiques. à ce jour, cette charte n’a été signée que par Predictice.

Le contenu des deux chartes diffère quelque peu : « Les principes posés par la Charte européenne concernent l’utilisation de l’IA dans le traitement des décisions judiciaires ; par conséquent, ce texte ne s’applique pas uniquement au domaine de la justice prédictive, mais aussi à la valorisation de la jurisprudence et de la recherche juridique et au règlement en ligne des différends, souligne Clementina Barbaro, chef de l’unité de coopération de la CEPEJ et secrétaire du groupe de travail sur la qualité de la justice. Par ailleurs, notre charte met en avant des principes de fond et non pas uniquement des principes méthodologiques, comme le fait la Charte de la justice prédictive ». Parmi ces principes de fond se trouve notamment l’exigence que les outils et services d’IA respectent les droits de l’Homme, tels que consacrés par la CEDH et d’autres instruments du Conseil de l’Europe sur la protection des données personnelles.

La Charte de la justice prédictive se veut plus concrète. Par exemple, le principe de transparence prévoit notamment que toute personne doit bénéficier d’un accès à la composition exacte des fonds documentaires utilisés ou mis à disposition des utilisateurs. Il serait, en effet, crucial d’obtenir une photographie précise des décisions analysées, c’est-à-dire que chaque résultat indique le rapport entre le nombre de décisions analysées par l’algorithme et le nombre total de décisions rendues sur cette même problématique. A défaut, les utilisateurs pourraient acquérir une normativité incontrôlée, où la logique probabiliste supplanterait progressivement la logique juridique.

De la soft law

Dans tous les cas, il ressort de l’analyse des deux chartes qu’il est impératif de développer des outils qui répondent à un certain nombre de critères, notamment aux principes de transparence - pour pallier la question des biais des algorithmes, il importe de s’assurer que la collecte des données soit effectuée de manière transparente et limitée à la finalité poursuivie -, de loyauté, de contrôle et de collaboration. « Notre Charte semble aller un peu plus loin sur l’importance d’une information objective des société privés sur la performance de leurs outils et les risques d’erreurs », poursuit Clementina Barbaro. Autre exemple, la Charte européenne évoque une « autorité indépendante », alors que celle sur la justice prédictive évoque une « autorité régulièrement désignée ».   L’article 5 de la Charte sur la justice prédictive précise en effet que « Le contrôle du fonctionnement des outils, notamment dans le but de vérifier le respect d’un principe de cette charte, pourra être opéré par une autorité régulièrement désignée garantissant la confidentialité des informations liées au développement des algorithmes auquel elle aura accès durant la procédure de contrôle et respectant le principe du secret des affaires ».

Si leur existence est louable, sans effet normatif - la Charte européenne n’est pas contraignante-, ni sanction en cas de non-respect, ces chartes éthiques n’empêcheront pas les dérives de conception et d’utilisation des algorithmes… « Cette charte a le mérite d’exister et pose les principes que nous considérons comme fondateurs, a déclaré le bâtonnier Paul-Albert Iweins, associé de Taylor Wessing. La seule question qui reste à résoudre est celle du contrôle. C’est de la soft law, il y a donc le risque qu’elle reste lettre morte ». Une autorité de régulation devrait voir le jour très prochainement d’après le Comité éthique et scientifique.