Comment faire confiance aux systèmes d’intelligence artificielle ?

« La quatrième révolution sera celle de l’intelligence artificielle. Elle entraînera une profonde redistribution des pouvoirs et de la richesse. Elle nous poussera à nous interroger sur la nature humaine ». Pour Nicolas Econoumou, président-directeur général de H5, une entreprise spécialisée dans le domaine de la gestion et de la recherche de la preuve électronique, il est impératif qu’on encadre l’utilisation des systèmes autonomes et intelligents (SAI) comme ceux qui auront recours à l’intelligence artificielle pour prendre des décisions. On pense entre autre aux voitures sans conducteur, à certaines armes ou aux programmes d’octrois de prêts.

« Optimiste prudent » auto-proclamé, Econoumou, prenait la parole dans le cadre de la 17ième Conférence sur l’intelligence et le droit, présentée à l’Université de Montréal, en juin dernier. Il craint pourtant que les SAI en viennent à décider à la place des humains, sans que l’on ne se soit d’abord donné la peine de circonscrire leur champ d’action. Il souhaite que l’on se secoue les puces et que l’on mesure au plus vite les conséquences potentielles de notre inaction. « Sinon, les sociétés se soumettront de plus en plus aux machines et les décisions se prendront en secret, affirme-t-il. Et, malheureusement, l’histoire regorge d’exemples des excès causés par la mise en application de lois par un système déshumanisé. »

Econoumou est à la tête d’un comité du Institute of Electrical and Electronics Engineers (IEEE), un groupe de réflexion composé de divers acteurs de l’industrie techno-scientifique, s’étant donné pour mandat de « mettre le bien-être de l’humain à l’avant-scène du design éthique des SAI. ». Ses collègues et lui ont réfléchi aux interactions entre le droit et de tels systèmes, ainsi qu’aux défis posés par ces derniers.

Parmi les besoins identifiés les plus pressants est la création de paramètres qui permettront d’avoir confiance aux SAI dans le milieu juridique. Quatre principes directeurs sont désignés comme essentiels. Il s’agit de l’efficacité, de la compétence, de la responsabilité et de la transparence.

Que l’efficacité se trouve en tête de liste des critères peut surprendre. Pourtant, Econoumou rappelle qu’on a eu recours, il n’y a pas si longtemps, à des systèmes de recherche et de gestion de la preuve électronique qui ne produisaient pas les effets escomptés. Pour éviter d’être victime de la pensée magique, il faut d’abord mesurer les résultats obtenus de façon objective. « Ce n’est pas parce qu’un système promet de faire une chose, que cela se réalise vraiment », affirme Econoumou. Et ce n’est qu’en testant de tels systèmes qu’on pourra aussi découvrir s’ils produisent des résultats inattendus et déplorables, tel que de la discrimination.

Pour ce qui est de la compétence, Econoumou, tient à attirer l’attention sur ce qui se passe déjà au sud de la frontière. « Tous les jours, en ce moment, le temps que passeront des détenus en prison est tributaire de la façon dont l’intelligence artificielle les perçoit. » Or, comme on ne permettrait pas à n’importe lequel quidam de rédiger un rapport pré-sentenciel, on doit s’assurer que les entreprises qui développent de tels systèmes et ceux qui les utilisent fassent appel aux professionnels. Ce sont les qualifications des psychologues ou travailleurs sociaux, par exemple, qui auront travaillé à la création des SAI, et le fait qu’ils soient régis pas des standards professionnels qui pourront nous mettre en confiance.

La responsabilité s’attarde à établir, à l’avance, celui que l’on pointera du doigt lorsque les choses tourneront au vinaigre. Toujours en utilisant l’exemple précédent, on devra pouvoir déterminer vers qui se tourner lorsqu’un verdict aux effets discriminatoires est donné. Tiendra-t-on responsable le fabricant du SAI, le travailleur social qui a agit comme consultant pour construire l’algorithme, l’avocat du défendeur qui n’a pas su relever la possibilité de partialité de l’algorithme ou le juge qui s’est fié aux résultats obtenus, sans faire de distinction?

Ce qu’on entend par la « transparence » devra aussi être revu. Face à la complexité du fonctionnement de ces systèmes, des gestes concrets devront être posés pour qu’un tiers puisse exercer une surveillance. Des « interprètes » des algorithmes pourront voir le jour. Des mécanismes d’explications des diverses étapes franchies et de leurs effets implantés dans les SAI, un genre de boîte noire, deviendront aussi essentiels. »

Econoumou réitère qu’on ne peut garder les yeux fermés encore bien longtemps. Quant à la mise en place de principes directeurs, il faudra les élaborer de manière légitime, y compris aux eux de la population. « Pour que les citoyens aient confiance aux SAI en contexte juridique, il ne faut pas leur demander d’avoir la foi, conclut Econoumou. Ils doivent être en mesure de constater que le système de justice sait, qu’au final, c’est à eux seuls qu’il est redevable. »

Pour plus d’informations sur les travaux du IEEE, téléchargez « Ethically Aligned Design », un chapitre complet est consacré au droit.