Ethique & IA : comment Prevision.io facilite l’audit des intelligences artificielles

Ethique & IA

Avec la mise en place prochaine de la réglementation sur la protection des données, la question des usages et de la finalité des données collectées par les entreprises est placée au centre des débats. Auparavant réservée à la recherche et à la science-fiction, l’intelligence artificielle (IA) irrigue désormais la place publique. Cette technique permet aujourd’hui de faire des analyses prédictives utiles pour réaliser des estimations de facture d’électricité, de gaz ou bien réaliser une prévision des ventes pour les entreprises. Néanmoins, certains comportements sont à adopter lors de l’utilisation de ces logiciels. Pour les utiliser correctement, il est important de connaître la réglementation en matière de protection des données : RGPD.

Comment se comporter face aux intelligences artificielles ?

Loyauté et vigilance

Très récemment la CNIL a proposé une intéressante grille de lecture des IA selon deux principes fondamentaux : la loyauté et la vigilance.

La loyauté recouvre les enjeux de finalité et d’éthique dans le cadre d’une prise de décision par un algorithme:

  • L’objectif initial imposé au logiciel répond-t’il à une problématique qui respecte la réglementation législative et réglementaire actuelle ?

  • Les critères de décisions proposés sont-ils neutres, et sans biais ?

L’utilisateur de logiciel doté d’intelligence 2.0 porte une certaine responsabilité. Il doit s’assurer du but légitime poursuivi par le logiciel. Les données doivent être fiables et conformes à la réglementation actuelle.

La vigilance quant à elle, concerne les réserves qu’il faut observer face aux décisions prises par les algorithmes. Ces décisions doivent pouvoir être contrôlées et comprises par l’utilisateur. Cela permet ensuite aux entreprises d’utiliser les logiciels d’analyses prédictives en conformité avec la réglementation. La réalisation d’audits sur les algorithmes d’intelligence artificielle permet de s’assurer de cette conformité.

Algorithme & Comportement

Pour autant, l’analyse de l’intelligence par un processus d’analyse interne n’est pas un phénomène nouveau. En effet, en matière de psychologie notamment, l’introspection est rarement la méthodologie la plus appropriée, et c’est plutôt par l’analyse des comportements qu’il est possible de comprendre, de façon détournée, et d’expliquer les processus intellectuels.

De même en matière d’intelligence artificielle, il est préférable d’examiner l’algorithme à l’œuvre plutôt que d’en comprendre chaque rouage. Comme le comportementalisme qui étudie les processus intellectuels uniquement à l’aune des comportements observables et des interactions avec le milieu, il est possible d’en apprendre tout autant sur la nature des algorithmes par leur observation extérieure, sans devoir les disséquer ou les expliquer de l’intérieur.


Réaliser une étude sur les résultats obtenus par le logiciel doté d’intelligence artificielle permet de renforcer la confiance et la crédibilité des utilisateurs. Les analyses sont expliquées clairement. Elles permettent aussi d’affirmer que l’utilisation du logiciel est parfaitement conforme à la réglementation actuelle en matière de protection des données.

Crédibilité & Confiance

À chaque décision, l’objectif est de mesure la fiabilité de l’algorithme. Deux questions naturelles permettent d’approcher la mesure de cette fiabilité:

“Avez-vous déjà rencontré une situation similaire par le passé ?”

La réponse à cette question revient à estimer si les données d’apprentissage contiennent des exemples proches du contexte proposé. Cela permet d’établir si la situation est connue, ou au contraire, nouvelle pour l’algorithme.

Le logiciel doté d’intelligence artificielle est capable d’analyser un très grand nombre de données. Le terme data mining est alors employé sur les outils qui sont capables d’explorer puis d’analyser des données sur des grands volumes. Renforcer la crédibilité dans ses outils permet aux utilisateurs de vérifier qu’ils les utilisent de manière conforme à la réglementation des données actuelles.

“Quelle marge d’erreur estimez-vous dans votre décision ?”

En plus d’être crédible, il convient d’être confiant. Pour cela, il faut mesurer à quel point les décisions similaires fournies lors de l’apprentissage étaient diverses, contradictoires. Techniquement il s’agit d’associer à chaque décision un intervalle de confiance dont l’amplitude dépend du risque que nous sommes prêts à assumer.

Expliquer les décisions des outils d’intelligence artificielle

Rassuré par les éléments de crédibilité et de confiance, naturellement vient la question de l’interprétabilité. Alors que le consensus actuel autour des algorithmes d’apprentissage place l’espoir dans l’explication de l’algorithme au complet, il est préférable de se pencher sur un contexte donné. Il faut alors, non pas expliquer le fonctionnement du logiciel dans son ensemble, mais l’interpréter à chaque mise en situation :

“Quelles raisons vous ont poussé à prendre cette décision particulière ?” (H3?)

D’une façon pratique, il s’agit de fournir une restitution locale de la connaissance acquise par l’algorithme dans cette situation face à la réglementation actuelle. Une approximation simple du fonctionnement de l’algorithme permet alors de résumer les inducteurs majeurs de cette décision.

L’intelligence artificielle analysée par les audits de Prevision.io

Plusieurs types d’audits sont proposés par la plateforme prevision.io décrits :

  • Lorsqu’un algorithme est disposé sur la plateforme, un algorithme-jumeau est entraîné à mesurer les erreurs commises par le premier. Le couple fournit pour chaque décision une mesure objective de la marge d’erreur et également une mesure de la singularité de la situation.

  • Pour chaque décision, est fournit également un algorithme simple et interprétable qui rend compte localement des critères objectifs qui ont mené à cette décision. Cet algorithme résume l’influence positive ou négative de chaque critère ayant contribué à la décision.

Ces éléments sont produits automatiquement par la plateforme Prevision.io. Ils facilitent grandement la compréhension des logiciels dotés d’intelligence artificielle dans la chaîne de décision.

Prevision.io -

Our Latest
News