Pourquoi et comment un audit éthique ?
Pourquoi réaliser un audit éthique ?
Dans un environnement technique et légal qui ne cesse de se complexifier, dans lequel les nouvelles technologies numériques deviennent incontournables, celles-ci doivent pouvoir démontrer qu’elles véhiculent des valeurs éthiques, favorisant ainsi la confiance dans les processus à l’oeuvre.
La confiance en un système à base d’IA est fondée sur trois piliers :
Sa « légalité »
Le respect des règles et lois qui s’appliquent à sa mise en oeuvre (RGPD, AI Act…)
Son caractère éthique
Le respect de principes éthiques de l’Intelligence Artificielle
Sa robustesse technique
La sécurité et la robustesse des systèmes mis en oeuvre.
La gouvernance de la confiance en ces nouvelles technologies s’appuie dès lors d’une part sur l’application et le suivi d’un système de règles institutionnelles (hard governance) ; elle peut aussi s’appuyer sur des mécanismes permettant de contextualiser les règles éthiques à implémenter sur la base des valeurs et de la culture de chaque entreprise (soft governance). Leur suivi et leur amélioration passent par la mise en place d’un système de gestion de la qualité éthique, dont les audits font partie intégrante.
Les fonctions d’un audit AIthics d’évaluation de conformité.
- s’assurer de la conformité légale d’un use-case, préalablement à sa mise sur le marché, en particulier lorsque celui-ci présenteun risque éthique élevé.
- évaluer le caractère éthique de ce use-case ; il donne lieu à un label qui rend compte de la valeur du cas d’usage relativement aux grands principes éthiques : sûreté, explicabilité, autonomie, responsabilité, équité, respect de la vie privée, impact durable ;
- rendre compte de la mise en place d’un système de gestion éthique approprié et de la documentation technique nécessaire.
Il devient donc un mécanisme de gouvernance ; et en facilitant la communication d’une « valeur » éthique, il devient un outil de transparence et de promotion de la confiance.
Principe de nos Audits éthiques
La méthodologie AIthics est fondée sur les préconisations développées par l’Union Européenne pour favoriser la confiance en l’Intelligence Artificielle. Ces préconisations, et en particulier sur l’AI Act(2021), si elles n’ont pas de valeur réglementaire à cet instant, ont vocation à être transcrites à court terme dans le corpus législatif de chaque pays membre.
Notre approche est orientée risque. Elle se déploie en fonction du niveau de risque de chaque cas d’usage. Il convient dans un premier temps d’évaluer le niveau de risque éthique que l’implémentation d’un use case peut engager.
- Un risque peut être prohibé.
- Il peut être élevé : un audit est nécessaire afin de s’assurer de la conformité de son use case.
- Il peut enfin être faible : un audit de conformité n’est pas formellement nécessaire même si il reste conseillé, ne serait-ce que par la transparence qu’il engage de la part des organisations concernées.
On se reportera à la liste d’activités à « risque élevé » définie dans l’Annexe III de l’AI Act.
Sans être exhaustive, elle définit explicitement des catégories de cas d’usage qui nécessitent l’évaluation de leur conformité. Cela étant, un cas d’usage dit à « risque faible » pourra trouver avantage à s’appuyer sur des mécanismes de gouvernance et d’audit qui permettront de transmettre des gages de confiance à leurs clients.
Nous considérons le caractère éthique de vos cas d’usage, à travers les 7 principes éthiques qui se déclinent chacun en fonction d’indicateurs qui nous permettent de les évaluer précisément.
Pour chaque principe, le rendu prend la forme ci-dessous d’un score présentant le degré de conformité à ce principe, allant de solutions conformes (vert), à d’autres scores nécessitant des améliorations mineures, majeures, rendant impossible sa mise sur le marché.
Cette présentation permet de visualiser simplement et objectivement l’évaluation d’un cas d’usage relativement à chaque principe.
Les 7 principes éthiques AITHICS
Sûreté
Explicabilité
Equité
Respect de la vie privée
Autonomie
Responsabilité
Impact durable
Notre méthodologie permet donc de visualiser de façon transparente à la fois le degré de conformité relativement à chaque principe éthique, quelles améliorations sont nécessaires, ou seulement souhaitables, et quels arbitrages ont pu être réalisés, en faveur de quel(s) principe(s) et au détriment de quel(s) autre(s).
2 types d’audit
(1) celles qui développent des technologies innovantes à base d’IA.
(2) celles qui sont utilisatrices de ces technologies innovantes à base d’IA.
Audit de conformité des solutions IA, au sein de leurs organisations de développement
Le sens éthique qui doit être donné à un projet numérique est d’abord de la responsabilité de l’entreprise qui le développe, de chacun des collaborateurs qui y participe, dans le cadre d’une organisation.Cette responsabilité passe par l’engagement de tous dans le respect des principes généraux de l’éthique de l’IA.
Elle passe par la mise en place d’outils de gouvernance des projets, de procédures garantes du respect des principes éthiques.
Dans ce cadre, nos audits ont pour objet de faciliter la confiance dans une relation transparente entre équipe de développement et client. Ces évaluations portent sur le caractère éthique du cas d’usage, de l’objet technique développé qui doit pouvoir être utilisé en toute confiance.
Néanmoins, l’évaluation n’engage pas seulement le cas d’usage mais aussi l’organisation au sein de laquelle le développement a eu lieu.
Audit d’organisations utilisatrices de technologies innovantes à base d’IA
Si le sens éthique donné à un projet de transformation digitale est initialement de la responsabilité de l’entreprise ou du service en charge de son développement, son sens éthique final lui est conféré par l’entreprise utilisatrice, les services et les collaborateurs qui portent le projet.L’objet IA n’intervient pas seul dans la réalisation de sa fonction, l’organisation mise en place pour gérer ses conditions d’utilisation a une influence directe sur le caractère éthique des résultats et leurs usages.
L’organisation mise en place afin de gérer la transformation digitale doit aussi avoir pour objectif de respecter les principes généraux de l’éthique de l’IA (voir ci-dessus), en même temps que les valeurs éthiques de l’entreprise.
Dans ce cadre, nos audits ont pour objet de faciliter la confiance dans une relation transparente entre les utilisateurs, et plus largement l’organisation utilisatrice, avec leurs propres clients, ou les personnes qui seront affectées par l’utilisation de leurs résultats. Les évaluations résultant de cesaudits portent bien entendu sur le caractère éthique de l’objet IA en tant que tel, ils intègrent en sus l’impact éthique du contexte d’utilisation, de manière à ce que les résultats de l’organisation utilisatrice puissent être communiqués en toute confiance.
Vous souhaitez réaliser un audit éthique
Contactez-nous
Benoît Duchemann
+33 (0)6 848 44 30
ou envoyez-nous un email
