Source: https://ref-ia.isit-europe.org/
5 Familles, 13 recommandations, 31 critères : RIA31 Référentiel IA Ethique et Responsable
STRATEGIE
L'étape de stratégie projet permet de déterminer la pertinence et les enjeux du projet.
1. Définir et valider les besoins et les enjeux du projet afin d'anticiper les impacts (R1)
STR-1_01 : Les Objectifs de Développement Durable de l'ONU (ODD) / UN Sustainable Development Goals (SDG) couverts sont-ils identifiés, le service est-il en accord avec les ODD / SDG ? (C1)
STR-1_02 : La durabilité (vs obsolescence) de la solution est-elle évaluée ? Le projet est-il définit afin de maximiser la transférabilité et la durabilité de la solution ? Se lance-t-on dans un projet en étant conscient de sa durabilité ? Est-ce que les développements sont transférables dans d'autres projets ? (C2)
STR-1_03 : Le besoin (utile, qui répond à un vrai besoin aligné avec l'un des ODD vs. futile, accessoire sans création de valeur inaccessible sans IA), est-il validé ? Une alternative pour traiter le besoin avec technique moins énergivore , apportant plus de confiance, d'intégrité et déterminisme est-elle possible ? Une alternative au "tout algorithme" est-elle évaluée avec un scoring des résultats atteignables ? (C3)
STR-1_03-1 : Lorsque le besoin d'IA est avéré, est-ce qu'une alternative à l'IA Generative est envisagée ? (C4)
STR-1_04 : Une équipe pluridisciplinaire (juristes, RSE, métiers, data scientist, data ingénieur, sociologues, ...), multi culturelle et inclusive pour prendre en compte tous les questionnements à venir de l'IA est-elle constituée ? (C5)
STR-1_05 : Un comité éthique & environnemental est-il mis en place ? Les référents pluridisciplinaire (juristes, RSE, métiers, data scientist, data ingénieur, sociologues, ...), sont-ils identifiés et intégrés dans une gouvernance RSE ? L'éthique, la déontologie, la traçabilité des sources et la finalité de l'IA sont-elles suivies ? (C6)
STR-1_06 : A t'on mis en place une red team (testeurs d'intrusion) pour étudier les comportements émergents et les effets inconnus des modèles ? (C7)
STR-1_07 : Une partie prenante externe impartiale est-elle mis à contribution pour évaluer la conformité à ce référentiel ? (C8)
2. Planifier, préparer et valider les éléments techniques et organisationnels du projet pour la conformité avec le Numérique Responsable (R2)
STR-2_01 : Une gouvernance des données est-elle mise en place ? Les risques liés à la sécurité et confidentialité des données, l'éthique d'utilisation des données manipulées par l'IA, sur l'ensemble du cycle de vie y compris fin de vie sont-ils identifiés ? (C9)
CADRAGE PROJET
Regroupent les éléments de cadrage projet, les moyens mis en oeuvre, les objectifs et contraintes du projet sur toute la durée de vie du produit cible. Indépendamment du type de gestion projet : AGILE ou cycle en V classique.
1. Organiser les ressources humaines projets pour permettre la prise en compte de la démarche NR (R3)
CAD-1_01 : La sensibilisation et/ou formation des parties prenantes (y compris l'utilisateur) aux thématiques éthiques et environnementales est-elle déployée ? (C10)
2. Organiser la méthodologie projet pour permettre d' appliquer une démarche NR (R4)
CAD-2_01 : Est-ce qu'une matrice d'éligibilité aux 7 éléments essentiels pour qualifier une IA de confiance au regard de la commission européenne (IA Act - 2026) est instanciée ? La transparence, l'éthique, équitable, sécurité, explicabilité, robustesse, gouvernance de données et données privées sont-elles prises en compte ? (C11)
CAD-2_02 : A t'on une documentation technique de conformité fournis concernant la conformité des données et des modèles d'entrainement, les essais, les capacités et limites du système, les validations utilisées et le système de gestion des risques mis en place et mis à jour que ce soit pour les composants internes ou provenant de fournisseurs externes ? (C12)
CAD-2_03 : Les contrôles mis en oeuvre pour les modèles sont ils adaptés, pertinents et proportionnés aux risques pour éviter les excès de contrôle ? (C13)
3. Construire le périmètre du projet et valider la pertinence de chaque fonctionnalité (R5)
CAD-3_01 : Le cycle de vie comprenant les étapes du projet (Collection des données /Préparation des données, Conception ou Achat, Entrainement, Test, Validation, Deploiement, Exploitation, Utilisation, décommisionnement, recyclage, fin de vie) est-il défini ? Les limites environnementales et les risques éthiques/réglementaires de chaque étape.sont-ils définis ? Quels sont les moyens pour minimiser l'impact environnemental et sociétal de chaque processus unitaire ? (C14)
4. Déterminer l'environnement technique dans lequel le projet sera construit et déployé en accord avec les principes NR (R6)
CAD-4_01 : Des normes ( Ethik-IA pour la santé, ORCCA, AFNOR, ADEL, ISO...), la réglementation (RGPD notamment) et les grilles de bonnes pratiques sont-elles utilisées comme référence ? (C15)
CAD-4_02 : Le catalogue des outils est-il constitué et mis à disposition ? Le suivi des outils est-il réalisé pour bénéficier des dernières avancées méthodologiques et techniques en terme d'équité, cybersécurité, performance énergétique, réglementation et traçabilité notamment? (C16)
EXPERIENCE UTILISATEUR
Les étapes et méthodes de conception des services numériques pour définir les meilleures solutions d'interactions avec l'utilisateur.
1. Valeur : soyez transparent avec vos utilisateurs (R7)
UX-1_01 : Une déclaration d'engagement éthique et responsable est-elle rédigée ? (C17)
UX-1_02 : En fonction de la précision du résultat souhaité, l'utilisateur a t'il accès aux paramétrages de l'IA pour faciliter la prise en main ? (C18)
UX-1_03 : A t'on informé qu'un système IA interagit avec des humains ? Les personnes physiques peuvent elles choisir librement de ne pas être soumises à un profilage ou à d’autres pratiques susceptibles de modifier leur comportement ? l'utilisateur est il informé de l'analyse émotionnelle ? y a t'il une déclaration ou un étiquetage des résultats produits par l'IA pour indiquer l'origine artificielle ? (C19)
INTERFACE UTILISATEUR
Ensemble des composants en opération sur un terminal utilisateur pour permettre l'utilisation d'un service IA.
1. S'assurer que l'utilisation du service permet le contrôle des impacts (R8)
FRT-1_01 : A-t-on analysé et controlé les résultats de l'IA, les biais et les variances ? (C20)
FRT-1_02 : Des process et guides d’explicabilité des résultats, l'automatisation de l'explicabilité dans des tableaux de bord sont-ils mis en place ? (C21)
FRT-1_03 : La responsabilité légale et éthique du résultat de l'IA, et les nécessités d'intervention humaine pour exploiter ce résultat sont-elles identifiées ? (C22)
FRT-1_04 : Des codes en filigrammes ( watermarks ) ont ils été introduits dans les résultats pour différencier une production humaine et IA ? (C23)
SOCLE TECHNOLOGIQUE
Le socle technologique représente la traduction informatique des processus métiers, les moyens techniques et données mis en oeuvre pour leur utilisation, ainsi que toutes les interactions externes mises en oeuvre pour leur réalisation.
1. Utiliser les composants techniques qui améliorent les aspects NR, sécurité et performance (R9)
BCK-1_01 : Fournit-on aux développeurs des outils et méthodes d'évaluation de la sécurité et robustesse des applications d'IA contre les menaces. Par exemple : ART (Adversial Robustness Toolbox) ? (C24)
BCK-1_02 : Privilégie-t-on les langages et frameworks permettant de limiter les impacts environnementaux ? A minima, indiquer que les impacts environnementaux ne sont pas connus lorsque les fournisseurs ne les communiquent pas ? (C25)
2. Utiliser des principes de développement qui réduisent les impacts (R10)
BCK-2_01 : Allége-t-on les modèles autant que possible en appliquant des méthodes de réduction de modèle (pruning, low rank matrix factorization, knowledge distillation, TinyML ...) et utilise-t-on si possible des algorithmes pré-entraînés / transfert learning, dont l'empreinte numérique et les valeurs éthiques sont vérifiées ? (C26)
BCK-2_02 : A t'on validé la qualité du corpus d'apprentissage de l'IA, notamment pour les résultats provenant d'une autre IA ? (C27)
BCK-2_03 : A t'on une proportionnalité de langue dans le corpus d'apprentissage automatique, un modèle multilingue équilibré et donc « pluriculturel » est nécessaire ? (C28)
3. Mettre en place une méthodologie qui favorise la prise en compte des aspects NR (R11)
BCK-3_01 : Met-on à disposition en Open Source les modèles d'apprentissage et données non sensibles et un jeu d'essai (corpus d'évaluation), à partager à son réseau ? L'empreinte énergétique et les valeurs éthiques/CGU... sont-elles documentées ? (C29)
4. Appliquer une démarche qui garantit les aspects NR (R12)
BCK-4_01 : Toutes les sources utilisées pour la construction de l'IA sont-elles tracées, avec une vérification minimale pour l'intégration de composants tiers ( exemple librairie de code open source )? (C30)
5. Gérer la vie des données (R13)
BCK-5_01 : La cartographier et la minimisation des données utiles et nécessaires sur l'ensemble du cycle de vie sont-elles mis en place afin de limiter leur transport et optimiser leur stockage et conservation (data mesh, ...) ? (C31)