Qu'est-ce que le NIST AI RMF ?
Le National Institute of Standards and Technology (NIST) a élaboré un Cadre de gestion des risques liés à l'intelligence artificielle (AI RMF 1.0) complet pour aider les organisations dans la conception, le développement et le déploiement responsables des technologies d'IA.
Ce guide volontaire distingue les problèmes spécifiques à l'IA (tels que l'opacité des modèles et la dérive des données) des risques logiciels traditionnels, en soulignant que la confiance est un concept multifacette impliquant la sécurité, l'équité et la transparence.
Le document est structuré autour d'un noyau à quatre fonctions composé de GOUVERNER (GOVERN), CARTOGRAPHIER (MAP), MESURER (MEASURE) et GÉRER (MANAGE), qui fournit une méthodologie structurée pour identifier et atténuer les préjudices potentiels envers les individus et la société. En fin de compte, le cadre fonctionne comme un document vivant destiné à favoriser une culture de la prise de conscience des risques tout en promouvant l'innovation et la confiance du public dans un paysage technologique en évolution.
Le noyau de l'AI RMF est organisé en quatre fonctions de haut niveau : GOUVERNER, CARTOGRAPHIER, MESURER et GÉRER. Ces fonctions sont conçues pour aider les organisations à opérationnaliser la gestion des risques liés à l'IA tout au long du cycle de vie du système.
Quelles sont les principales caractéristiques de l’AI RMF ?
Le NIST AI Risk Management Framework (AI RMF) a été élaboré sur la base de dix caractéristiques clés visant à guider sa conception et à garantir son efficacité dans des secteurs variés (Annexe D de l’AI RMF). Ces caractéristiques précisent que l’AI RMF vise à :
Être fondé sur le risque, efficient en ressources, favorable à l’innovation et volontaire : il met l’accent sur la gestion des risques sans être excessivement contraignant ni freiner l’innovation.
Être fondé sur le consensus et transparent : il est élaboré et mis à jour dans le cadre d’un processus ouvert permettant à toutes les parties prenantes de contribuer.
Utiliser un langage clair et accessible : le cadre est conçu pour être compréhensible par un large public, y compris les non-spécialistes et les dirigeants, tout en restant suffisamment technique pour les praticiens.
Fournir un langage et une compréhension communs : il propose une taxonomie, une terminologie et des définitions partagées pour la gestion des risques liés à l’IA.
Être facilement utilisable et adaptable : il est conçu pour être intuitif et s’intégrer aux stratégies globales de gestion des risques déjà en place au sein des organisations.
Être universellement applicable : le cadre est destiné à être utile dans une grande variété de contextes, de secteurs et de domaines technologiques.
Être axé sur les résultats et non prescriptif : plutôt que d’imposer des exigences uniformes, il propose un ensemble d’objectifs et d’approches à atteindre.
Favoriser la prise en compte des normes existantes : il s’appuie sur les bonnes pratiques et méthodologies existantes tout en identifiant les
Quelles sont les quatre fonctions principales de l'AI RMF ?
1. GOUVERNER
La fonction GOUVERNER est une exigence transversale qui informe et s'insuffle dans les trois autres fonctions. Elle se concentre sur :
- Cultiver une culture de gestion des risques : Établir un environnement organisationnel où le risque est anticipé et géré de manière proactive.
- Établir des politiques et la responsabilité : Définir les processus, les exigences légales et réglementaires et les dispositifs organisationnels nécessaires pour gérer les risques, y compris la définition de rôles et responsabilités clairs.
- Diversité et formation du personnel : Donner la priorité à la diversité, l'équité et l'inclusion dans le processus de gestion des risques et veiller à ce que le personnel soit formé pour remplir ses fonctions.
2. CARTOGRAPHIER
La fonction CARTOGRAPHIER est utilisée pour établir le contexte nécessaire afin de cadrer les risques liés à un système d'IA. Les activités clés incluent :
- Identifier les finalités et les contextes d'utilisation : Comprendre les objectifs spécifiques, les usages bénéfiques et les environnements où l'IA sera déployée.
- Catégoriser le système d'IA : Définir les tâches spécifiques (p. ex., modèles génératifs, classifieurs) et identifier les limites de connaissance du système.
- Caractériser les impacts : Identifier la probabilité et l'ampleur des préjudices potentiels pour les individus, les groupes, la société et l'environnement.
- Vérifier les hypothèses : Permettre aux organisations de vérifier si leurs hypothèses initiales sur les cas d'utilisation de l'IA restent valides.
3. MESURER
La fonction MESURER utilise des outils quantitatifs et qualitatifs pour analyser, évaluer et surveiller les risques identifiés liés à l'IA. Cela comprend :
- Évaluer les caractéristiques de confiance : Tester le système pour la validité, la fiabilité, la sécurité, l'équité et la protection de la vie privée.
- Tests rigoureux (TEVV) : Mettre en œuvre des processus de test, d'évaluation, de vérification et de validation, y compris des comparaisons avec des références de performance.
- Suivi des risques dans le temps : Mettre en place des mécanismes pour surveiller les risques existants, imprévus et émergents pendant que le système est en production.
4. GÉRER
La fonction GÉRER consiste à allouer des ressources aux risques qui ont été cartographiés et mesurés. Elle se concentre sur :
- Traitement des risques : Prioriser et agir sur les risques en fonction de leur impact prévu. Les options de réponse incluent l'atténuation, le transfert, l'évitement ou l'acceptation du risque.
- Maximiser les bénéfices et minimiser les préjudices : Mettre en œuvre des stratégies pour préserver la valeur du système d'IA tout en réduisant la probabilité de défaillances.
- Réponse aux incidents et rétablissement : Élaborer des plans pour répondre aux incidents et s'en remettre, y compris des mécanismes permettant de désactiver ou de déconnecter des systèmes qui ne fonctionnent pas conformément à leur usage prévu.
Quelles sont les sept caractéristiques d'un système d'IA digne de confiance ?
Le NIST AI Risk Management Framework identifie sept caractéristiques clés qui contribuent à la confiance dans un système d'IA. Ces caractéristiques sont des attributs socio-techniques, ce qui signifie qu'elles sont influencées à la fois par la conception technique et par le contexte social d'utilisation du système.
Les sept caractéristiques sont :
- Valide et fiable : La validité confirme que les exigences du système pour son usage prévu spécifique sont satisfaites, tandis que la fiabilité est sa capacité à fonctionner sans défaillance dans des conditions données et dans le temps. Cette caractéristique inclut la précision (à quel point les résultats sont proches des valeurs réelles) et la robustesse (capacité à maintenir des performances dans des circonstances variées).
- Sûr : Les systèmes d'IA ne doivent pas, dans des conditions définies, conduire à un état mettant en danger la vie humaine, la santé, les biens ou l'environnement. La sécurité est améliorée grâce à une conception responsable, des informations claires pour les utilisateurs et la possibilité d'intervenir ou d'arrêter un système s'il s'écarte de son fonctionnement attendu.
- Sécurisé et résilient : La résilience est la capacité d'un système à résister à des événements adverses inattendus ou à des changements de son environnement. La sécurité englobe la résilience mais inclut aussi des protocoles pour se protéger contre et se remettre d'attaques, telles que l'empoisonnement de données ou les accès non autorisés.
- Responsable et transparent : La transparence consiste à rendre des informations sur un système d'IA et ses résultats accessibles à ceux qui interagissent avec lui. La responsabilité concerne l'imputabilité des résultats du système et dépend de la transparence pour être effective.
- Explicable et interprétable : L'explicabilité renvoie à la description des mécanismes internes du fonctionnement d'un système d'IA, tandis que l'interprétabilité concerne le sens et le contexte des résultats du système. Elles aident les utilisateurs à comprendre « comment » et « pourquoi » une décision ou une recommandation spécifique a été prise.
- Renforcement de la vie privée : Cette caractéristique vise à protéger l'autonomie humaine, l'identité et la dignité. Elle implique le respect de normes telles que l'anonymat et la confidentialité, et l'utilisation de technologies favorisant la protection de la vie privée (PETs) pour empêcher l'identification non autorisée des individus.
- Équitable, avec gestion des biais préjudiciables : L'équité implique de traiter les enjeux d'égalité et d'équité. Cela nécessite de gérer diverses formes de biais, y compris le biais systémique (dans les jeux de données ou les normes organisationnelles), le biais computationnel (erreurs statistiques) et le biais cognitif humain (comment les individus perçoivent l'information).
Pour qu'un système soit véritablement digne de confiance, ces caractéristiques doivent être équilibrées en fonction du contexte d'utilisation spécifique, car elles impliquent souvent des compromis (par exemple, un système favorisant davantage la vie privée peut perdre en précision prédictive).
Comment une organisation peut-elle mettre en œuvre un profil AI RMF ?
Une organisation peut mettre en œuvre un profil AI RMF en adaptant les fonctions, catégories et sous-catégories du Cadre à un contexte ou une application spécifique, en fonction de ses exigences particulières, de sa tolérance au risque et des ressources disponibles.
Le processus de mise en œuvre implique généralement les étapes et considérations suivantes :
1. Identifier le type de profil nécessaire
Les organisations peuvent développer différents types de profils selon leurs objectifs :
- Profils par cas d'usage : Conçus pour des applications spécifiques, tels qu'un profil AI RMF pour le recrutement ou le logement équitable.
- Profils temporels : Permettent de suivre les progrès dans le temps. Un profil actuel décrit les activités existantes de gestion des risques liés à l'IA de l'organisation, tandis qu'un profil cible définit les résultats souhaités pour atteindre des objectifs de gestion des risques spécifiques.
- Profils intersectoriels : Couvrent les risques liés aux modèles ou aux processus métier utilisés dans plusieurs secteurs, comme l'acquisition de grands modèles de langage ou de services cloud.
2. Réaliser une analyse des écarts
En comparant un profil actuel avec un profil cible, une organisation peut identifier les écarts spécifiques dans ses objectifs de gestion des risques. Cette comparaison aide l'organisation à comprendre quelles catégories ou sous-catégories du noyau de l'AI RMF nécessitent davantage d'attention ou de ressources.
3. Élaborer et prioriser un plan d'action
Une fois les écarts identifiés, l'organisation peut :
- Créer des plans d'action pour combler ces écarts et remplir les résultats des sous-catégories spécifiques.
- Prioriser les efforts d'atténuation en fonction des besoins spécifiques de l'organisation et des processus de gestion des risques établis.
- Évaluer les besoins en ressources, tels que le personnel et le financement, pour atteindre leurs objectifs de gestion des risques cibles de manière rentable.
4. Maintenir la flexibilité
L'AI RMF ne prescrit pas de modèles spécifiques pour ces profils. Cela permet aux organisations la flexibilité nécessaire pour mettre en œuvre le cadre d'une manière qui s'aligne le mieux sur leurs objectifs internes, leurs exigences légales ou réglementaires et les meilleures pratiques sectorielles. Les profils permettent également aux organisations de comparer leurs approches de gestion des risques avec celles d'autres entités.
Le NIST AI RMF Playbook fournit un ensemble d'actions recommandées destinées à soutenir la mise en œuvre des résultats établis par l'AI RMF. Les organisations peuvent choisir d'adopter celles qui sont pertinentes pour leur contexte particulier.