Note : Cette analyse est fondée sur le projet de lignes directrices de la Commission relatif à la classification des systèmes d'IA à haut risque, publié aux fins de consultation. Ces lignes directrices ne sont pas encore définitives. Ce qui suit constitue une première lecture. Nous actualiserons cette analyse avec un examen plus approfondi, incluant les éventuelles modifications substantielles du projet et leurs implications pratiques pour les fournisseurs et les déployeurs.
La Commission européenne a publié une série de projets de lignes directrices visant à clarifier la classification des systèmes d'IA à haut risque au titre de l'article 6 du règlement sur l'IA. Ces lignes directrices sont essentielles pour les fournisseurs, les déployeurs et les autorités de surveillance du marché afin de garantir une application uniforme du règlement, lequel vise à promouvoir l'innovation en matière d'IA tout en protégeant la santé, la sécurité et les droits fondamentaux.
La Commission reconnaît que ces lignes directrices constituent des documents provisoires publiés aux fins de recueil des observations des parties prenantes et qu'ils n'ont pas encore de force contraignante. Afin de maintenir la liste des cas d'usage à haut risque au niveau des enjeux actuels, le règlement sur l'IA prévoit un mécanisme de suivi permettant de réviser et de mettre à jour l'annexe III annuellement, à mesure que la technologie évolue. Le respect de ces principes dès à présent constitue une étape cruciale pour les organisations souhaitant développer une IA fiable et conforme au sein du marché européen.
Il importe de souligner qu'il s'agit toujours d'un projet. La Commission l'a publié spécifiquement afin de le soumettre à la consultation des parties prenantes et de recueillir leurs contributions avant d'adopter une version définitive.
1. Contenu des lignes directrices
Trois projets de lignes directrices interconnectés ont été publiés par la Commission européenne, fournissant des orientations pratiques sur la manière de qualifier un système d'IA de « système à haut risque » au titre de l'article 6 du règlement (UE) 2024/1689. Ces trois projets portent sur :
- Principes généraux : la logique de classification, les règles relatives à la destination prévue et l'entrée en application
- Annexe I (art. 6(1)) : les systèmes d'IA intégrés dans des produits réglementés critiques pour la sécurité
- Annexe III (art. 6(2)) : les systèmes d'IA dans huit domaines sociétaux sensibles
Pourquoi la qualification à haut risque est-elle déterminante ?
Toute la logique du règlement sur l'IA repose sur une approche fondée sur les risques. Être qualifié de « système d'IA à haut risque » au titre de l'article 6 déclenche des obligations strictes et substantielles pour les fournisseurs comme pour les déployeurs, garantissant que ces systèmes sont dignes de confiance, sûrs et respectueux des droits fondamentaux. Jusqu'à présent, la frontière entre les niveaux de risque pouvait paraître floue.
Ces lignes directrices fournissent la méthode concrète et les critères permettant de déterminer si votre système d'IA relève de cette catégorie réglementée ou s'il peut bénéficier d'une exemption. Le document inclut l'interprétation de concepts clés, des exemples pratiques couvrant l'ensemble des domaines de l'annexe III (tels que la biométrie, l'emploi et l'éducation), ainsi que des explications détaillées du « mécanisme de filtrage » prévu à l'article 6(3), qui permet d'exempter certains systèmes de la qualification à haut risque.
Une qualification à haut risque déclenche un cadre de conformité complet au titre du chapitre III du règlement sur l'IA, comprenant la gestion obligatoire des risques, la gouvernance des données, la documentation technique, la surveillance humaine, les exigences en matière d'exactitude et de robustesse, les obligations de transparence et les évaluations de conformité.
La qualification à haut risque ne constitue pas une interdiction ; elle signifie simplement que le système est soumis à des obligations renforcées afin de garantir qu'il est sûr et respectueux des droits.
2. Dates clés du règlement sur l'IA dans le cadre de l'AI Omnibus
| Date | Événement | Signification |
|---|---|---|
| 2 août 2026 (→ reporté au 2 décembre 2027 dans le cadre de l'AI Omnibus) | Application de l'art. 6(2) + annexe III | Haut risque pour les cas d'usage autonomes (biométrie, emploi, etc.) |
| 2 août 2027 (→ reporté au 2 août 2028 dans le cadre de l'AI Omnibus) | Application de l'art. 6(1) + annexe I | Haut risque pour les produits critiques pour la sécurité intégrant de l'IA |
| 2 août 2030 | Échéance pour les déployeurs du secteur public | Tous les systèmes d'IA à haut risque utilisés par les autorités publiques doivent être conformes |
| 31 décembre 2030 | Grands systèmes informatiques (annexe X) | Les systèmes existants relevant des grands programmes informatiques de l'UE doivent être conformes |
3. Qui est soumis aux règles applicables aux systèmes à haut risque ?
Fournisseurs
Toute personne physique ou morale plaçant un système d'IA à haut risque sur le marché de l'UE ou le mettant en service sous son propre nom ou sa propre marque.
Obligations essentielles : gestion des risques, gouvernance des données, documentation technique, exactitude/robustesse/cybersécurité, conception permettant la surveillance humaine, enregistrement dans la base de données de l'UE, évaluation de la conformité, marquage CE (pour les systèmes relevant de l'annexe I).
Déployeurs
Toute personne utilisant un système d'IA à haut risque sous son autorité dans un contexte professionnel.
Obligations essentielles : mettre en œuvre les instructions du fournisseur, assurer la surveillance humaine, surveiller les performances, ne pas utiliser le système à des fins autres que sa destination prévue, tenue des journaux.
Devenir fournisseur (art. 25(1))
Bien que le fournisseur initial soit en principe responsable de l'auto-évaluation, le projet met en garde contre le fait que des distributeurs, importateurs ou déployeurs peuvent hériter de l'ensemble des obligations incombant au « fournisseur ».
Trois circonstances transforment un distributeur, un importateur ou un déployeur en fournisseur, avec l'intégralité des obligations correspondantes :
- Apposer son propre nom ou sa propre marque sur un système à haut risque déjà présent sur le marché
- Apporter une modification substantielle à un système à haut risque
- Modifier la destination prévue d'un système non classé à haut risque de manière à le rendre à haut risque
Pour les intégrateurs de systèmes d'IA à usage général (GPAI) : Si vous développez une application en aval d'un modèle GPAI et que votre destination prévue inclut un cas d'usage à haut risque, vous pouvez devenir fournisseur d'un système à haut risque, même si le fournisseur du modèle GPAI sous-jacent ne l'est pas.
4. Les deux scenarios de qualification à haut risque
Au titre du règlement sur l'IA, un système d'IA est qualifié de « haut risque » s'il entre dans l'un des deux scénarios juridiques spécifiques définis à l'article 6 :
Composantes de sécurité et produits réglementés (article 6(1)) : Ce scénario s'applique si le système d'IA est lui-même un produit ou une composante de sécurité d'un produit couvert par la législation d'harmonisation de l'UE figurant à l'annexe I (par exemple, les machines, les jouets ou les dispositifs médicaux) et doit faire l'objet d'une évaluation de conformité par un tiers.
Cas d'usage spécifiques (article 6(2)) : Ce scénario s'applique si le système d'IA relève des domaines à haut risque énumérés à l'annexe III du règlement sur l'IA.
Afin de rendre ces règles plus accessibles, la Commission a publié les lignes directrices en chapitres distincts et accessibles, consacrés respectivement aux Principes généraux, à l'annexe I et à l'annexe III.
5. Éléments clés de l'évaluation à haut risque
Avant qu'un système puisse être soumis aux exigences rigoureuses applicables à l'IA à haut risque, plusieurs critères de seuil doivent être remplis :
Il doit s'agir d'un « système d'IA » : Seuls les systèmes répondant à la définition de l'article 3(1) — c'est-à-dire les systèmes basés sur des machines, conçus pour l'autonomie et l'inférence, qui influencent des environnements — sont couverts.
La force de la « destination prévue » : La classification dépend largement de la manière dont le fournisseur définit l'usage du système dans les instructions, les supports de vente et la documentation technique. Le simple fait d'indiquer dans les conditions d'utilisation que « l'usage à haut risque est interdit » est insuffisant si les capacités réelles du système et sa commercialisation suggèrent le contraire.
Prévention du contournement : Les fournisseurs ne peuvent éviter une qualification à haut risque en indiquant simplement dans leurs conditions d'utilisation que « l'usage à haut risque est interdit » si leur stratégie commerciale globale ou les capacités réelles du système en promeuvent effectivement un tel usage.
Conseil : Ne vous appuyez pas sur une simple clause de non-responsabilité pour échapper à la catégorie à haut risque. Les autorités de régulation examineront ensemble votre documentation technique, vos supports de communication, vos instructions et vos conditions générales. Si l'image d'ensemble oriente vers un usage à haut risque, la clause de non-responsabilité ne vous protégera pas.
- Définition des « composantes de sécurité » : Un système d'IA est une composante de sécurité s'il remplit une fonction de sécurité (par exemple, détecter la présence d'un être humain sur la trajectoire d'un robot pour déclencher un arrêt) ou si sa défaillance met en danger la santé et la sécurité des personnes ou des biens.
6. Évaluation des systèmes d'IA complexes et agentiques
La Commission précise que lorsque plusieurs composants d'IA influencent conjointement une décision individuelle dans un cas d'usage relevant de l'annexe III, la configuration combinée doit être évaluée en tant que système d'IA unique.
Cela est particulièrement pertinent pour les systèmes d'IA multi-composants et « agentiques » qui coordonnent des actions liées en vue d'une finalité à haut risque. Les fournisseurs ne peuvent pas éviter la qualification à haut risque en fragmentant un flux de travail en modules distincts, si le système global influence matériellement une décision pertinente.
7. Le « mécanisme de filtrage » de l'article 6(3)
L'article 6(3) prévoit un « mécanisme de filtrage » permettant d'exempter les systèmes ne présentant pas de risques significatifs, mais la Commission en interprète cette exception de manière restrictive.
Ce mécanisme permet d'exempter un système de la qualification à haut risque lorsqu'il ne présente pas de risque significatif de préjudice, notamment lorsqu'il :
- Accomplit une tâche procédurale étroite (par exemple, indexation, mise en forme, déduplication)
- Améliore le résultat d'une activité humaine déjà achevée
- Accomplit une tâche préparatoire à une évaluation (par exemple, vérification factuelle ou planification)
Exception au mécanisme de filtrage : Tout système qui effectue un profilage de personnes physiques ne peut jamais bénéficier de ce mécanisme de filtrage et est toujours qualifié à haut risque.
Le seuil déterminant est celui de savoir si le système influence matériellement la substance ou l'issue d'une décision.
Règle critique : Le mécanisme de filtrage n'est jamais applicable lorsque le système d'IA effectue un profilage (traitement automatisé de données à caractère personnel visant à évaluer des aspects personnels de personnes physiques, au sens de l'art. 4(4) du RGPD). Les systèmes de profilage dans les domaines relevant de l'annexe III sont toujours à haut risque.
Ainsi, tout système qui effectue un profilage de personnes physiques ne pourra jamais bénéficier de ce mécanisme de filtrage et sera toujours qualifié à haut risque.
8. Les huit domaines à haut risque de l'annexe III
| Domaine | Pourquoi à haut risque | À qui s'applique-t-il | Exemple |
|---|---|---|---|
| 1. Biométrie | Traite des données biométriques sensibles ; risques de discrimination, de surveillance illicite ou d'identification erronée avec des conséquences graves sur les droits et libertés individuels. | Fournisseurs de systèmes d'identification biométrique à distance, et d'IA utilisée à des fins de catégorisation biométrique ou de reconnaissance des émotions en milieu professionnel ou éducatif. | Un système de reconnaissance faciale utilisé par un employeur pour contrôler l'accès aux locaux doit être enregistré et faire l'objet d'une évaluation de conformité. |
| 2. Infrastructures critiques | Les défaillances peuvent perturber à grande échelle des services essentiels (énergie, eau, transport, finance), faisant peser un risque systémique sur des populations entières. | Fournisseurs et opérateurs déployant l'IA en tant que composante de sécurité dans les infrastructures numériques critiques ou gérant la circulation routière, l'alimentation en eau, en gaz, en chaleur ou en électricité. | Un système d'IA gérant l'équilibrage de charge d'un réseau électrique national (une défaillance pourrait provoquer des pannes généralisées affectant des millions de personnes). |
| 3. Éducation et formation professionnelle | Détermine l'accès à l'éducation et les trajectoires de vie ; des résultats biaisés ou erronés peuvent restreindre illicitement les opportunités d'apprentissage et les parcours professionnels. | Fournisseurs d'IA utilisée pour déterminer l'accès aux établissements d'enseignement, évaluer les résultats d'apprentissage ou surveiller les étudiants lors des examens. | Un système de notation automatisé classant les candidats à l'université sur la base de lettres de motivation (des erreurs pourraient injustement exclure des candidats qualifiés). |
| 4. Emploi et gestion des travailleurs | Affecte directement les moyens de subsistance ; les outils algorithmiques de recrutement et de surveillance peuvent perpétuer des discriminations et éliminer toute surveillance humaine significative des décisions à fort enjeu. | Fournisseurs d'IA utilisée pour le recrutement, le filtrage de CV, l'évaluation des performances, l'attribution des tâches ou la surveillance du comportement des employés. | Un outil RH présélectionnant des CV pour des entretiens d'embauche : s'il est entraîné sur des données historiquement biaisées, il peut systématiquement exclure des groupes protégés. |
| 5. Services essentiels et prestations sociales | Les décisions relatives au crédit, à l'assurance et aux prestations sociales ont un impact fondamental sur le bien-être ; des erreurs peuvent priver de l'accès à des ressources vitales. | Fournisseurs d'IA évaluant l'éligibilité au crédit, à l'assurance, aux prestations sociales publiques, à la priorisation des interventions d'urgence, ou à l'évaluation du risque en matière d'assurance vie/santé. | Un modèle de notation de crédit bancaire approuvant ou rejetant automatiquement des demandes de prêt personnel (un modèle défaillant pourrait refuser un crédit sur la base de variables proxy). |
| 6. Application de la loi | Le pouvoir coercitif de l'État soutenu par l'IA présente des risques aigus pour la liberté, la présomption d'innocence et la non-discrimination, notamment lorsque les résultats éclairent des arrestations ou des enquêtes. | Fournisseurs d'IA utilisée par les services répressifs pour évaluer le risque de récidive, prédire la criminalité, détecter les émotions lors d'auditions ou évaluer la fiabilité des preuves. | Un outil de police prédictive attribuant des scores de risque à des individus pour recommander le déploiement de patrouilles (les erreurs risquent de conduire à un ciblage discriminatoire de certaines communautés). |
| 7. Migration, asile et contrôle des frontières | Les décisions affectent des droits fondamentaux (droit d'asile, non-refoulement, unité familiale) pour des personnes vulnérables disposant de peu de recours ; les erreurs peuvent causer des préjudices irréversibles. | Fournisseurs d'IA utilisée par les autorités migratoires ou frontalières pour évaluer le risque de migration irrégulière, vérifier des documents, traiter des demandes de visa ou d'asile, ou surveiller les frontières. | Un outil d'IA évaluant la crédibilité du récit d'un demandeur d'asile pour recommander l'approbation ou le rejet (un faux négatif pourrait entraîner un renvoi vers un pays de persécution). |
| 8. Administration de la justice et démocratie | L'influence de l'IA sur les décisions judiciaires ou les processus démocratiques menace l'état de droit, le droit à un procès équitable et la liberté des élections. | Fournisseurs d'IA assistant les tribunaux, les organes d'arbitrage ou les autorités électorales — y compris les outils de recherche jurisprudentielle, de recommandation de peines ou d'aide à l'administration électorale. | Un outil de recherche juridique utilisé par des juges pour synthétiser la jurisprudence et suggérer des principes de détermination de la peine (des résultats biaisés risquent de fausser systématiquement les décisions judiciaires). |
9. Focus sur l'emploi et la gestion des travailleurs
Interprétation extensive du recrutement et de la sélection
La section relative au domaine 4 de l'annexe III (Emploi) adopte une interprétation large du recrutement, couvrant l'ensemble du processus de préparation d'une nouvelle relation de travail.
- Systèmes concernés : cela inclut les IA utilisées pour cibler des offres d'emploi, sourcer des candidats sur plusieurs plateformes, filtrer et classer des CV, effectuer des vérifications d'antécédents, et déterminer l'accès au travail indépendant.
- Travailleurs de plateformes : Les systèmes qui classent les indépendants ou les travailleurs de plateformes entrent dans la catégorie à haut risque, car ils conditionnent l'accès aux missions futures et aux moyens de subsistance.
- Exclusions du côté des candidats : En revanche, les outils destinés à être initiés et contrôlés par le candidat lui-même (par exemple, une IA aidant un individu à améliorer son CV ou à identifier des offres d'emploi adaptées) sont en principe exclus du cas d'usage de recrutement à haut risque.
Lecture fonctionnelle de la gestion en milieu de travail
Pour la gestion des relations de travail existantes (annexe III, 4(b)), les lignes directrices adoptent une lecture fonctionnelle centrée sur l'impact sur le travailleur.
- Décisions à haut risque : Les systèmes d'IA sont concernés s'ils sont utilisés pour prendre des décisions affectant les conditions de travail, la promotion, la résiliation du contrat, l'attribution des tâches ou l'évaluation des performances. Cela s'applique même lorsqu'un responsable humain prend formellement la décision finale mais s'appuie significativement sur le résultat de l'IA.
- Seuil opérationnel : Toutes les adaptations managériales quotidiennes ne sont pas concernées. Les ajustements organisationnels mineurs qui n'affectent pas matériellement les droits, les obligations ou les perspectives de carrière des travailleurs (tels que l'attribution d'un bureau spécifique ou d'une heure de pause déjeuner dans le cadre d'un horaire assigné) ne sont pas automatiquement traités comme à haut risque.
10. Conséquences de la qualification à haut risque
Pour les fournisseurs
Si un système d'IA est qualifié à haut risque, les fournisseurs doivent se conformer à l'ensemble des obligations suivantes (chapitre III, section 2 du règlement sur l'IA) :
| Obligation | Résumé |
|---|---|
| Système de gestion des risques (art. 9) | Identification et atténuation continues et itératives des risques tout au long du cycle de vie |
| Gouvernance des données (art. 10) | Les jeux de données d'entraînement, de validation et de test doivent répondre à des critères de qualité ; identification et atténuation des biais |
| Documentation technique (art. 11) | Documentation complète avant la mise sur le marché ; tenue à jour |
| Tenue de registres / journalisation (art. 12) | Journalisation automatique permettant l'auditabilité a posteriori |
| Transparence envers les déployeurs (art. 13) | Instructions d'utilisation couvrant les capacités, les limites et les exigences de surveillance humaine |
| Surveillance humaine (art. 14) | Le système doit être conçu pour permettre une intervention humaine significative, une surveillance, une dérogation et un arrêt |
| Exactitude, robustesse, cybersécurité (art. 15) | Niveaux de performance déclarés ; résilience aux erreurs, aux défaillances, aux incohérences et aux attaques adversariales |
| Évaluation de la conformité (art. 43) | Interne (auto-évaluation du fournisseur) ou par un tiers, selon le type ; avant la mise sur le marché |
| Enregistrement dans la base de données de l'UE (art. 71) | Enregistrement requis avant la mise sur le marché (pour la plupart des systèmes) |
| Marquage CE (art. 48) | Obligatoire pour les systèmes couverts par l'annexe I |
| Surveillance post-commercialisation (art. 72) | Surveillance continue après le déploiement |
\
Pour les déployeurs
Les déployeurs doivent :
- Utiliser le système uniquement dans le cadre de sa destination prévue et conformément aux instructions
- Mettre en œuvre les mesures de surveillance humaine spécifiées par le fournisseur
- Assurer la formation du personnel concerné
- Surveiller les performances et signaler les incidents graves
- Ne pas traiter de données biométriques au-delà de ce que le fournisseur autorise
Nous actualiserons cette analyse avec un examen plus approfondi, incluant les éventuelles modifications substantielles du projet et leurs implications pratiques pour les fournisseurs et les déployeurs.