Définition
Le terme système d’intelligence artificielle (ou système d’IA) est défini à l’article 3(1) du Règlement européen sur l’intelligence artificielle (AI Act).
Cette notion est importante, car seuls les systèmes qui répondent à la définition d'un système d'IA au sens de cet article, sont soumis aux exigences du Règlement.
Tenant compte de la rapidité d'évolution de la technologie, il est important de préciser que la définition de cette notion reste souple et ne doit pas être appliquée mécaniquement : chaque système doit être évalué au cas par cas, en fonction de ses caractéristiques propres.
Selon l'article 3.1 du Règlement sur l'intelligence artificielle (RIA), un système d'intelligence artificielle (système IA ou SIA) est défini comme suit : un système basé sur une machine conçu pour fonctionner avec différents niveaux d'autonomie, qui peut s'adapter après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des données qu'il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels.
Donc, un système d’IA est décrit comme un système basé sur une machine, conçu pour fonctionner avec différents niveaux d’autonomie (allant de systèmes entièrement contrôlés par l’humain à ceux pouvant prendre des décisions de manière indépendante), et pouvant faire preuve d’adaptabilité après son déploiement (par exemple en apprenant de nouvelles données ou en ajustant son comportement).
Critères pour définir un système d'IA au sens de l'AI Act
Selon les lignes directrices de la Commission européenne, qui viennent compléter cette définition, un système relève de la définition de l’IA au sens de l’AI Act s’il présente, à un moment de son cycle de vie (conception, développement ou utilisation), et donc pas nécessairement lors de chacune des phases, certains des éléments caractéristiques suivants :
1. Système automatisé basé sur une machine
Le système d’IA repose sur une infrastructure matérielle et logicielle (unités de calcul, mémoire, programmes informatiques) et fonctionne de manière automatisée. Sont également inclus les systèmes reposant sur des technologies émergentes (par ex. calcul quantique, systèmes biologiques ou organiques) dès lors qu’ils possèdent une capacité de traitement.
2. Niveaux d’autonomie variables
Un SIA peut fonctionner avec un degré d’autonomie plus ou moins élevé, c’est-à-dire avec une indépendance partielle vis-à-vis de l’intervention humaine. La définition exclut les systèmes entièrement contrôlés manuellement à chaque étape. L’autonomie est directement liée à la capacité du système à inférer des résultats à partir de données.
3. Capacité d’adaptation (facultative)
Un SIA peut adapter son comportement après son déploiement, par des mécanismes d’apprentissage automatique ou d’auto-ajustement. Toutefois, cette capacité n’est pas obligatoire pour qu’un système soit qualifié d’IA : un système non adaptatif peut relever de la définition dès lors qu’il satisfait aux autres critères.
4. Objectifs explicites ou implicites
Les SIA sont conçus pour atteindre des finalités déterminées :
Les objectifs explicites sont encodés directement par les concepteurs (par ex. maximisation d’une fonction de coût) ;
Les objectifs implicites peuvent émerger de l’apprentissage du système ou de ses interactions avec l’environnement.
Ces objectifs ne doivent pas être confondus avec l’usage prévu (intended purpose), qui renvoie à l’utilisation concrète du système dans un contexte donné.
5. Inférence des résultats (processus d’apprentissage ou de déduction)
Un critère central : le système utilise des techniques d’IA (apprentissage supervisé, non supervisé, renforcement, logique symbolique, approche fondée sur la connaissance, etc.) pour inférer des modèles ou des conclusions à partir de données d’entrée. Ce processus d’inférence intervient tant :
lors de la phase de conception (entraînement, modélisation),
que lors de la phase d’exploitation (génération des résultats).
6. Production de résultats spécifiques
Les SIA génèrent des sorties qui relèvent de l’une ou plusieurs des catégories suivantes :
Prédictions : estimer des valeurs inconnues à partir de données connues ;
Contenus : générer du texte, des images, de la musique (ex. IA générative) ;
Recommandations : proposer des actions ou des options sur la base de préférences ;
Décisions : automatiser des choix auparavant réalisés par des humains.
7. Influence sur des environnements
Les SIA produisent des effets concrets dans l’environnement physique (par ex. action mécanique, robotique) ou virtuel (ex. flux de données, décisions numériques). Le système n’est donc pas passif, mais agit sur son environnement à travers ses sorties.
Si l'IA remplit ces critères, alors ça devient un SIA au sens de l'AI Act qui doit respecter ses exigences. Sinon, le Règlement ne s'applique pas.
Composants d'un système IA :
Un système IA est une application plus large et plus complexe qui intègre un ou plusieurs modèles IA pour accomplir une tâche spécifique. Il englobe non seulement les modèles IA, mais aussi les composants nécessaires pour collecter, traiter, et analyser les données, ainsi que pour interagir avec les utilisateurs.
En d'autres termes, un système IA est une solution complète qui met en œuvre des modèles IA dans un cadre opérationnel.
- Modèles IA : Les algorithmes entraînés pour effectuer des prédictions ou des analyses.
- Collecte et traitement des données : Les processus permettant de rassembler et de préparer les données pour le modèle.
- Interface utilisateur : Les moyens par lesquels les utilisateurs interagissent avec le système, tels que les applications web ou mobiles.
- Infrastructure : Le matériel et les logiciels nécessaires pour faire fonctionner le système, comme les serveurs et les bases de données.
Exemple de système IA :
- Assistant virtuel : Comme Siri ou Alexa, qui utilise plusieurs modèles IA pour la reconnaissance vocale, la compréhension du langage naturel, et la génération de réponses, tout en intégrant des bases de données et des interfaces utilisateur pour interagir avec les utilisateurs.
- Systèmes de recommandation : Utilisés par des plateformes comme Netflix ou Amazon pour suggérer des contenus ou des produits, intégrant des modèles de filtrage collaboratif et de traitement des données d'utilisateur.
Distinction entre systèmes d’IA et logiciels traditionnels
Le considérant 12 explique que la définition des SIA devrait distinguer ces systèmes des systèmes logiciels ou approches de programmation traditionnels plus simples.
Le critère central permettant de distinguer un système d’intelligence artificielle (SIA) d’un logiciel traditionnel fondé sur des règles explicites réside dans la capacité d’inférence.
Alors que les logiciels classiques exécutent automatiquement des opérations sur la base de règles fixées à l’avance par des humains, les SIA sont conçus pour déduire par eux-mêmes (ou « inférer ») la manière de générer des sorties à partir des données d’entrée reçues.
Cette distinction repose sur plusieurs critères spécifiques :
• Origine des règles et de la logique appliquée
Les logiciels traditionnels reposent sur des règles fixes codées exclusivement par des personnes physiques, en vue d’exécuter des tâches déterminées.
Les SIA, en revanche, mobilisent des techniques telles que l’apprentissage automatique, l’approche logique ou fondée sur la connaissance symbolique, leur permettant d’extraire des règles ou des modèles à partir des données ou d’une base de connaissances codée.
• Présence de mécanismes d’apprentissage et de modélisation
Les systèmes classiques de traitement de données ne comportent aucune phase d’apprentissage, de raisonnement ni de modélisation, tout au long de leur cycle de vie.
Un SIA, au contraire, est caractérisé par la construction de modèles internes, souvent élaborés durant une phase spécifique d’entraînement ou de conception, ce qui lui permet de résoudre des tâches complexes non définies par des instructions fixes.
• Capacité à gérer la complexité
Les logiciels traditionnels sont conçus pour des tâches simples et stables, telles que le tri de données, l’utilisation de tableurs ou l’analyse descriptive.
Les SIA se distinguent par leur aptitude à traiter des relations complexes et des modèles de données dynamiques, leur permettant d’évoluer dans des environnements incertains et variables (ex. : conduite autonome, reconnaissance vocale).
• Degré d’autonomie opérationnelle
Un SIA fonctionne avec un niveau variable d’autonomie, c’est-à-dire avec un certain degré d’indépendance vis-à-vis de l’intervention humaine.
Les logiciels traditionnels suivent un enchaînement rigide « entrée humaine – sortie déterminée », tandis qu’un SIA peut produire des résultats non préalablement définis de manière explicite par un humain.
• Nature des heuristiques appliquées
Les systèmes fondés sur des heuristiques classiques (règles d’expérience ou algorithmes standards comme MiniMax en jeu d’échecs) sont exclus de la définition d’un SIA.
Ces approches, bien qu’automatisées, ne présentent ni capacité d’apprentissage fondée sur les données, ni adaptabilité.
• Niveau de sophistication des prédictions
Un système automatisé utilisant des règles statistiques élémentaires (ex. : calcul d’une moyenne historique pour prévoir les prix ou la météo) ne constitue pas un SIA.
Les SIA vont plus loin en identifiant des corrélations complexes et non linéaires, dépassant les simples modèles statistiques ou les règles d’optimisation classiques.
✅ En résumé
Un système qui exécute des opérations exclusivement selon des règles “si… alors…” écrites par un humain, sans capacité de modélisation des données ni d’inférence autonome, doit être considéré comme un logiciel traditionnel et non comme un système d’intelligence artificielle au sens du Règlement.
L’objectif du législateur européen est de fournir une définition suffisamment souple et technologique neutre pour encadrer l’ensemble des usages actuels et futurs de l’intelligence artificielle, tout en assurant un niveau élevé de protection des droits fondamentaux, de sécurité et de transparence.