La loi de l’UE sur l’intelligence artificielle et ses conséquences

La loi de l’UE sur l’IA apporte une clarté réglementaire sur l’utilisation de l’IA, même dans le domaine de la médecine. Cela implique de nouvelles obligations. Nous aidons clients et fabricants à les remplir.

Cela faisait cinq ans que le Parlement européen travaillait à la première législation au monde pour la mise sur le marché de produits utilisant l’intelligence artificielle (IA). Le texte de loi (Règlement (UE) 2024/1689)  a été publié en juillet 2024. L’objectif est de promouvoir une IA sûre et fiable dans l’Union européenne, y compris dans le domaine médical. À l’image du Règlement relatif aux dispositifs médicaux (MDR), la loi sur l’IA suit une approche basée sur les risques. Les types d’IA utilisés dans les dispositifs médicaux ne présentent pas tous un risque pour les humains et ne sont donc pas toutes soumis à des règles particulièrement strictes. Cependant, la loi sur l’IA classe automatiquement les produits de classe IIa ou supérieure selon le MDR dans la catégorie des « systèmes à haut risque » car leur utilisation peut potentiellement présenter un risque important pour la santé, la sécurité ou les droits fondamentaux. 

Quatre domaines d’action en ligne de mire

« Il en résulte non seulement pour les fabricants et les responsables de la mise sur le marché, mais aussi pour les utilisateurs et utilisatrices, des obligations dont ils doivent avoir conscience », affirme le Dr Marc Kämmerer, Directeur de notre département de gestion des innovations. On peut grossièrement distinguer quatre champs d’action : la gouvernance de la qualité des données revient encore clairement au fabricant. Il s’agit ici, entre autres, d’éviter les ensembles de données d’apprentissage incomplets, qui peuvent par exemple survenir lorsque, en raison d’un ensemble de données principalement recruté à partir d’études sur les hommes, le système d’apprentissage calcule un algorithme qui fournit des résultats cohérents uniquement pour la biologie masculine et non pour la biologie féminine. Une autre exigence concerne la minimisation des risques connus et prévisibles, par exemple le fait que des résultats faussement positifs deviennent le diagnostic officiel. Un troisième aspect est la garantie des performances adéquates du système qui se mesurent non seulement à la qualité des résultats, mais par exemple aussi au temps de traitement. Si les utilisateurs constatent des défauts à ce niveau, ils sont légalement tenus de les signaler au fabricant. 

Ils sont également sollicités dans le quatrième champ d’action qui concerne les informations et la formation des utilisateurs. « La loi sur l’IA exige que les utilisateurs sachent utiliser l’IA, notamment en ce qui concerne les risques et les limites de la pertinence des diagnostics », affirme Marc Kämmerer. De plus, il est important de comprendre qu’il est nécessaire de satisfaire à toutes ces exigences, tout au long du cycle de vie d’un système d’IA.

Les utilisateurs sont tenus de signaler les problèmes

Au cours des derniers mois, notre équipe s’est penchée sur les implications et interprétations potentielles de la loi sur l’IA, aussi bien en ce qui concerne les obligations respectives que les possibilités de soutien de la part des clients et partenaires. Par exemple, JiveX  pourra significativement contribuer à l’avenir à l’enregistrement du comportement d’utilisation des utilisateurs et à la qualité des résultats des systèmes d’IA, en ce qui concerne la surveillance post-commercialisation. Nos logiciels peuvent en outre fournir une contribution à bas seuil pour garantir la transmission de ces données de manière fiable et conforme au RGPD. Et Marc Kämmerer de souligner : « Même si de tels canaux n’existent pas, tous les utilisateurs d’IA sont tenus de signale les problèmes et anomalies des systèmes aux fabricants. » Son conseil : malgré le délai de la transition pour les systèmes à haut risque fixé au 1er août 2026, les fabricants, les responsables de la mise sur le marché et les utilisateurs devraient se familiariser suffisamment tôt avec les nouvelles obligations et les nécessités qui en découlent.

Vous pouvez lire ici le texte de la loi sur l’IA.