Publicité en cours de chargement...

Publicité en cours de chargement...

Intelligence artificielle, les premières échéances

25 mars 2025 - 07:28,
Tribune-
Marguerite Brac de La Perrière

Écouter l'article

0:000:00
Illustration Intelligence artificielle, les premières échéances
Attendu depuis des années, dans le contexte d'une adoption déjà massive des systèmes d'IA en santé, notamment en imagerie et en biologie, mais aussi dans le cadre des recherches, et plus généralement du pilotage des activités, le règlement sur l'intelligence artificielle du 13 août 2024 est entré en vigueur le 2 août 2024, avec pour objectifs (i) d'établir un cadre juridique uniforme, en particulier pour le développement, la mise sur le marché, la mise en service et l’utilisation des systèmes d’IA dans le respect des valeurs de l’Union, (ii) de promouvoir l’adoption de l'IA axée sur l’humain et digne de confiance tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux, (iii) de protéger contre les effets néfastes des systèmes d’IA dans l’Union, et (iv) de soutenir l’innovation.

Une entrée progressive en application est prévue, avec des échéances comprises entre le 2 février dernier et le 2 août 2027, dont les premières sont déjà intervenues.

Maîtrise de l'IA

 Le 2 février 2025 sont entrées en application les dispositions portant obligation de "maîtrise de l'IA" imposant aux fournisseurs et déployeurs de systèmes d'IA à prendre des mesures pour garantir, dans toute la mesure du possible, un niveau suffisant de maîtrise de l’IA pour leur personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation des systèmes d’IA pour leur compte, en prenant en considération leurs connaissances techniques, leur expérience, leur éducation et leur formation, ainsi que le contexte dans lequel les systèmes d’IA sont destinés à être utilisés, et en tenant compte des personnes ou des groupes de personnes à l’égard desquels les systèmes d’IA sont destinés à être utilisés.

A ce titre, il appartient à toutes les organisations de :

- mettre en œuvre des sessions de sensibilisation et formation du personnel, en sous-groupes, afin de tenir compte de leurs profils, et

- de mettre en place une documentation de nature à permettre la maîtrise de l'IA, a minima une AI Policy, ou Charte IA, et d'assurer son opposabilité auprès du personnel.

Pratiques interdites

Le 2 février 2025 également, ce sont les pratiques interdites en matière d'IA qui doivent être identifiées et bannies des organisations.

Leur mise sur le marché, mise en service ou utilisation sont proscrites, ces activités devant être appréciées de manière extensive selon les guidelines publiées par la Commission. En effet, et à titre d'exemples, le champ d'application matériel de l'IA Act couvre les pratiques liées à la mise sur le marché, la mise en service et l'utilisation, quel que soit le moyen de fourniture, à titre onéreux ou gratuit, en vue de sa première utilisation telle que destinée par le fournisseur. Dans le même sens, l'utilisation doit être comprise comme incluant toute utilisation abusive d'un système d'IA, "raisonnablement prévisible" ou non.  Les pratiques d'IA interdites doivent être considérées en relation avec systèmes d'IA classés à haut risque, les derniers pouvant constituer des IA interdites et inversement selon leurs caractéristiques spécifiques, selon l'évaluation et la gestion des risques réalisées par le fournisseur.

Cette interdiction des IA à risques inacceptables suppose ainsi, au sein de chaque organisation constituant un déployeur, une cartographie des IA et la qualification des systèmes d'IA au regard des dispositions de l'IA Act et de ces éclairages.

Le non-respect de l’interdiction des pratiques en matière d’IA fait l’objet des plus lourdes amendes administratives prévues à l'IA Act, pouvant aller jusqu’à 35 000 000 EUR ou jusqu’à 7 % de son chiffre d’affaires annuel mondial total réalisé au cours de l’exercice précédent, le montant le plus élevé étant retenu. Si à date, l'autorité de contrôle n'est pas encore désignée, il est conseillé de gravir les marches de l'IA Act dès à présent.

Pour les échéances suivantes, et l'implémentation des exigences et obligations, la suite dans quelques semaines…

photo de Brac de La Perrière
Marguerite Brac de La Perrière

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Le GHT Hôpitaux de Provence optimise ses flux patients avec la solution M-SESAME de Maincare

Le GHT Hôpitaux de Provence optimise ses flux patients avec la solution M-SESAME de Maincare

24 avril 2025 - 10:06,

Communiqué

- Maincare

Le GHT Hôpitaux de Provence, un des groupements hospitaliers les plus importants de France avec 13 établissements et un bassin de 2 millions d’habitants, a choisi la solution M-SESAME, développée par Atout Majeur Concept, distribuée et intégrée par Maincare, pour répondre à ses besoins en matière de...

Illustration Webinaire – Coordination & Automatisation : La nouvelle gestion du travail des hôpitaux avec l’AP-HP

Webinaire – Coordination & Automatisation : La nouvelle gestion du travail des hôpitaux avec l’AP-HP

14 avril 2025 - 22:20,

Communiqué

Dans un contexte de transformation numérique et d’optimisation des ressources, les établissements de santé doivent relever des défis de plus en plus complexes : multiplication des projets transverses, dispersion des outils, surcharge administrative et difficultés de coordination entre directions mét...

Illustration L’Appli carte Vitale désormais accessible via France Identité

L’Appli carte Vitale désormais accessible via France Identité

24 mars 2025 - 20:59,

Actualité

- DSIH, Damien Dubois

Le 18 mars, l’Assurance Maladie a annoncé une avancée majeure dans la dématérialisation de la carte Vitale. Désormais, l’Appli carte Vitale est accessible à tous les utilisateurs de France Identité sur l’ensemble du territoire français.

Illustration Un parcours numérique fictif en santé mentale à Dijon

Un parcours numérique fictif en santé mentale à Dijon

31 mars 2025 - 20:56,

Actualité

- DSIH, Damien Dubois

Fin mars, l’Agence du numérique en santé annonçait la tenue d’un second parcours fictif en santé mentale en région afin d’observer les bénéfices concrets et les axes d’amélioration des outils numériques.

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.