Récital 47

Les systèmes d'IA pourraient avoir un impact négatif sur la santé et la sécurité des personnes, en particulier lorsque ces systèmes fonctionnent comme des composants de sécurité des produits. Conformément aux objectifs de la législation d'harmonisation de l'Union visant à faciliter la libre circulation des produits dans le marché intérieur et à garantir que seuls des produits sûrs et par ailleurs conformes se retrouvent sur le marché, il est important que les risques de sécurité susceptibles d'être générés par un produit dans son ensemble en raison de ses composants numériques, y compris les systèmes d'IA, soient dûment prévenus et atténués. Par exemple, les robots de plus en plus autonomes, que ce soit dans le contexte de la fabrication ou de l'assistance et des soins à la personne, devraient pouvoir fonctionner en toute sécurité et remplir leurs fonctions dans des environnements complexes. De même, dans le secteur de la santé, où les enjeux pour la vie et la santé sont particulièrement élevés, les systèmes de diagnostic de plus en plus sophistiqués et les systèmes d'aide à la décision humaine doivent être fiables et précis.

Le présent considérant concerne

Article 6 : Règles de classification des systèmes d'IA à haut risque

Annexe I : Liste de la législation d'harmonisation de l'Union