Récital 42
Conformément à la présomption d'innocence, les personnes physiques dans l'Union devraient toujours être jugées sur leur comportement réel. Les personnes physiques ne devraient jamais être jugées sur un comportement prédit par l'IA sur la seule base de leur profil, de leurs traits de personnalité ou de leurs caractéristiques, telles que la nationalité, le lieu de naissance, le lieu de résidence, le nombre d'enfants, le niveau d'endettement ou le type de voiture, sans qu'il y ait un soupçon raisonnable que cette personne soit impliquée dans une activité criminelle sur la base de faits objectifs vérifiables et sans évaluation humaine de ces faits. Par conséquent, il convient d'interdire les évaluations des risques effectuées à l'égard de personnes physiques afin d'évaluer la probabilité qu'elles commettent une infraction ou de prévoir la survenance d'une infraction pénale réelle ou potentielle, en se fondant uniquement sur le profilage de ces personnes ou sur l'évaluation de leurs traits de personnalité et de leurs caractéristiques. En tout état de cause, cette interdiction ne concerne pas les analyses de risque qui ne sont pas fondées sur le profilage des personnes ou sur les traits de personnalité et les caractéristiques des personnes, telles que les systèmes d'intelligence artificielle utilisant des analyses de risque pour évaluer la probabilité de fraude financière par des entreprises sur la base de transactions suspectes ou les outils d'analyse de risque pour prédire la probabilité de localisation de stupéfiants ou de marchandises illicites par les autorités douanières, par exemple sur la base d'itinéraires de trafic connus.