Erwägungsgrund 42
Im Einklang mit der Unschuldsvermutung sollten natürliche Personen in der Union immer nach ihrem tatsächlichen Verhalten beurteilt werden. Natürliche Personen sollten niemals aufgrund eines von der KI vorhergesagten Verhaltens beurteilt werden, das allein auf ihrem Profil, ihren Persönlichkeitsmerkmalen oder Eigenschaften wie Staatsangehörigkeit, Geburtsort, Wohnort, Anzahl der Kinder, Verschuldungsgrad oder Fahrzeugtyp beruht, ohne dass ein begründeter Verdacht besteht, dass die betreffende Person in eine kriminelle Tätigkeit verwickelt ist, die auf objektiven, überprüfbaren Tatsachen beruht, und ohne dass dies von Menschen beurteilt wird. Daher sollten Risikobewertungen natürlicher Personen zur Einschätzung der Wahrscheinlichkeit einer Straftat oder zur Vorhersage einer tatsächlichen oder potenziellen Straftat, die ausschließlich auf der Erstellung von Profilen oder der Bewertung von Persönlichkeitsmerkmalen und -eigenschaften beruhen, verboten werden. In jedem Fall bezieht sich dieses Verbot nicht auf Risikoanalysen, die nicht auf der Erstellung von Profilen von Personen oder auf Persönlichkeitsmerkmalen und -eigenschaften von Personen beruhen, wie etwa KI-Systeme, die Risikoanalysen verwenden, um die Wahrscheinlichkeit von Finanzbetrug durch Unternehmen auf der Grundlage verdächtiger Transaktionen zu bewerten, oder Risikoanalyseinstrumente zur Vorhersage der Wahrscheinlichkeit der Lokalisierung von Betäubungsmitteln oder illegalen Waren durch die Zollbehörden, beispielsweise auf der Grundlage bekannter Handelsrouten.