Recital 44
Existen serias dudas sobre la base científica de los sistemas de IA que pretenden identificar o inferir emociones, sobre todo porque la expresión de las emociones varía considerablemente entre culturas y situaciones, e incluso dentro de un mismo individuo. Entre las principales deficiencias de estos sistemas se encuentran su escasa fiabilidad, su falta de especificidad y su limitada generalizabilidad. Por lo tanto, los sistemas de IA que identifican o infieren emociones o intenciones de las personas físicas sobre la base de sus datos biométricos pueden dar lugar a resultados discriminatorios y pueden ser intrusivos para los derechos y libertades de las personas afectadas. Teniendo en cuenta el desequilibrio de poder en el contexto del trabajo o la educación, combinado con la naturaleza intrusiva de estos sistemas, tales sistemas podrían conducir a un trato perjudicial o desfavorable de determinadas personas físicas o grupos enteros de ellas. Por consiguiente, debe prohibirse la comercialización, la puesta en servicio o el uso de sistemas de IA destinados a ser utilizados para detectar el estado emocional de las personas en situaciones relacionadas con el trabajo y la educación. Esta prohibición no debe aplicarse a los sistemas de IA comercializados por razones estrictamente médicas o de seguridad, como los sistemas destinados a uso terapéutico.