Récital 110
Les modèles d'IA à usage général pourraient présenter des risques systémiques qui incluent, sans s'y limiter, tout effet négatif réel ou raisonnablement prévisible en rapport avec des accidents majeurs, des perturbations de secteurs critiques et des conséquences graves pour la santé et la sécurité publiques ; tout effet négatif réel ou raisonnablement prévisible sur les processus démocratiques, la sécurité publique et économique ; la diffusion de contenus illégaux, faux ou discriminatoires. Il faut comprendre que les risques systémiques augmentent avec les capacités et la portée du modèle, qu'ils peuvent survenir tout au long du cycle de vie du modèle et qu'ils sont influencés par les conditions d'utilisation abusive, la fiabilité du modèle, l'équité et la sécurité du modèle, le niveau d'autonomie du modèle, son accès aux outils, les modalités nouvelles ou combinées, les stratégies de diffusion et de distribution, la possibilité de supprimer les garde-fous et d'autres facteurs. En particulier, les approches internationales ont jusqu'à présent mis en évidence la nécessité de prêter attention aux risques liés à une éventuelle mauvaise utilisation intentionnelle ou à des problèmes de contrôle involontaires liés à l'alignement sur l'intention humaine ; aux risques chimiques, biologiques, radiologiques et nucléaires, tels que les moyens par lesquels les barrières à l'entrée peuvent être abaissées, y compris pour le développement, la conception, l'acquisition ou l'utilisation d'armes ; aux cybercapacités offensives, telles que les moyens par lesquels la découverte, l'exploitation ou l'utilisation opérationnelle de la vulnérabilité peuvent être rendues possibles ; aux effets de l'interaction et de l'utilisation d'outils, y compris, par exemple, la capacité de contrôler des systèmes physiques et d'interférer avec des infrastructures critiques ; les risques que les modèles fassent des copies d'eux-mêmes, s'auto-reproduisent ou entraînent d'autres modèles ; la manière dont les modèles peuvent donner lieu à des préjugés et à des discriminations préjudiciables, avec des risques pour les individus, les communautés ou les sociétés ; la facilitation de la désinformation ou l'atteinte à la vie privée, avec des menaces pour les valeurs démocratiques et les droits de l'homme ; le risque qu'un événement particulier entraîne une réaction en chaîne avec des effets négatifs considérables pouvant affecter une ville entière, une activité de domaine entière ou une communauté entière.