XXIe Congrès international
de droit pénal 2024
Le XXIe Congrès international de l’Association internationale de droit pénal (AIDP/IAPL) sur le thème « Intelligence artificielle et droit pénal » s’est tenu à Paris, en France, du 25 au 28 juin 2024.
Organisé par l’AIDP/IAPL, ce congrès a réuni des juristes, des universitaires et des professionnel(le)s de haut niveau pour discuter et échanger sur le droit pénal et l’intelligence artificielle. L’événement était placé sous le Haut Patronage de M. Emmanuel MACRON, Président de la République française.
Pour plus d’informations :
Site web officiel – Version anglaise
Site web officiel – Version française
Programme
Note conceptuelle
Concept et sections
Concept et sections
Le droit pénal, au sens large, ne peut plus ignorer l’IA et les défis qui y sont liés. Une réflexion approfondie sur la compatibilité, la mesure et les conditions d’utilisation des systèmes d’IA en justice pénale avec les principes fondamentaux de nos systèmes ne peut plus être différée.
Une question clé derrière les problèmes juridiques liés à l’IA semble être de savoir si l’IA relève de certaines catégories existantes (selon le contexte : personnes morales, enfants, enfants soldats, armes, voire animaux, etc.) ou s’il s’agit d’un phénomène si inédit qu’il requiert de nouvelles catégories et de nouveaux principes.
Compte tenu de la nature du sujet et du fait incontestable que « les développements technologiques ont largement dépassé les débats juridiques ou politiques » qui l’entourent (Ferguson), une approche interdisciplinaire forte est nécessaire : praticien(ne)s, chercheur(e)s d’autres branches du droit, expert(e)s d’autres domaines que le droit (programmeur(-euse)s en IA, bioéthicien(ne)s, criminologues, scientifiques, analystes criminels, etc.).
Problématique générale
Problématique générale
Qu’est-ce que l’IA? Il n’existe pas de définition universellement acceptée. La définition de la Commission européenne constitue un point de référence utile:
- systèmes qui affichent un comportement intelligent en analysant leur environnement et en agissant – avec un certain degré d’autonomie – pour atteindre des objectifs spécifiques. Les systèmes basés sur l’IA peuvent être purement logiciels et opérer dans le monde virtuel (par exemple, assistants vocaux, logiciels d’analyse d’images, moteurs de recherche, systèmes de reconnaissance vocale et faciale), ou intégrés à des dispositifs matériels (par exemple, robots avancés, voitures autonomes, drones…).
- Les législateurs doivent suivre le rythme de l’innovation scientifique. La littérature pénale s’intéresse de plus en plus à cette question, car il est impératif de conceptualiser et de traiter les nombreuses questions juridiques posées par l’IA:
- Dans quelle mesure un crime commis par un système d’IA est-il imputable à un être humain ou à l’IA elle-même (si tant est que cela soit possible) ?
- Comment les systèmes d’IA peuvent-ils aider les services répressifs à prévenir et à combattre la criminalité ?
- Peut-on s’appuyer sur l’IA pour adopter des décisions en matière pénale ?
- Le XXIe Congrès international de droit pénal devrait aborder ces sujets en tenant compte des différents aspects de la justice pénale.
Section 1
Catégories traditionnelles du droit pénal et IA: crise ou palingénésie?
- Les catégories traditionnelles du droit pénal du volet général (droit pénal matériel) – notamment l’actus reus, la mens rea et la causalité – peuvent-elles s’appliquer aux crimes commis par/à travers des systèmes d’IA, ou doivent-elles être repensées (en profondeur) pour faire face aux défis à venir ?
- Par exemple : conduite autonome : en cas d’accident, qui est responsable ? Questions :
- Peut-on envisager une forme de responsabilité directe des systèmes d’IA ?
- Serait-il judicieux de « punir » une machine ?
- Si le système d’IA a été programmé dans l’intention de tuer ou de blesser des personnes, la personne qui l’a programmé devrait normalement en être responsable.
- Dans des scénarios moins clairs, la situation peut se compliquer : qui est responsable (fabricant(e), programmeur(-euse), utilisateur(-rice)) ? L’opérateur humain peut-il désactiver le système de conduite autonome ? Peut-on appliquer les modèles de « perpétration par un tiers » ou de « conséquence naturelle probable » ?
- Si l’accident résulte du processus d’apprentissage automatique du système d’IA, peut-on affirmer que cela a rompu la chaîne de causalité ?
Section 2
Infractions pénales anciennes et nouvelles: les systèmes d'IA comme instruments et victimes
- Partie spéciale du droit pénal matériel
- 1) Systèmes d’IA pour commettre des infractions « traditionnelles » ; et
- 2) « Nouveaux » crimes liés à l’IA ○ Crimes « traditionnels » utilisant l’IA : par exemple, le trafic de drogue, le terrorisme, la manipulation de marché et la fraude en ligne, notamment le « spear phishing », c’est-à-dire les escroqueries par courrier électronique ou par communication électronique ciblant une personne, une organisation ou une entreprise spécifique (Kaspersky) pour voler des données ou installer des logiciels malveillants.
- « Nouveaux » crimes liés à l’IA :
- L’IA victime de nouveaux crimes (par exemple, le piratage d’une voiture autonome).
- L’IA instrument de nouveaux crimes (par exemple, la création/diffusion de fausses informations).
- Interactions possibles entre l’IA et la cryptographie, en particulier les technologies qui s’appuient sur la cryptographie, comme la blockchain ; cette combinaison peut soulever des questions complexes car elle peut faciliter la commission de crimes existants ou nouveaux, et nécessiter des dispositions pénales ad hoc.
Section 3
IA et administration de la justice : Police prédictive et justice prédictive
- Droit procédural et administration de la justice :
- 1) Police prédictive ; et
- 2) Justice prédictive
- En traitant d’énormes quantités de données, l’IA peut prédire :
- où et quand les crimes sont susceptibles d’être commis, et même par qui dans certains cas (police prédictive) – PredPol (États-Unis), Precobs (certains États de l’UE)
- si un(e) suspect(e) ou un(e) accusé(e) est susceptible de fuir ou de commettre de nouveaux crimes. Ainsi, les tribunaux pénaux peuvent refuser la mise en liberté sous caution ou imposer des peines sévères (justice prédictive) – COMPAS et l’affaire Loomis de la Cour suprême du Wisconsin.
- Quelques questions se posent :
- Les instruments de police prédictive sont-ils réellement utiles pour prévenir la criminalité ?
- Les prédictions violent-elles les droits humains (par exemple, la présomption d’innocence) ?
- Le résultat des instruments prédictifs est-il neutre, objectif et impartial ?
- Quel est l’impact des méthodes prédictives sur l’administration de la justice et le rôle des pouvoirs publics ?
- L’IA peut-elle remplacer les tribunaux pénaux et les jurys ?
Section 4
Perspectives internationales sur l’IA : Défis pour la coopération judiciaire et le droit international humanitaire/pénal
- Implications internationales de l’utilisation des systèmes d’IA. En particulier, l’impact de l’IA sur :
- a) la collecte de preuves, notamment sous l’angle de la coopération internationale ; et
- b) le droit international humanitaire (DIH) et le droit pénal international (DPI), concernant l’utilisation de robots en temps de guerre
- L’IA à des fins de maintien de l’ordre : analyse d’ADN ou de profils sur les réseaux sociaux, identification de fausses œuvres d’art, reconnaissance faciale, localisation d’événements et de lieux, etc.
- Questions relatives au droit à un procès équitable concernant les preuves obtenues par l’IA :
- L’accusé peut-il contester la manière dont les preuves ont été recueillies ?
- Le recours à l’IA signifiera-t-il la fin du principe d’égalité des armes ?
- Des questions similaires sont encore plus complexes dans le cadre de la coopération transfrontalière.
- Les instruments de coopération pénale existants permettent-ils de garantir de manière satisfaisante l’échange, la recevabilité et l’utilisation des preuves liées à l’IA? Une approche coordonnée à l’échelle internationale est-elle nécessaire ?
- D’autre part, l’IA peut-elle faciliter la coopération judiciaire ?
- Système d’arme autonome (SAA) (ou robot tueur) : « un système d’arme qui, sur la base de conclusions tirées d’informations recueillies et de contraintes préprogrammées, est capable de sélectionner et d’engager une cible de manière autonome » (Crootof)
- Question du droit à la guerre : en raison de la « déshumanisation », les SAA augmentent-ils le risque de guerres futures ?
- Question du droit à la guerre : les SAA augmentent-ils les risques de violation des principes de distinction et de proportionnalité ? Causent-ils des blessures superflues ou des souffrances inutiles, et devraient-ils donc être interdits ?
- En cas de crimes internationaux commis par des armes nucléaires, qui est responsable ? Risques d’« irresponsabilité organisée » (Wagner)
- Une approche internationale est-elle nécessaire ? Par exemple, une interdiction absolue de l’utilisation des armes nucléaires en temps de guerre, au moins tant que leur utilisation risque de ne pas être conforme aux principes et règles fondamentaux du DIH, ou un accord international réglementant le développement et l’utilisation des armes nucléaires ?