XXI Congreso Internacional
de Derecho Penal 2024
El XXI Congreso Internacional de la Asociación Internacional de Derecho Penal (AIDP/IAPL) sobre Inteligencia Artificial y Derecho Penal se celebró en París, Francia, del 25 al 28 de junio de 2024.
Este congreso, organizado por la AIDP/IAPL, reunió a destacados juristas, académicos y profesionales para debatir e intercambiar ideas sobre derecho penal e inteligencia artificial. El evento contó con el patrocinio del Sr. Emmanuel Macron, presidente de la República Francesa.
Para más información:
Sitio web oficial – Versión en inglés
Sitio web oficial – Versión en francés
Programa
Documento conceptual
Concepto y secciones
Concepto y secciones
El derecho penal, en su sentido más amplio, ya no puede ignorar la IA y los desafíos que conlleva. Reflexiones profundas sobre si, en qué medida y bajo qué condiciones, el uso de sistemas de IA en la justicia penal es compatible con los principios básicos de nuestros sistemas son inpostergables.
Una pregunta clave en los problemas jurídicos relacionados con la IA parece ser si esta se encuadra en alguna de las categorías existentes (según el contexto: personas jurídicas, niños, niños soldados, armas, incluso animales, etc.) o si se trata de una cuestión tan novedosa que requiere nuevas categorías y principios.
Debido a la naturaleza del tema y al hecho indiscutible de que «los avances tecnológicos han superado con creces los debates jurídicos o políticos» en torno a él (Ferguson), se requiere un sólido enfoque interdisciplinario: profesionales, académicos de otras ramas del derecho, expertos en campos distintos al derecho (programadores de IA, bioeticistas, criminólogos, científicos, analistas de criminalidad, etc.).
Cuestionario
general
Cuestionario general
¿Qué es la IA? No existe una definición universalmente aceptada. La definición de la Comisión Europea es un punto de referencia útil:
- Sistemas que muestran un comportamiento inteligente analizando su entorno y actuando con cierto grado de autonomía para lograr objetivos específicos. Los sistemas basados en IA pueden ser puramente software, actuando en el mundo virtual (p. ej., asistentes de voz, software de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento de voz y facial) o pueden estar integrados en dispositivos de hardware (p. ej., robots avanzados, vehículos autónomos, drones, etc.).
- Los legisladores deben mantenerse al día con la innovación científica. Las ciencias penales prestan cada vez más atención a este tema, ya que existe una gran necesidad de conceptualizar y abordar las diversas cuestiones jurídicas que plantea la IA:
- ¿Hasta qué punto un delito cometido por un sistema de IA es atribuible a un ser humano o a la propia IA (si es que es posible)?
- ¿Cómo pueden los sistemas de IA ayudar a las fuerzas del orden a prevenir y combatir la delincuencia?
- ¿Podemos confiar en la IA para adoptar decisiones en casos penales?
- El XXI Congreso Internacional de Derecho Penal debería abordar estos temas considerando los diversos aspectos de la justicia penal
Sección 1
Categorías tradicionales del Derecho Penal e IA: ¿Crisis o palingenesia?
- ¿Pueden aplicarse las categorías tradicionales del Derecho Penal de la Parte General (Derecho Penal Sustantivo), especialmente el actus reus, el mens rea y la causalidad, a los delitos cometidos por/a través de sistemas de IA, o requieren una profunda revisión para afrontar los retos futuros?
- F.i.: conducción autónoma: en caso de accidente, ¿quién es responsable? Preguntas:
- ¿Podemos prever alguna forma de responsabilidad directa de los sistemas de IA?
- ¿Tendría sentido «castigar» a una máquina?
- Si el sistema de IA fue programado con la intención de matar/dañar a personas, la persona que lo programó normalmente debería ser responsable.
- En escenarios menos claros, las cosas pueden ser más complicadas: ¿quién es la persona responsable (fabricante, programador, usuario)? ¿Puede el operador humano desactivar el sistema de conducción autónoma? ¿Podemos aplicar los modelos de «responsabilidad por hecho de otro» o «de consecuencias naturales y probables»?
- Si el accidente es el resultado del proceso de aprendizaje automático del sistema de IA, ¿podemos argumentar que esto rompió la cadena de causalidad?
Sección 2
Delitos antiguos y nuevos: Sistemas de IA como instrumentos y víctimas
- Parte especial del derecho penal sustantivo:
- 1) Sistemas de IA para cometer delitos «tradicionales»; y
- 2) Nuevos delitos relacionados con la IA
- Delitos “tradicionales” mediante IA: por ejemplo, narcotráfico, terrorismo, manipulación del mercado y fraude en línea, especialmente el “spear phishing”, es decir, estafas por correo electrónico o comunicaciones electrónicas dirigidas a una persona, organización o empresa específica (Kaspersky) para robar datos o instalar malware.
- Nuevos delitos relacionados con la IA:
- La IA como víctima de nuevos delitos (p. ej., hackear un coche autónomo).
- La IA como instrumento de nuevos delitos (p. ej., creación/difusión de noticias falsas).
- Posibles interacciones entre la IA y la criptografía, con especial atención a las tecnologías basadas en la criptografía, como la cadena de bloques (blockchain). Esta combinación puede plantear cuestiones complejas, ya que puede facilitar la comisión de delitos existentes o nuevos, y requiere disposiciones penales específicas.
Sección 3
IA y Administración de Justicia: Policía Predictiva y Justicia Predictiva
- Derecho procesal y administración de justicia:
- 1) Policía predictiva; y
- 2) Justicia predictiva ○ Al procesar una enorme cantidad de datos, la IA puede realizar predicciones sobre:
- dónde y cuándo es probable que se cometan delitos, e incluso quién los comete en algunos casos (policía predictiva) – PredPol (EE. UU.), Precobs (algunos Estados de la UE)
- si es probable que un sospechoso o acusado huya o cometa nuevos delitos. Por lo tanto, los tribunales penales pueden denegar la libertad bajo fianza u optar por sentencias severas (justicia predictiva) – COMPAS y el caso Loomis del Tribunal Supremo de Wisconsin
- Algunas preguntas por responder:
- ¿Son realmente útiles los instrumentos de policía predictiva para prevenir la delincuencia?
- ¿Violan las predicciones los derechos humanos (por ejemplo, la presunción de inocencia)? ¿Es el resultado de los instrumentos predictivos neutral, objetivo e imparcial? ¿Cuál es el impacto de los métodos predictivos en la administración de justicia y el papel de las autoridades públicas? ¿Puede la IA sustituir a los tribunales y jurados penales?
Sección 4
Perspectivas internacionales sobre la IA: Desafíos para la cooperación judicial y el derecho internacional humanitario/penal
- Implicaciones internacionales del uso de sistemas de IA. En particular, el impacto de la IA en:
- a) la recopilación de pruebas, también desde la perspectiva de la cooperación internacional; y
- b) el derecho internacional humanitario (DIH) y el derecho penal internacional (DPI), con respecto al uso de robots en la guerra
- IA para fines policiales: análisis de ADN o perfiles en redes sociales, identificación de obras de arte falsas, reconocimiento facial, localización de eventos y lugares, etc.
- Cuestiones relativas al derecho a un juicio justo con respecto a las pruebas obtenidas mediante IA:
- ¿Puede el acusado impugnar la forma en que se obtuvieron las pruebas?
- ¿Será el uso de IA el fin del principio de igualdad de armas?
- Preguntas similares, aún más complejas en la cooperación transfronteriza.
- ¿Son los instrumentos de cooperación existentes en materia penal capaces de garantizar el intercambio, la admisibilidad y el uso de pruebas relacionadas con IA de forma satisfactoria?
- ¿Es necesario un enfoque coordinado a nivel internacional?
- Por otro lado, ¿puede la IA facilitar la cooperación judicial?
- Sistema de armas autónomo (SAA) (o robot asesino): “un sistema de armas que, basándose en conclusiones derivadas de la información recopilada y restricciones preprogramadas, es capaz de seleccionar y atacar a un objetivo de forma independiente” (Crootof).
- Cuestiones de ius ad bellum: debido a la «deshumanización», ¿aumentan los SAA la posibilidad de futuras guerras?
Cuestiones de ius in bello: ¿aumentan los SAA el riesgo de vulnerar los principios de distinción y proporcionalidad? ¿Causan daños superfluos o sufrimiento innecesario y, por lo tanto, deberían prohibirse? - En caso de crímenes internacionales cometidos por armas de fuego, ¿quién es responsable? Riesgos de “irresponsabilidad organizada” (Wagner)
- Es necesario un enfoque internacional? Por ejemplo, ¿una prohibición absoluta del uso de SAA en guerra, al menos mientras sea improbable que su uso cumpla con los principios y normas fundamentales del DIH, o un acuerdo internacional que regule su desarrollo y uso?