A continuación se adelanta un extracto de la entrevista realizada al profesor John Zeleznikow, la cual se publicará próximamente en el volumen 57 (año 2022), de la revista Anales de la Cátedra Francisco Suárezdel Departamento de Filosofía del Derecho de la Universidad de Granada.
“John Zeleznikow es Catedrático de Gestión y Sistemas de Información en la Universidad de Victoria (Australia) y también profesor de la Facultad de Derecho de la Universidad de La Troube (Australia), y según la información disponible en la página web de esta universidad y otros perfiles profesionales, ha investigado y enseñado en universidades australianas, estadounidenses, francesas, holandesas, israelíes, belgas, alemanas, británicas y polacas durante casi 50 años. Ha trabajado en escuelas superiores (facultades) de matemáticas, informática, derecho y empresariales. Es autor de cuatro monografías de investigación, 101 artículos en revistas especializadas y más de 200 aportaciones en congresos que fueron recogidas en artículos sometidos a revisión por pares.
También ha trabajado con la Victoria Legal Aid, la organización sin fines lucrativos de asistencia jurídica, la organización Relationships Australia, el gobierno de Nueva Zelanda y el Instituto de Deportes del Estado de Victoria.
Entre los cargos desempeñados por el profesor Zeleznikow figuran el de director del Centro Joseph Bell de Estadística Forense y Razonamiento Jurídico de la Facultad de Derecho de la Universidad de Edimburgo, el de director del Departamento de Informática de la Universidad de Latrobe y el de decano adjunto (en Investigación) de la Facultad de Empresariales y Derecho de la Universidad de Victoria.
Recientemente ha participado en el proyecto La justicia en la era digital: claves y elementos para una nueva arquitectura, financiado por la Fundación COTEC y dirigido por Fernando Esteban de la Rosa, catedrático de Derecho Internacional Privado de la Universidad de Granada.
Es evidente que el profesor Zeleznikow ha contribuido al desarrollo de las aplicaciones de la IA en el derecho, especialmente en el campo de la Resolución de Disputas en Línea (ODR, por sus siglas en inglés –Online Dispute Resolution-) pero también sobre las relaciones entre la ética, el derecho y la Inteligencia Artificial (IA), cómo asegurar que el uso de estos sistemas de IA se basen en la justicia y no sólo en intereses siniestros, cuál sería el mejor tipo de gobernanza para gobernar los sistemas de ODR y la protección y garantía de la seguridad, la privacidad y la autenticación así como qué elementos serían los estándares para medir la confianza en esos sistemas de ODR, tales como el conocimiento, la expectativa de equidad o la existencia de un código de ética. Sus investigaciones tratan, pues, temas típicos de la filosofía jurídica y política, como al menos lo son los métodos del conocimiento jurídico, la justicia y las relaciones entre el derecho y la ética.
Esta percepción me llevó a proponerle una entrevista para la revista Anales de la Cátedra Francisco Suárez, aprovechando además su estancia en la Universidad de Granada como profesor invitado. El profesor Zeleznikow aceptó y respondió amablemente a mis preguntas por escrito, si bien días antes mantuvimos una charla informal en torno a los tópicos a los que se refiere esta entrevista. He aquí su resultado.
Josefa D. Ruiz Resa (en adelante JDRR): Muchas gracias, profesor Zeleznikow, por aceptar la invitación a ser entrevistado para la revista Anales de la Cátedra Francisco Suárez (ACFS). Es un gran honor. Me gustaría empezar pidiéndole que nos hable de su relación con el derecho como objeto de estudio desde el punto de vista matemático e informático. El interés sobre el derecho es muy claro y significativo dentro de la mayoría de sus investigaciones y publicaciones. Recientemente (2019), escribió acerca de su acercamiento a la relación entre IA y Derecho en un artículo cuyo título en español sería “Reflexiones sobre mi viaje por el uso de la tecnología de la información como apoyo para la toma de decisiones jurídicas. Del positivismo jurídico a realismo jurídico”.
En él se refería a las situaciones que le habían llevado hasta allí, como una especie de mezcla entre la casualidad y el acercamiento consciente, pero me gustaría preguntarle si su interés es sobre el derecho como práctica o el derecho como jurisprudencia, es decir, como una especie de ciencia o conocimiento teórico del derecho. O tal vez se refiere a ambos (el derecho como práctica y el derecho como jurisprudencia en el sentido de conocimiento teorético).
John Zeleznikow (en adelante, JZ): Inicialmente, mi interés por el derecho se situaba en el ámbito de la práctica más que en el de la teoría. Pero decir esto no significa que me interesara ser un profesional del derecho. Lo que me apasionaba era más bien cómo se ejercía el poder político. He estado involucrado en política desde muy joven, e incluso a esa edad, me di cuenta de que el derecho y la política estaban entrelazados. Mi madre me disuadió de estudiar Derecho, porque creía que yo perdería todos los documentos y cumpliría muy mal con las tareas administrativas. Fue un buen consejo.
Cuando empecé a investigar la Inteligencia Artificial (IA), quise aplicarla a la política. Por aquel entonces me topé con un artículo del grupo de computación del Imperial College de Londres sobre la Ley de Nacionalidad Británica como programación lógica. Al debatir el texto con profesionales del derecho, me di cuenta de que el derecho era mucho más que la mera automatización de la legislación mediante su consideración como un conjunto de reglas matemáticas.
Esto me llevó a plantearme cómo la IA puede utilizarse de forma provechosa como apoyo en la toma de decisiones jurídicas. Me di cuenta de que las leyes no eran unilaterales, sino que debían ser interpretadas. Los datos deben ser evaluados y transformados en una forma adecuada para su procesamiento por la IA. ¿Y qué formas de software de IA deberían utilizarse en dominios de software específicos?
Todas estas preguntas me hicieron ver que la práctica del derecho es mucho más que soltar normas. Pero como quería utilizar la IA para modelar la toma de decisiones jurídicas, me di cuenta de que necesitaba tener conocimientos de jurisprudencia. Así, me interesé por la teoría jurídica y escribí sobre las técnicas de IA que deberían utilizarse en ámbitos jurídicos específicos.
JDDR: En un artículo titulado “No temas a la robotización de la justicia. Los algoritmos pueden ayudar a más gente a contar con ayuda jurídica”, publicado en 2017 en The Conversation, usted afirmaba que los algoritmos y los robots no pueden sustituir a los abogados ni, más concretamente, a los jueces, sino que los apoyan en la toma de decisiones jurídicas. Muchos juristas, prácticos y miembros de la academia, temen esta sustitución. En su opinión, ¿cuál es el alcance y la dimensión real de la aplicación de la IA en el derecho?
JZ: El grado de automatización que puede aplicarse en un ámbito jurídico depende de la naturaleza del razonamiento en ese ámbito. Por ejemplo, la vigilancia de las normas de tráfico en Australia (y en muchos otros países) ya está totalmente automatizada. Los radares de velocidad miden si un automovilista ha superado el límite de velocidad. Las cámaras de los semáforos fotografían a los automóviles que se saltan los semáforos en rojo. Los programas informáticos envían entonces las multas y los puntos del permiso de conducir que se quitan al propietario del coche. La carga pasa entonces al conductor o conductora, que debe demostrar que no era quien conducía el coche e indicar quién lo conducía.
Aunque este sistema ha sido aceptado por la mayoría de los australianos, se han producido algunos fraudes. En 2006, el juez Marcus Einfeld, del Tribunal Federal de Australia, impugnó una multa de 77 dólares australianos por exceso de velocidad, alegando que su amiga la académica estadounidense Teresa Brennan era quien había conducido su coche. Las pruebas demostraron que Brennan había muerto en un accidente de tráfico tres años antes. Einfeld fue declarado culpable de perjurio y por obstrucción a la justicia. Fue condenado a tres años de prisión por lo que en principio era un delito menor.
Los gobiernos han utilizado a menudo los algoritmos para garantizar el cumplimiento de las normas. En 2016, el gobierno australiano puso en marcha un sistema automatizado para detectar las deudas supuestamente contraídas con la seguridad social. En lugar de recurrir a un humano, se utilizó el algoritmo para identificar y perseguir los pagos pendientes a la seguridad social. Se produjeron importantes errores debido a estimaciones inexactas sobre las deudas pendientes. Cuando el sistema se eliminó en 2020, se habían emitido incorrectamente unos 470.000 requerimientos de pago incorrectos. El gobierno se comprometió a reembolsarlos, con un coste de 721 millones de dólares australianos.
Estos dos ejemplos muestran un uso limitado de lo que podría llamarse robotización de la justicia.
Pero el derecho está repleto de dificultades de clasificación, normas derrotables y términos vagos. Por eso, aunque un robot pueda tomar una decisión eficaz, el resultado puede no ser justo. Pero aunque el software no deba emitir juicios, puede proporcionar un asesoramiento útil tanto a abogados como a clientes. En Schmitz y Zeleznikow (2021) sostenemos que, aunque el software de IA no debe emitir juicios, puede proporcionar un apoyo útil para la gestión de los casos, la clasificación, el asesoramiento sobre los posibles resultados, la asistencia para realizar compensaciones y redactar de acuerdos”.
(…)