Pasar al contenido principal
Domingo, 26 Julio 2020

Unificar las causas, agilizar los trámites y las dudas sobre su uso en el futuro: ¿cómo es y qué busca el software que utiliza la justicia colombiana?

Por Pablo Medina Uribe y Luisa Fernanda Gómez

Investigamos cómo la Fiscalía está usando la tecnología para agilizar sus procesos, así como los cuestionamientos al respecto.

En los últimos días de agosto de 2018, la Fiscalía General de la Nación, la entidad colombiana encargada de investigar crímenes y acusar a los presuntos criminales que los cometieron, anunció en varios medios del país que comenzaría a usar un sistema de inteligencia artificial para agilizar sus labores.

La Fiscalía bautizó esta herramienta como “Fiscal Watson”, en referencia al software Watson de la compañía estadounidense IBM sobre el que está montado. 

En una rendición de cuentas del 30 de agosto de ese año, el entonces fiscal General Néstor Humberto Martínez describió al Fiscal Watson como un “sistema de inteligencia artificial para la asociación de casos a través de bases de datos no estructuradas”. Ese día Martínez también dijo que el sistema ya había tenido algunos éxitos, como por ejemplo haber logrado identificar a un “depredador sexual, gracias a la asociación de 9 casos, después de que el aplicativo revisó en tiempo real los 13 millones de denuncias que tiene la Fiscalía en su sistema SPOA” (que es el sistema que recoge información para el Sistema Penal Oral Acusatorio).

Por qué surgió, con qué fin, en qué estado de desarrollo está

En el Contrato 0326 de 2017, en el que la Fiscalía contrató a IBM para implementar esta herramienta, la entidad explica que “en cumplimiento de sus funciones de investigación y judicialización, debe dar aplicación” a varias leyes (como por ejemplo la Ley de Justicia y Paz o la Ley de Víctimas), cada una de las cuales genera una gran cantidad de información, y por lo tanto decidió ordenar el desarrollo de una herramienta para consolidar y analizar toda esta información. 

En el contrato también se explica que esta herramienta se articula con la estrategia de “Gobierno en línea” con la que el gobierno colombiano pretende ser “más transparente y más participativo gracias a las tecnologías de la información y las comunicaciones”.

Pero la Fiscalía también aclara que, en un estudio previo, encontró que “parte de las deficiencias encontradas, fue la falta de unificación en los modelos de atención y operación de los procesos de la entidad”. 

Juan Diego Castañeda, investigador de la Fundación Karisma, una organización que busca proteger los derechos humanos en medio de las nuevas tecnologías, explica que la Fiscalía se enfrentaba a un problema que tienen muchas otras entidades colombianas: no contaba con un sistema único para consolidar toda su información.

No solo cada una de las leyes que menciona el contrato de la Fiscalía crea un sistema nuevo de información, en muchos casos los varios despachos regionales de la Fiscalía no compartían información entre ellos. Así que era prácticamente imposible que los datos que estuvieran en una parte del país le llegaran a la otra parte que los necesitara.

El Fiscal Watson sería la herramienta integradora que la Fiscalía encontró como la solución a este problema.

La misma Fiscalía, en el contrato ya mencionado, dice que con Watson “se implementarán iniciativas para desarrollar, adaptar y automatizar los procesos, los sistemas de información, la estructura de datos y la plataforma tecnológica a la arquitectura planteada para optimizar los procesos institucionales y así apalancar los objetivos estratégicos de la entidad”.

Esto quiere decir que se trata, principalmente, de una base de datos digital consolidada de todos los expedientes y noticias criminales que tiene la Fiscalía (según sus propias cuentas, tiene 13 millones de registros) que antes de Watson debían procesarse “manualmente” (es decir, a través de sistemas desagregados y bases no unificadas).

Pero esta herramienta no será simplemente un repositorio, aseguran. Con ella se busca también acelerar y mejorar el procesamiento de esos datos, gracias a la automatización, en dos frentes. 

El primero es que la Fiscalía podrá asignarles casos automáticamente a sus fiscales (un proceso que, según dicen en varias presentaciones, antes tomaba hasta 40 días). El segundo es que la Fiscalía estará en capacidad de hacer asociaciones entre casos.

Hernán Murcia, uno de los miembros del equipo de Cognitiva, el socio estratégico de IBM en América Latina para inteligencia artificial que asistió en el diseño de los usos de Watson en la Fiscalía, explica esta capacidad: “El sistema es capaz de correlacionar los hechos de todas las denuncias de todos los delitos. Si tú fueras la persona que lee todas las denuncias que le llegan a la Fiscalía y ves que en varias denuncias se ve que una persona gorda con chaqueta roja robó un celular en la Carrera 7 con Calle 67, automáticamente estarías haciendo en tu mente una correlación de los hechos que te están contando”. 

Es decir que el sistema logra crear asociaciones entre información que, si fuera procesada por humanos, quizás no serían tan evidentes bien sea por el tamaño de los datos o por la falta de conexión entre sistemas informativos.

“Esto es lo que el sistema puede hacer automáticamente, correlacionar todos esos hechos”, aclara Murcia, “es un volumen de más de cinco mil denuncias diarias”.

Por su parte Luis Enrique Aguirre, el director de Planeación y desarrollo de la Fiscalía, explicó en un video de diciembre de 2018 que “es imposible, de manera manual, hacer asociaciones. Si hay un caso que se presenta hoy en día como, por ejemplo, el que sucedió con el “violador de Ibagué”, era imposible que alguien recordara de memoria 10 años de sucesos de este estilo”.

Los resultados

Martínez dio el mismo ejemplo que citó Aguirre en su video como caso de éxito. En 2018, la Fiscalía usó su nuevo software (que comenzó a ser implementado en las seccionales de Bogotá, Cali, Bucaramanga e Ibagué en julio de ese año) para relacionar a una persona denunciada con denuncias previas.

 

En abril de 2018, un hombre llamado Walter Matiz Ramírez fue denunciado en el municipio de Honda, Tolima, por abuso sexual (Ibagué es la capital del departamento del Tolima, por lo que Aguirre mencionó esta ciudad en su intervención). Tras recibir esta denuncia, el Fiscal Watson comparó el modus operandi, las características morfológicas del victimario, los vehículos, los números de teléfono de este caso con las demás entradas en su sistema y los relacionó con los datos de otras nueve denuncias por abuso sexual en varios municipios. 

Tras este proceso, la Fiscalía acusó a Matiz de ser el responsable en todos los casos relacionados, que databan desde 2009. Luego, un juez decidió encarcelar a Matiz mientras esperaba una decisión judicial en su caso.

Este es el caso que más se ha repetido como ejemplo del éxito de la implementación del sistema. Ha habido otros, como un caso en el que al comparar reclamos por dinero del sistema de salud se identificó un desfalco de 724.000 millones de pesos (o unos 210 millones de dólares). También se publicitó otro caso en el que, gracias a la asociación de datos que hizo Watson del modus operandi de varias denuncias, se desmanteló a una red de personas que engañaban a sus víctimas diciéndoles que tenían “caletas” (o dinero escondido) de la desmovilizada guerrilla de las Farc para llevarlos a un lugar aislado y luego robarlos.  

Sin embargo, Aguirre dice que ha habido más de 500 casos de éxito. Según el acta de liquidación del contrato entre la Fiscalía e IBM, el proceso completo de diseñar, desarrollar e implementar esta herramienta tuvo un costo de 10.243 millones de pesos, lo que equivale a unos 3 millones de dólares a cambio de diciembre de 2019. El presupuesto anual de la Fiscalía en 2019 fue de 24,7 billones de pesos, lo que equivale a 7.318 millones de dólares. 

Los planteos que hacen organizaciones de derechos civiles

Aunque los expertos consultados están de acuerdo en que Watson, en general, es una herramienta necesaria, algunos de ellos expresaron preocupación por los nuevos sistemas que se puedan implementar gracias a la información consolidada en el flamante “Fiscal”.

En particular, hay preocupación por Prisma, una herramienta que la Fiscalía presentó en mayo de 2018, pero sobre la cual se ha compartido poca información. Joan López, otro investigador de la Fundación Karisma, dijo que a 2019 lo único que se conocía del proyecto es una presentación que compartió la Fiscalía. A enero de 2020, en una respuesta que le dieron a la fundación, la entidad dijo que el proyecto todavía no estaba activo mientras se hacían pruebas, protocolos de capacitación, metodología de implementación y evaluación de impacto de Prisma.

En la presentación a la que hace referencia López, la Fiscalía explicó que Prisma es una herramienta “para lograr de manera más efectiva que personas con alto riesgo de reincidencia criminal sean cobijadas con medida de aseguramiento”.

Daniel Mejía, quien era el director de Políticas y estrategias de la Fiscalía durante el lanzamiento de Prisma, explicó su funcionamiento: “Cuando una persona es capturada y se le imputan cargos, un juez debe decidir si a esa persona se le otorga una medida de aseguramiento”, es decir, el juez dispone si esa persona debe esperar en la cárcel (o en detención domiciliaria) mientras se resuelve su situación judicial, o si puede esperar en libertad. 

“El principal argumento que se da para otorgar esas medidas de aseguramiento”, dice Mejía, “es el riesgo de reincidencia”, es decir el riesgo de que alguien acusado de un crimen cometa otro crimen. Prisma usa machine learning para calcular ese riesgo de reincidencia.

Según explica Mejía, Prisma toma información de las bases de datos de la Fiscalía, la Policía y el Instituto Nacional Penitenciario y Carcelario, Inpec. Con esos datos arma una “hoja de vida criminal” de cada persona que está analizando y, a través de un algoritmo, “en 4 segundos” le aporta los datos sobre el riesgo de reincidencia de una persona a los jueces, para que ellos tengan información más exacta sobre la cual tomar sus decisiones. De esta manera, Prisma busca que se eviten dos errores: que se les otorguen medidas de aseguramiento a personas con bajo riesgo de incidencia y que se deje en libertad a personas con alto riesgo de reincidencia.

Mejía enfatiza que el proyecto por ahora tan solo es un piloto que fue probado en junio del año pasado durante un mes en cinco seccionales de la Fiscalía, y que no busca reemplazar a los jueces, tan solo entregarles mejores herramientas. Por ahora no es claro si el piloto se volverá a implementar, o si se convertirá en un programa más grande. 

Los expertos consultados para esta investigación opinan que para determinar su efectividad, debería haber más discusiones públicas al respecto y sobre todo, transparencia sobre los algoritmos del sistema.

César Valderrama, investigador de Dejusticia, un centro de estudios jurídicos y sociales, por ejemplo, cree que el algoritmo sobre el que se basa el sistema “debería pasar por un escrutinio público”, pues el sistema podría crear sesgos o reproducir otros sesgos que ya existan en la administración de la justicia. “Ese sesgo puede darse por las características mismas del software, o por la forma en la que se esté introduciendo la información, o por condiciones estructurales de la sociedad”, dice Valderrama.

Por su parte, López sostiene que simplificar “un universo tan complejo como la criminalidad a tres o cuatro factores individualiza el delito demasiado, lo que podría llevar a que no entendamos bien el fenómeno del delito”. Pero en cualquier caso cree que no se podría pronunciar sobre sus efectos hasta que no se conozca públicamente cómo funciona.

Según Mejía, esta fue una discusión dentro de la Fiscalía y su posición personal es que el algoritmo debería ser público, bajo ciertos protocolos. De lo contrario, “podríamos tener una situación como en Estados Unidos, donde muchas veces los algoritmos son vistos como ‘cajas negras’”.

Los dilemas hacia futuro

Los casos ocurridos en Estados Unidos pusieron en alerta a muchos investigadores de la intersección entre tecnología y justicia puesto que en los últimos años varios estudios han revelado que varios algoritmos que se usan en el sistema judicial estadounidense reproducen y amplifican sesgos racistas. 

Por ejemplo, en el artículo “Machine Bias” de ProPublica de 2016 se describen varios sistemas de inteligencia artificial usados por las cortes estadounidenses para predecir futuros criminales y determinar quiénes pueden acceder a penas alternativas. Uno de ellos, desarrollado por la empresa privada Northpointe, consistentemente mostraba a las personas negras con un mayor nivel de riesgo de reincidencia, incluso cuando eran comparadas con personas blancas con historias criminales similares.

En varios de los algoritmos usados en los Estados Unidos, los sistemas no tienen en cuenta la larga historia de racismo del sistema judicial de ese país que ha generado datos sesgados. Esos datos luego son usados como la base de los análisis de inteligencia artificial y por lo tanto reproducen esos mismos sesgos.

Incluso, en algunos casos no se incluye la raza de las personas en estas bases de datos, pero sí se cargan datos que pueden ser representativos de su raza, como por ejemplo el barrio en el que viven.

Pero no es claro si este es el caso del software de Northpointe. Según ProPublica, “la compañía no publica los cálculos usados para concluir los niveles de riesgo de una persona, así que no les es posible ni a los acusados ni al público ver qué es lo que crea esta disparidad [del sistema]”. Además, en algunos casos de procesos de machine learning, sólo las máquinas entienden este funcionamiento de sus lógicas internas.

Esto es a lo que Mejía se refería con “cajas negras” y la razón por la que apoya que el algoritmo de Prisma se publique. 

Juanita Durán, la actual directora de Políticas públicas y estrategia de la Fiscalía, aclara que aún se está haciendo una evaluación de impacto sobre el piloto ya realizado para descifrar los pasos a seguir. Así que aún no es claro si Prisma se seguirá usando o de qué manera.

Por el momento, Mejía dice que Prisma no caerá en los sesgos de los sistemas que han sido criticados en los Estados Unidos, pues las variables que entran a la “hoja de vida criminal” no registran raza, lugar de residencia, ni nada que no esté relacionado con los hechos criminales asociados a una persona (cuántas veces ha sido acusada o arrestada, por qué delitos, etc.), con una excepción: el género de la persona acusada.

¿Servirá para mejorar la justicia?

Aunque quedan muchos interrogantes sobre Prisma, lo que sabemos por ahora es que el Fiscal Watson sigue marchando y que ya está comenzando a cambiar la manera en la que se administra la justicia en Colombia.

Según Valderrama, Watson ha ayudado a mejorar el acceso de las personas al sistema de justicia y a resolver sus necesidades jurídicas, pues ayuda a “agilizar procesos que quizás de manera manual no se puedan resolver”.

Además de esto, para Castañeda tanto Watson como Prisma pueden tener un efecto positivo inesperado: “Una base de datos y un algoritmo podrían obligar a que un juez racista tenga un obstáculo más para saltar”.

Este artículo forma parte del proyecto “Investigación sobre inteligencia artificial en América Latina” de Chequeado, en Argentina, que busca investigar el campo de la ética de los algoritmos en la región y sus particularidades frente al resto del mundo.

Lunes, 02 Abril 2018

Duque le hereda a Uribe su pelea con las cortes

Por José Felipe Sarmiento Abella

La polémica propuesta de acabar con las cuatro cortes para crear una sola es una vieja batalla que tiene el uribismo con la justicia colombiana.

El candidato presidencial por el Centro Democrático, Iván Duque, tomó partido y apoyó la propuesta del máximo jefe de esa colectividad, el expresidente y senador Álvaro Uribe, de fusionar las cuatro altas cortes que existen en Colombia (Suprema, Constitucional, Consejo de Estado y Consejo Superior de la Judicatura) y crear una sola con salas especializadas.

Esta iniciativa, que implicaría una reforma constitucional, no aparece en el programa del aspirante del CD. Sin embargo, encendió el debate tanto en círculos políticos como en medios de comunicación, ya que un grueso número de exfuncionarios del gobierno de Uribe (2002-2010) y personas cercanas al uribismo han sido procesadas y condenadas por la Corte Suprema, por una variedad de delitos que van desde corrupción hasta parapolítica y homicidio, lo que ha sido calificado por ese partido como una persecución política.

El mismo Uribe tiene investigaciones pendientes en la Corte Suprema. La más reciente, abierta por supuestamente haber manipulado testigos en un proceso de pérdida de investidura contra el senador Iván Cepeda, del Polo Democrático. Además, está el expediente por su presunta responsabilidad en dos masacres ocurridas en Ituango (Antioquia) cuando era gobernador.

También hay una investigación estancada en la Comisión de Acusaciones por las interceptaciones ilegales realizadas en su gobierno contra periodistas, políticos de oposición y la misma Corte Suprema, conocidas como las “chuzadas”. Por este escándalo fueron condenados en este tribunal dos de sus directores del DAS, María del Pilar Hurtado y Jorge Noguera (quien también fue encontrado culpable de homicidio y paramilitarismo) y su secretario general Bernardo Moreno.

En esa misma corte se dieron otras condenas, por ejemplo, contra su primo Mario Uribe, exsenador parapolítico; su ministro Andrés Felipe Arias, por desviar subsidios del programa Agro Ingreso Seguro; Sabas Pretelt y Diego Palacio, también exministros, y su secretario Alberto Velásquez, por ofrecer dádivas a congresistas para conseguir la aprobación de la reelección presidencial por primera vez (la ‘yidispolítica’). La Constitucional, por su parte, ‘tumbó’ el referendo que le hubiera permitido postularse a un tercer mandato consecutivo.

 

 

 

 

 

Lo que dijo Uribe

A sabiendas de estos antecedentes, Uribe sugirió hace seis meses, en declaraciones a los medios que luego publicó en Twitter, la creación de “una sola corte de magistrados visibles, bien conocidos, (…) con una gran trayectoria”.

 

 

Chequeamos y la propuesta no está entre las que expone el candidato uribista en su página de internet. Lo más cercano que dice el folleto es la unificación de “lineamientos y criterios para la jurisprudencia de las Altas Cortes” -no de las instituciones en sí- para simplificar procesos, generar seguridad jurídica y aumentar la confianza en el sistema judicial.

Según su equipo de campaña, lo que pasa es que ese programa fue elaborado hace más de un año. “No hay un documento completo con sus propuestas actualizadas. Se está construyendo”, explicó su jefe de prensa, Jorge Quintero.

Lo único que hay al respecto en el portal, previo al debate en Estados Unidos, es una columna del congresista en el diario Portafolio del 14 de septiembre de 2017, dos semanas después del tuit de Uribe. Allí concluyó que “una reforma seria a la justicia requiere (…) que avancemos hacia una corte única, con distintas salas y un menor número de magistrados, concentrados en definir los precedentes y los lineamientos de interpretación e implementación”.

En el video del trino, el expresidente defendía su iniciativa asegurando que tuvo “dificultades con un sector de la Corte” y que fue él quien presentó denuncias por corrupción “cuando estaba en el Gobierno y esas denuncias son parte de la causa de que haya compañeros en la cárcel”. Esto, en referencia a la cercanía de algunos magistrados con el empresario italiano Giorgio Sale, acusado entonces de tener vínculos con las Auc y la mafia de su país.

 

 

 

 

 

¿Cómo se les ocurre?

La fusión de las Cortes planteada por el Centro Democrático, generó múltiples rechazos por parte de otros candidatos, como el del partido Liberal, Humberto de la Calle, quien tildó de retroceso la iniciativa y un golpe a los derechos de la gente. El candidato dijo que de prosperar esta reforma se pondría bajo amenaza la acción de tutela, uno de los principales logros de la constitución de 1991.

 

 

 

 

A pesar de la avalancha de críticas, Duque defendió la propuesta de unificación de las Cortes, señalando que esta ya había sido propuesta por una comisión de expertos que precisamente fue conformada en 2009 por el entonces presidente Álvaro Uribe.

“No se trata de imponer el criterio de un presidente, sino de abrir un debate. Hay que recordar una cosa: primero, esa es una propuesta que viene desde la Comisión Bonivento; la Corporación Excelencia en la Justicia ha hablado muchas veces de ella y muchos países de América Latina tienen corte única, es más, muchos países del mundo también la tienen”, dijo.

Al revisar el informe final de la Comisión de Expertos de Reforma a la Justicia, que encabezó el exmagistrado José Alejandro Bonivento con otros reconocidos juristas, además de Excelencia en la Justicia, en ninguna parte del documento se recomendaba unificar los tribunales. Por el contrario, lo que planteaba era que las Cortes debían trabajar de forma complementaria para que sus posiciones fueran más uniformes y evitar los “choques de trenes”.

La Comisión sugirió una estructura en la que se mantuvieran tres de las cuatro altas cortes: la Suprema, la Constitucional y el Consejo de Estado. Pero proponía reemplazar el Superior de la Judicatura por un órgano de gobierno unificado de la rama (lo que se intentó hacer con la fallida Reforma de Equilibrio de Poderes del gobierno Santos, que se cayó casi toda en el examen de constitucionalidad).

La Corporación Excelencia en la Justicia, en su cuenta de Twitter, le ha quitado piso a algunas de las críticas y ha reconocido virtudes de la propuesta. Pero también advirtió que un cambio de este tipo requeriría la convocatoria de una asamblea constituyente y señaló que, por la necesidad de crear salas especializadas por temas, no reduciría el número de magistrados ni su burocracia.

 

 

 

 

 

 

 

¿Cuál es el modelo?

Transformar el sistema de justicia colombiano a una corte única tiene sus precedentes y dificultades. En una columna publicada en Ámbito Jurídico en 2017, la hoy decana de Derecho de la Universidad de los Andes, Catalina Botero Marino, explicaba los inconvenientes de pasar a un modelo de ese tipo.

La abogada constitucionalista sostenía que había dos sistemas extranjeros de corte única: el estadounidense, que es un tribunal con pocos magistrados, y el venezolano, que cuenta con salas especializadas y es el más parecido a la propuesta que lanzó el candidato del CD.

El estadounidense, según explicaba Botero, está basado en una justicia federal en la que cada estado cuenta con su propio sistema judicial, en el que se resuelven la mayor parte de los casos. Ese es el caso, explicó en otro trino la semana pasada, de la mayoría de países del mundo con corte única.

 

 

En cuanto a los países vecinos, la investigadora Carolina Villadiego Burbano, directora del área de sistema judicial del tanque de pensamiento DeJusticia, en el libro de 2016 ‘La reforma a la justicia en América Latina’, explicó que “las reformas al gobierno judicial en la región usualmente implicaron la adopción de consejos de la judicatura/magistratura encargados de distintas funciones”.

De modo que, aunque no siempre se consideren cortes, en muchos países sí existen entidades como el Consejo Superior o la todavía naciente Comisión de Disciplina de Colombia.

También señala que “las reformas encaminadas a generar un tribunal (constitucional) independiente y diferenciado de los demás sectores judiciales han sido distintas en la región” por el número de magistrados y las funciones que ejercen. Entre 16 países, siete tienen una corte especializada en esta jurisdicción como acá; nueve, no. Pero de estos últimos, cuatro son federados como Estados Unidos: Argentina, Brasil, México y Venezuela.

Así, la propuesta de Duque, de la que falta conocer más detalles, resulta basada en una recomendación que nunca existió y acomoda otros argumentos para dar el debate en defensa de la idea original de su jefe político, el expresidente Uribe.