Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos

por JUAN GUSTAVO CORVALÁN, GUSTAVO SÁ ZEICHEN
Octubre de 2018
Libro “Justicia Abierta: aportes para una agenda en construcción”, 1ra. edición pág. 143
Ediciones SAIJ
Id SAIJ: DACF190020

* * 1. Introducción 1.1. Justicia 1.0, 2.0 y 3.0. Hacia una Justicia 4.0. Suponga que desea acceder a una sentencia o a una decisión judicial. Si nos encontrásemos dentro del paradigma de justicia 1.0 o 2.0, lo más probable es que debiera desplazarse hasta una oficina judicial y solicitar que le faciliten la vista del expediente y, en todo caso, hacerse de una copia de la misma. También podría requerir el libro o cuaderno en donde están registradas para que pueda acceder a ellas. También es posible que la información no se encuentre organizada por temas y subtemas o que esté extraviada. Algo similar suele ocurrir con los datos de trámite de los expedientes y, en general, con mucha información producida o gestionada por el Poder Judicial. Por eso la búsqueda y la obtención de la información judicial ha sido –y es–, en muchos casos, una suerte de purgatorio burocrático. En el presente partimos de una clasificación de etapas de evolución de la justicia que se basa en la conocida categorización de etapas de las revoluciones industriales (Schwab, 2017). Así, podemos caracterizar a la Justicia 1.0 como la correspondiente a la etapa clásica decimonónica –todavía vigente–, formateada en papel, con expedientes y archivos físicos, presencial y de trámites rígidos. La Justicia 2.0 implica un progreso respecto de la anterior, incorporando la electrónica, ya sea para un mejor funcionamiento de los juzgados como para mayor confort de los agentes: teléfono, fax, máquina de escribir Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos Juan G. Corvalán – Gustavo Sá Zeichen (*) Fiscal General Adjunto en lo Contencioso Administrativo y Tributario de la Ciudad Autónoma de Buenos Aires. (**) Oficina de Innovación y Derecho de la Fiscalia General Adjunta del Juzgado CAyT. Agradecemos la colaboración de Melisa Rabán, Antonella Stringhini y Matias Puig. 144 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen electrónica. Los juzgados suman máquinas electrónicas que facilitan algunas tareas rutinarias, aunque se mantienen antiguas técnicas de gestión. El salto cuali-cuantitativo más relevante se da con el paso a la Justicia 3.0, donde el diferencial lo hace la revolución digital mediante el paso de la aparatología mecánica y analógica a la tecnología digital. Aquí se abren paso las tecnologías de la información y las comunicaciones con el revolucionario arribo de las computadoras personales y de su intervinculación a través de “redes”: internet. Podríamos decir entonces que en los últimos 45 años comenzó una transición (aún no finalizada) desde el formato 1.0 –papel, tinta, carbónico– hacia un paradigma 2.0 –electrónico– y luego al 3.0 –digital–, en la que se verificó un desplazamiento desde el modelo “máquina de escribir” al de “computadora” –con sus periféricos, impresoras y sistemas como los procesadores de texto–, y pasando luego a sistemas informáticos de gestión e interacción. Es así que a partir del desarrollo de internet y las mejoras en los ordenadores –lo que se conoce como la “tercera revolución industrial”–, el mundo comenzó transitar un camino para migrar los datos y la información impresa hacia formatos digitales que luego podrían alojarse en portales web. En paralelo, a principios de este siglo y en forma asimétrica, dependiendo de cada país y de cada autoridad local, se comenzó a gestar esta transformación hacia una Justicia 3.0 –en red–. Bajo este concepto se aceleró la transición desde una “burocracia papel” hacia una “burocracia digital”, que a su vez presupone “subir” los datos a páginas web, usar portales digitales, aplicaciones móviles (apps) y redes sociales para gestionar los datos y la información pública. Este formato 3.0 se sustenta básicamente en las innovaciones que se han presentado a partir de la última parte del siglo XX y que han sentado las bases para la cuarta revolución industrial (Schwab, 2017)(1) que comenzó a desarrollarse en este siglo XXI. Una Justicia 3.0 debería ahorrar tiempo y distancia al permitir el acceso a información pública luego de algunos –o varios– clicks desde el teléfono móvil o desde el ordenador personal, es decir, fácil y ubicuamente. En definitiva, esos tres modelos de organización pública –1.0 2.0 y 3.0– en esencia resumen un constante tránsito en el que se ha intentado simplificar y optimizar la gestión de los datos y la información en las organizaciones (1) Las primeras revoluciones industriales modificaron radicalmente las sociedades de los últimos tres siglos. Actualmente, estamos atravesando la cuarta revolución industrial, la cual se vincula con el desarrollo de tecnologías disruptivas que transformarán como nunca antes el mundo en el que vivimos (biotecnología, nanotecnología, robótica, entre otras). En síntesis, la revolución digital y de la inteligencia artificial ya no sitúa a los ordenadores, máquinas y programas informáticos en el rol de meros instrumentos para mejorar nuestras capacidades físicas, sino que asistimos a una transformación profunda del ser humano y su entorno, originado en dos grandes fenómenos: 1) la transformación radical en la forma de procesar los datos y la información en muchas actividades que antes solo podían ser realizadas por nuestros cerebros; 2) la mutación exponencial de las nociones de tiempo y e Justicia Abierta: aportes para una agenda en construcción | 145 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos públicas y privadas. En el último enfoque 3.0, sin embargo, surgió un modelo organizacional que a gran escala podría resumirse en dos grandes postulados. Por un lado, el impulso de una adecuada gobernanza, lo que implica asumir un paradigma de vinculación con los habitantes, abierto y en red, para potenciar la democracia participativa y el sistema republicano. En este aspecto, se enfatiza en algunos principios o pilares de este “Gobierno Abierto” que tienen su epicentro en la transparencia, la participación y la colaboración. (2) Por otro lado, el modelo de organización y gestión, que se asienta en la innovación y en el uso de las tecnologías de la información y de la comunicación (TIC), dando marco así a este paradigma de “Estado Abierto” (sobre el concepto de “Justicia Abierta”, ampliar en Sá Zeichen, 2018). Ambos postulados –gobernanza y gestión– están íntimamente vinculados y conformados por múltiples nociones y categorías a la luz de diversos principios y mandatos de optimización, como los de preparación tecnológica, innovación inclusiva, cultura digital, alfabetización digital, gobernanza electrónica, inclusión digital, solidaridad digital, entre muchos otros, que aspiran a lograr un desarrollo sostenible, según se refleja en numerosas recomendaciones de los máximos organismos internacionales como Naciones Unidas (ONU) y la Organización de los Estados Americanos (OEA). (3) Ahora bien, aunque todavía nos hallemos en transición entre estos tres primeros “modelos evolutivos”, es clave identificar y adaptar las nuevas tecnologías a la lógica presente en las organizaciones y a nuevas olas tecnológicas vinculadas especialmente con la gestión del conocimiento. Un ejemplo: nadie podría discutir hoy las ventajas que conlleva usar una computadora y un procesador de texto tipo Word, frente a los beneficios que nos proporcionó la máquina de escribir. Implementar el ordenador fue esencial para mejorar los sistemas burocráticos, lo mismo que el uso de las redes de comunicaciones, especialmente internet. Un fenómeno parecido puede darse ahora con el desarrollo de la inteligencia artificial, agregándose como un nuevo estrato de progreso. A través de esta innovación se puede simplificar y optimizar exponencialmente la burocracia judicial en múltiples aspectos. Irrumpe así el modelo 4.0. En efecto, la Justicia 4.0 se construye sobre la Justicia 3.0, pero evoluciona de modo exponencial al tener a disposición tecnologías disruptivas de la “cuarta revolución industrial”, basadas sobre saltos tecnológicos de enorme impacto, incluyendo la robótica, la nanotecnología, la computación cuántica e internet de las cosas, ente otras. También blockchain y, en lo que nos interesa especialmente, la “inteligencia artificial”, que son avances que pueden contornear el modelo de Justicia 4.0 al que hacemos referencia. Desde luego que este nuevo paradigma 4.0. no está aún consolidado. Por el contrario. (2) Ver https://www.opengovpartnership.org/ (3) Para acceder a una enumeración enunciativa, ver Anexo. 146 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen Por eso planteamos aquí un paradigma de justicia que ofrece un nuevo salto evolutivo en términos técnicos y conceptuales: el paradigma 4.0, que consiste en la aplicación de las tecnologías más evolucionadas y disruptivas. Especialmente, y en una primera instancia, la llamada “inteligencia artificial” –IA– y el uso extendido de blockchain o cadena de bloques. En el corto plazo, este innovador modelo inicialmente convivirá con sus formatos anteriores (1.0, 2.0 o 3.0), pero posee el potencial de mejorar radicalmente muchas tareas y actividades judiciales, y lograr una efectiva revolución en materia de eficiencia, transparencia, apertura y mejor gestión. En el presente trabajo nos enfocaremos en concreto en algunos usos posibles de la inteligencia artificial. 2. El problema de la sobrecarga informativa. Hacia un modelo de “apertura asistida mediante sistemas de IA” La llamada “cuarta revolución industrial” (Schwab, 2017) tiene su base en el aumento exponencial de dos factores: capacidad de almacenamiento y velocidad de procesamiento de la información y de los datos (Corvalán, 2017, p. 1). Esto implica la existencia –y eventualmente, disponibilidad– de una enorme masa de información. A partir de la explosión del Big Data, se suma otro gran desafío. El volumen de información producida crece a una velocidad vertiginosa, de casi un 30% al año. Esto significa que cada tres años se dispone de más información nueva que la generada en toda la historia de la humanidad. La única manera de gestionar esa información es mediante el uso de tecnologías digitales (Cepal, 2018). En el sector público, los datos y la información suelen estar dispersos, ser incompletos e inconsistentes, no estar disponibles o no ser interoperables. Incluso, en muchos casos no se registran ni almacenan. Es decir, no agregan valor ni permiten extraer patrones relevantes que favorezcan optimizar y simplificar la gestión estatal. Este medio ambiente hipersaturado de datos es el generador del denominado “síndrome de fatiga por exceso de información”, también conocido como “de sobrecarga informativa” u “opacidad por exceso”. Aquí se observa una paradoja: cuantos más datos e información se “suben” al mundo digital, más difícil resulta encontrarlos y procesarlos por parte de los ciudadanos. Como afirma Diana Galetta (2018; s/f) la “opacidad por confusión” (p. 143) puede causar, paradójicamente, desinformación. El “síndrome de fatiga por exceso de información” es lo que puede ocurrirle a una persona expuesta a una enorme cantidad de información, disponible de manera relativamente ilimitada, que puede ser generadora paradojal de una parálisis derivada de la imposibilidad de procesar y decodificar la gran cantidad de datos a los que puede acceder. Es que ese monstruoso volumen de datos e información no puede ser abordado de manera eficiente por las personas humanas. Ante este problema que enfrentan las organizaciones públicas y privadas es necesario innovar. El desafío es múltiple: se necesita mayor apertura, sistematización, decodificación, Justicia Abierta: aportes para una agenda en construcción | 147 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos facilitación, simplificación, sencillez y lenguaje claro, etc. Todos estos principios y postulados son claves para gestionar los datos e información que se produce en la justicia. Es aquí donde aparecen las nuevas tecnologías como herramientas indispensables. Se trata de ayudar a que las personas procesen de manera más eficiente el volumen formidable de datos e información. En este escenario se plantean varios interrogantes: ¿cómo lograr que el Estado ponga a disposición de los interesados el conocimiento de manera efectiva?, ¿de qué otra manera se puede abrir la justicia?, ¿cómo hacer para simplificar y optimizar el acceso a los datos, a la información y a los patrones de información que genera la justicia? O bien, ¿cómo hacemos para que los ciudadanos puedan acceder a respuestas concretas, útiles, sencillas, claras y específicas? Las respuestas tienen múltiples aristas pero, para concretarlo en una propuesta, podríamos decir que una solución posible es optimizar la apertura judicial a partir de la figura del “asistente”, que puede configurarse como un “agente conversacional”. Hablamos de una entidad que debe asumir esa tarea y que permite lograr mejores resultados. Veamos con mayor detalle. El modelo de “asistente humano” existe en algunos sistemas comparados. Por ejemplo, bajo la forma de “responsable”, como ocurre en materia de procedimiento administrativo en Italia, donde se instituyó una figura encargada de ser el referente del ciudadano a lo largo del procedimiento, que acompaña a la persona –que carece de la competencia y las posibilidades para hacerlo– en el camino para informarse sobre los procesos políticos y administrativos (Galetta, 2018, p. 143). Ahora bien, la “apertura asistida” que proponemos se basa en sistemas de inteligencia artificial (IA) que pueden y en muchos casos deben convivir con asistencia e intervención humana. Por eso podríamos hablar de “asistencia híbrida” a partir de combinar sistemas de IA con asistencia humana. En este paradigma que planteamos, la asistencia mediante IA tiene varios niveles según dos grandes factores: 1) la apertura que se proponga; y 2) la relación con las necesidades del ciudadano y de los operadores jurídicos. Como si se tratara de abrir un gran dique que contiene una masa de agua descomunal, es necesario que exista una dosificación y una filtración del agua que pasa por él. Como veremos, este tipo de asistencia aporta a la apertura la dosis, la precisión y la accesibilidad necesarias para satisfacer el auténtico objetivo de dicha apertura: permitir el acceso al conocimiento por parte del ciudadano. 3. Inteligencia artificial al servicio de la justicia. El caso “Prometea” y los agentes conversacionales “chatbots” La inteligencia humana se relaciona con una serie de capacidades o cualidades cognitivas relativamente autónomas que suelen clasificarse en “perfiles de inteligencia” o “inteligencias múltiples”. Ellas son: inteligencia social, 148 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen inteligencia lingüística (o musical), inteligencia lógico-matemática, inteligencia interpersonal e intrapersonal o emocional, inteligencia fluida, entre otras (Gardner, 2010, p. 52 y ss.; 2013, p. 17). En esencia, el cerebro humano controla la capacidad para procesar la información proveniente del entorno y de nuestro propio cuerpo, que se utiliza para evaluar y elegir futuros cursos de acción. Y aquí entra en escena el proceso de toma de decisiones y la evaluación, que consiste en seleccionar, recortar y organizar la información disponible (ampliar en Corvalán, 2017a; Corvalán, 2017b). A partir de la inteligencia humana se han desarrollado múltiples y diversas innovaciones tecnológicas. La que aquí nos ocupa tiene que ver con el procesamiento de la información para resolver problemas y tomar decisiones a partir de máquinas que operan a través de los llamados algoritmos inteligentes. La IA se sustenta en algoritmos inteligentes o en algoritmos de aprendizaje que, entre muchos otros fines, se utilizan para identificar tendencias económicas, vaticinar delitos, diagnosticar enfermedades, predecir nuestros comportamientos digitales, etc. Un algoritmo puede ser definido como un conjunto preciso de instrucciones o reglas, o como una serie metódica de pasos que puede utilizarse para hacer cálculos, resolver problemas y tomar decisiones. El algoritmo es la fórmula que se emplea para hacer un cálculo (Cepal, 2018; Domingos, 2015). Durante las últimas décadas se han utilizado diferentes métodos para desarrollar algoritmos utilizando grandes volúmenes de datos e información (algunos métodos son: redes neuronales, algoritmos genéticos, aprendizaje por refuerzo, entre otros). En esencia, a partir de la aplicación de IA se busca que las tecnologías permitan que los sistemas computacionales adquieran: autodependencia, reconfiguración autoadaptativa, negociación inteligente, comportamiento de cooperación y supervivencia con intervención humana reducida, entre otros rasgos. Y todo esto supone la utilización de diferentes técnicas que se basan en el reconocimiento de patrones a fin de resolver problemas, maximizar objetivos y optimizar el procesamiento de información. Los algoritmos inteligentes serán cada vez más determinantes para simplificar los entornos, optimizar las actividades del ser humano y maximizar resultados u obtener otros que, sin IA, serían imposibles de conseguir a partir de nuestras capacidades cognitivas frente a masas enormes de datos. A través de sistemas de IA se tiende a reducir o a eliminar los juicios distorsionados, inexactos, las interpretaciones ilógicas o irracionales que se verifican cuando los cerebros humanos procesan datos e información. Se trata, en esencia, de gestionar complejidad e incertidumbre, a partir de reducir sesgos cognitivos y optimizar el “manejo” (reducir tiempos-costos) de los datos-información-patrones que sustentan actividades y decisiones humanas (Luhman, 2005, p. 10; 2010, pp. 220-225). En este contexto, aunque inicialmente la inteligencia artificial ha sido utilizada por el sector privado, también es clave para el desarrollo económico y social de los países mediante su adopción por el sector público, tal como lo Justicia Abierta: aportes para una agenda en construcción | 149 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos demuestra la Cepal en un reciente informe (2018), donde se acentúa que la IA también puede utilizarse para el desarrollo económico y social, a partir de los objetivos para el desarrollo sostenible adoptados por la ONU en el año 2015 (Agenda 2030 para el Desarrollo Sostenible; Naciones Unidas, 2012, p. 45; 2016, cons. 31). El Estado, pues, también tiene a su disposición esta valiosa herramienta para alcanzar esos objetivos. Aparece en este marco el concepto de “burocracia estatal inteligente” –o burocracia 4.0–. Esta noción, donde se incluye la de Justicia 4.0, presupone adoptar un nuevo paradigma: la transición progresiva de un modelo digital hacia uno de inteligencia híbrida, que combine inteligencia humana con inteligencia artificial. Esto implica un doble desafío, vinculado a una doble transición para los Estados. Mientras se va hacia un gobierno integrado y digital, (4) hay que repensar las estrategias para vincular los datos, el conocimiento y los patrones de información con los sistemas de IA, y la de estos con la inteligencia humana. La clave de esta última transición hacia Estados inteligentes y, particularmente a los poderes judiciales inteligentes, viene dada por la gobernanza de los datos y de la información. Si los Estados comienzan a desarrollar un modelo de inteligencia híbrida basado en sistemas de IA, se potenciarán las capacidades del sector público para favorecer los procesos de toma de decisiones basados en evidencia, de reducir costos de transacción, de realizar evaluaciones de impacto y de costos ex ante y ex post, de identificar/eliminar/remplazar regulaciones o cargas administrativas innecesarias, obsoletas, insuficientes o ineficientes y, especialmente para el tema analizado, de promover la facilidad de acceso mediante una interfaz amigable. Ahora bien, todo lo que aquí exponemos no es mera especulación teórica. Por el contrario, la inteligencia artificial es una realidad que está en pleno desarrollo en nuestro sistema judicial de una forma inédita, aun considerando el ámbito internacional. Nos referimos al caso “Prometea”. 3.1. El Ministerio Público Fiscal de la Ciudad de Buenos Aires. El caso “Prometea” Prometea (Luna, 2017; Corvalán, inédito; Corvalán, 2017a) es una IA creada en Argentina, en el ámbito del Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires que combina predicción con diferentes capas de asistencia digital. Además, esta IA se aplica actualmente en tres procesos en el ámbito de la Corte Interamericana de Derechos Humanos (en adelante, Corte IDH) y ha sido presentada en algunas de las instituciones más importantes del mundo. (4) Un estudio de 2012 de las Naciones Unidas observa que muchos de los Estados miembros están pasando de un modelo de organización de propósito único y descentralizado a un modelo de gobierno integrado, unificado y de conjunto, lo que contribuye a la eficiencia y a la eficacia. El modelo tiene como objetivo centralizar el punto de entrada de la prestación de servicios en un portal único donde los ciudadanos puedan acceder a todos los servicios que suministra el gobierno, independientemente de qué autoridad gubernamental proporciona ese servicio. (Naciones Unidas, 2012, p. 85). 150 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen Bajo la técnica de lo que se conoce como “aprendizaje automático supervisado”, Prometea es una optimizadora exponencial de los procesos burocráticos. Pero, además, este sistema de IA es una combinación de tres capas de innovación que funcionan en conjunto. Primero: utiliza el enfoque de pantalla integrada, elimina clics y la apertura de múltiples ventanas en el ordenador. En una única pantalla, el usuario tiene a disposición todos los recursos para realizar su trabajo. Segundo: funciona como asistente virtual a partir del reconocimiento de voz o de procesamiento de lenguaje natural (tipo chatbot). De ese modo logra controlar cuestiones relativas a plazos y formas en relación a todos los expedientes judiciales sobre los cuales se dictamina ante el Superior Tribunal de Justicia de la Ciudad de Buenos Aires. Por ejemplo, a partir de cinco preguntas es capaz de completar de forma íntegra el dictamen del fiscal por el que se debe rechazar un recurso por extemporáneo. Tercero: funciona de manera predictiva. En 20 segundos en promedio logra obtener la solución aplicable a partir de ingresar solamente el número de caso a resolver. Esta tarea es llevada a cabo a partir de la lectura y el reconocimiento de patrones de las decisiones judiciales de las anteriores instancias que se encuentran disponibles en la web. Una vez que Prometea detecta la solución, permite al usuario completar el dictamen a partir de unas pocas preguntas y muestra una vista preliminar del documento final, el cual puede ser editado en línea. Es decir que el primer proyecto de documento es generado automáticamente por la IA. En conclusión, la justicia 4.0 es posible y sirve como experiencia para extender la innovación hacia otros procesos, esencialmente en la ecuación ciudadanooperador jurídico-Poder Judicial. Sistemas que utilicen inteligencia artificial en la interfaz, como es el referido “Prometea”, pueden ser aplicados para servir de “asistente virtual” para que los ciudadanos realicen un acercamiento intuitivo, fácil, directo y amigable con el Poder Judicial, favoreciendo una “apertura asistida” de la justicia. Esa asistencia debe ser realizada por múltiples canales, incluido –especialmente– el tradicional contacto “humano a humano”. Si bien esta IA es desarrollada en una primera etapa para uso por los agentes públicos que trabajan con actuaciones –back office–, la idea es desarrollar estos sistemas para que estén también al servicio del ciudadano bajo la modalidad de asistencia virtual –front office–. 4. Agentes conversacionales o “chatbots” para una apertura asistida Suponga, nuevamente, que quiere acceder a una sentencia o a información estadística sobre cómo se resuelve actualmente un determinado caso según los criterios más difundidos. Ahora se conecta, interactúa con un agente conversacional –del tipo Siri, del iPhone o el asistente de Waze para el tráfico–, y luego de algunas preguntas el sistema presenta la información para que usted la pueda leer o descargar donde se encuentre. Eso es, sin dudas, simplificar de modo inédito el acceso a la justicia. Aunque suene irreal, desde el plano Justicia Abierta: aportes para una agenda en construcción | 151 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos tecnológico es relativamente fácil de implementar, aunque sea complejo desde otros ángulos: por ejemplo, lograr que la información sea interoperable, que exista una adecuada gobernanza de datos, que se garantice acceso a internet, que se capacite y forme a las personas para trabajar en su desarrollo y adaptarse a este tipo de interacciones, etc. En esencia, la lógica de un agente conversacional –también llamado chatbot–, responde a un nuevo paradigma que se desarrolló a fines de la década pasada. Uno de sus impulsores es Tom Gruber,(5) cofundador de la empresa Siri Inc. (2007), creadora de la inteligencia artificial del mismo nombre, que luego fue adquirida por Apple en 2010. El concepto para definir a un asistente personal basado en IA se vincula con la “inteligencia en la interfaz”. Esto implica que la interfaz sabe mucho sobre el usuario, lo entiende en contexto, es proactiva y se vuelve mejor con la experiencia (Gruber, 2008). La inteligencia en la interfaz cambia el paradigma con el cual se interactúa en internet. En una primera fase de avance encontramos el modelo “Hansel y Gretel”. Aquí el usuario elige el recorrido y la tecnología une los puntos, como ocurre con los hipervínculos. En esta primera etapa, el rol del usuario implica continuar el recorrido hecho por los enlaces, mientras que la tecnología se limita a conectar los distintos elementos en internet. Por eso también se lo llama “migas de pan en el bosque”. La segunda es el modelo “portal” donde el usuario elige un canal y la tecnología le transmite el contenido, como ocurriría en el “broadcasting”. En este caso, la tecnología permitía un flujo de datos constante, sin interrupciones, a partir del cual los usuarios podían comunicarse o adquirir información. En una tercera fase aparece la lógica de los motores de búsqueda o “palabras mágicas”, donde el usuario establece qué quiere buscar y la tecnología encuentra contenido relevante y de calidad para devolver. En este caso puede citarse al gran ejemplo: Google. Esta empresa ha indexado y organizado el contenido de internet de forma que es posible acceder a los contenidos más importantes a partir de brindarle solo algunas palabras relativas a lo que se busca. Por último, llegamos al paradigma de la inteligencia en la interfaz, donde el usuario simplemente interactúa de modo “natural” y la tecnología resuelve los problemas, mediante conexiones con diferentes sistemas que pueden responder a las necesidades de la persona a partir del “aprendizaje” del sistema. Dentro de este paradigma es que aparece como una de sus modalidades el concepto de “agente conversacional”. Estos asistentes están comenzando a ocupar un rol central en la organización 4.0. Esta modalidad de asistencia virtual permite acceder más rápido a la información, organizar calendarios y gestionar diversas tareas. Todo depende, en gran medida, de cual sea el sistema de inteligencia artificial que lo sustenta. Para ver en acción una versión básica de estos sistemas en el sector público (5) Véase el sitio oficial de Tom Gruber: www.tomgruber.org, y especialmente: http://tomgruber.org/bio/bio.htm 152 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen puede accederse al “BA147”, el asistente virtual del Gobierno de la Ciudad de Buenos Aires. Este chatbot se presenta como un primer punto de acceso para obtener información de los servicios estatales, orientación en general, requerir ayuda para requerir turnos, realizar solicitudes y, eventualmente, para evacuar ciertas dudas relativas a los servicios públicos del Estado local. Ahora bien, la simplificación que producen estos asistentes digitales es muy importante frente a los escenarios burocráticos clásicos. Básicamente, los agentes conversacionales optimizan radicalmente la ecuación ciudadanoservicios. Que las personas puedan acceder a información de modo extremadamente sencillo, respondiendo dos o tres preguntas, “chateando”, interoperando con agentes automáticos que lo orienten y le permitan alcanzar la información que buscaban de modo rápido, intuitivo y eficaz, constituye un aporte enorme a la pretendida “accesibilidad” ciudadana al acervo de datos y servicios estatales. Pero eso no significa que los usuarios necesariamente estén contentos o satisfechos con las respuestas de estos agentes conversacionales. Existen estudios que demuestran lo contrario (Luger & Sellen, 2016). Sin embargo, las utilidades que pueden proporcionar estos “sabuesos artificiales” van mucho más allá de una simple asistencia y sin dudas facilitan, orientan y permiten acceder a la información de manera inmediata, ordenada y útil. En esencia, hay tres grandes sistemas de agentes conversacionales. El primero es el más básico y el que más se ha usado en estos últimos años. Se entrena al sistema a partir de preguntas preconfiguradas, a la vez que se ofrece en la misma pantalla preguntas más frecuentes sobre ciertos temas o los servicios más usuales, procesando el lenguaje para interpretar el deseo del usuario mediante una técnica de red neuronal o machine learning que interactúa con el interesado mediante un diálogo dirigido por preguntas. El BA147 es un ejemplo de este sistema. (6) La segunda versión de estos agentes conversacionales se vincula con sistemas de inteligencia artificial más sofisticados (redes neuronales profundas). Aquí se pueden generar diálogos abiertos porque las redes suelen modelar conversaciones como una cuestión de predicción de la siguiente oración o de la posible respuesta en base a la conversación anterior. La tercera versión, la más sofisticada de estos agentes conversacionales, es la que recientemente presentó un equipo de investigadores de Microsoft y algunas universidades. Aquí se presenta un modelo de diálogo basado en imágenes que combina el reconocimiento de escenas y sentimientos con un modelo de lenguaje natural. La idea es que el agente conversacional puede expresar más “emoción” y para eso se permite incluir información visual en la conversación (distintas imágenes, objetos, escenas y expresiones faciales). El (6) Ver el sitio: http://www.buenosaires.gob.ar/ Justicia Abierta: aportes para una agenda en construcción | 153 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos sistema fue entrenado y probado en un millón de conversaciones reales en las redes sociales (Huber et al, 2018). En este modelo avanzado de agente conversacional las preguntas y respuestas se contextualizan. Según los investigadores, la “conexión a tierra” de la imagen genera respuestas significativamente más informativas, emocionales y específicas. Incluso, otras investigaciones señalan que estos agentes deben ser informativos y empáticos para participar en conversaciones (Bickmore & Casell, 2001, pp. 293-327; Bickmore & Pickard, 2005, pp. 293-327; Casell et al, 2000, pp. 29-63). Más allá de las diferentes modalidades de agentes conversacionales, lo cierto es que a través de ellos se puede facilitar la interacción entre la explosión de información y el ciudadano. Mediante esta “inteligencia en la interfaz”, el usuario simplemente interactúa con la organización estatal, ya sea hablando tal como sucede con Siri, de Apple, Alexa de Amazon, Prometea del Ministerio Público Fiscal de CABA, o bien chateando con esos mismos sistemas, mediante agentes conversacionales tipo WhatsApp. Prometea, por ejemplo, funciona en ambas modalidades tanto en el Ministerio Público de la Ciudad de Buenos Aires como en la Corte IDH, organismos donde ya está operativo. Sobre esta base se puede reforzar el desarrollo del paradigma de Justicia Abierta, inteligente e inclusiva (Justicia 4.0). 5. Hacia una Justicia 4.0: abierta, inteligente e inclusiva Cuando planteamos un nuevo paradigma de justicia bajo este enfoque aludimos a la adopción de nuevas tecnologías para potenciar y mejorar los derechos de acceso de los ciudadanos. Es decir, aquí la tecnología es clave para optimizar derechos y simplificar burocracia. Por eso, aunque se postule su accesoriedad al servicio del ser humano, en realidad adquiere un protagonismo central; sin ella, sería prácticamente imposible concretar una mejora sustancial en el ejercicio de los derechos. Bajo este enfoque no pretendemos poner al ser humano al servicio de la tecnología. Desde ya, la idea es la opuesta. Sin embargo, a partir de saber cómo funcionan las nuevas tecnologías, se pueden desplegar estrategias y reformas sustanciales en torno a una organización que se desarrolló para gestionar los datos y la información a la luz de otras tecnologías. Diseñar la burocracia de cara al papel es bastante diferente que hacerlo para un esquema digital. Por eso también habrá que repensar y establecer una reingeniería de flujos y procesos si se pretende aplicar sistemas de inteligencia artificial. Podríamos decir que la tecnología, en gran medida, condiciona la lógica que conlleva el almacenamiento y la gestión de los datos y la información. Y a su vez, todo esto repercute de forma directa en la efectividad de los derechos de las personas. Ahora bien, como la Justicia Abierta es un concepto que integra otro más amplio vinculado a la gobernanza estatal y al Estado Abierto, aquí solo nos 154 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen enfocamos en la posible adopción de la inteligencia artificial para simplificar y optimizar exponencialmente la ecuación ciudadanos-datos/información/patrones de información-poderes judiciales. En ese sentido, es factible utilizar, por ejemplo, el reconocimiento de voz para que mediante un asistente digital se pueda “traer” una decisión judicial o cierta información que esté en la web o en un portal de manera rápida y certera. La apertura asistida se vincula con ejemplos como el anterior. En este punto, podemos efectuar una síntesis a partir de separar tres capas en las que se puede innovar a partir del uso de la inteligencia artificial, en aporte al concepto de justicia inteligente y abierta. Primer nivel de apertura asistida (básico). La idea central es reducir clics, pasos y apertura de “ventanas” en el mundo virtual para que el asistente digital sea quien nos ahorre tiempo y “burocracia digital” en la obtención de la información en general. La “inteligencia” aquí está puesta en lograr mayor eficacia en el acceso a información estática que suele alojarse en el ciberespacio. En este nivel, entre otros, podemos encontrar como ejemplos la facilitación de información básica de la organización, de trámites, turnos y cuestiones vinculadas a formularios para trámites específicos (como el ya referido chatbot del BA147). Segundo nivel de apertura asistida (intermedio). Aquí la idea básica es orientar al ciudadano frente a determinadas interacciones que se generan en el ámbito judicial. En este nivel se busca una respuesta personalizada ante una consulta particular del ciudadano, y se refiere esencialmente a brindar información útil dentro de los trámites y gestiones que involucran al interesado. Por ejemplo, cuando la persona recibe una cédula de notificación y desea conocer cuestiones básicas en torno a esa intimación judicial. Podría aplicarse también como herramienta de información del ciudadano cuando posee cuestiones litigiosas o que pueden devenir en litigio, que permita darle una orientación acerca de cuál es su situación y el pronóstico de la misma (por ejemplo, ante dudas de carácter tributario). En el Ministerio Público, actualmente estamos trabajando en un asistente digital que podría orientar al ciudadano ante problemáticas vinculadas con su competencia, por ejemplo, en caso de recibir intimaciones judiciales en relación a deudas tributarias locales. Adviértase que en el ámbito de la Ciudad Autónoma de Buenos Aires, se encuentran en trámite más de un millón de ejecuciones fiscales (Consejo de la Magistratura de la Ciudad Autónoma de Buenos Aires, 2018). Tercer nivel de apertura asistida (avanzado). En este nivel se pretende que el asistente digital pueda ser capaz de acceder, reconocer patrones y luego asistir al ciudadano en cuestiones más complejas. Por ejemplo, desde un mero análisis estadístico –como cuántas sentencias dictó un tribunal en materia de caducidad y con qué estándares de respuesta jurídica–, hasta cuestiones de inteligencia predictiva, como el análisis de una posible respuesta judicial a un caso concreto sobre la base de antecedentes y patrones de respuestas de casos similares. Justicia Abierta: aportes para una agenda en construcción | 155 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos Actualmente los sistemas de inteligencia artificial pueden realizar estas tareas, de modo que sería posible aplicarlas en el ámbito judicial. En el caso del Ministerio Público Fiscal, se está evaluando la implementación de Prometea para tales fines. Estos niveles, por otra parte, no son excluyentes. Por el contrario, la idea es sumar “capas de apertura asistida” que permiten mejorar progresivamente la calidad en el acceso al conocimiento, por un lado y, a su vez, la optimización de los derechos de acceso que están en juego. Incluso, además de alcanzar otras ventajas vinculadas con la apertura y la accesibilidad, los sistemas de IA son claves para garantizar el acceso a personas con discapacidad. Por ejemplo, un sistema inteligente capaz de detectar el contenido relevante de un sitio web o de un documento, y transmitirlo de forma acorde a las necesidades particulares de cada persona es uno de los beneficios que el desarrollo de la inteligencia artificial puede lograr. A modo de ejemplo, la utilización de reconocimiento de imágenes para describir lo que se encuentra presente en ellas sería una herramienta útil, por ejemplo, para las personas con discapacidad visual. En síntesis, se trata de avanzar en innovaciones que permitan favorecer la inclusión: la “innovación inclusiva”. En el caso de la apertura de la justicia, aplicar avances como la inteligencia artificial a efectos de lograr que las personas logren un acceso y una comprensión más acabada de su situación respecto de una causa judicial o un problema jurídico posee una gran perspectiva como herramienta útil al servicio de la justicia y los derechos. 6. Anexo Resolución 72/189 de la Asamblea General de las Naciones Unidas, “Promoción de la integración social mediante la inclusión social”, A/72/189, 21/07/ 2017. Recuperado de: http://undocs.org/es/A/72/189 Resolución 72/167 de la Asamblea General de las Naciones Unidas, “Oficina de las Naciones Unidas para las Asociaciones de Colaboración”, A/72/167, 18/07/2017. Recuperado de: http://undocs.org/es/A/72/167 Resolución 72/167 de la Asamblea General, “Oficina de las Naciones Unidas para las Asociaciones de Colaboración”, A/72/167, 18/07/2017. Recuperado de: http://undocs.org/es/A/72/167 Resolución 71/212 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/71/212, 18/01/2017. Recuperado de: https://undocs.org/es/A/RES/71/212 Informe sobre el 20º período de sesiones (8 a 12 de mayo de 2017) de la Comisión de Ciencia y Tecnología para el Desarrollo, Consejo Económico y Social, Naciones Unidas, E/2017/31 E/CN.16/2017/4, 30/06/2017. Recuperado de: https://undocs.org/es/E/2017/31 156 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen Resolución 72/189 de la Asamblea General de las Naciones Unidas, “Promoción de la integración social mediante la inclusión social”, A/72/189, 21/07/ 2017. Recuperado de: http://undocs.org/es/A/72/189 Resolución 72/257 de la Asamblea General de Naciones Unidas, “Ciencia, tecnología e innovación para el desarrollo”, A/72/257, 31/07/2017. Recuperado de: http://undocs.org/es/A/72/257 Asamblea General de la Organización de los Estados Americanos, “Impulsando iniciativas hemisféricas en materia de desarrollo integral”, Cancún (México), AG/RES. 2904 (XL VII-O/17), Cuadragésimo Séptimo Período Ordinario de Sesiones, 20/06/2017. Recuperado de: http://www.oas.org/consejo/sp/ AG/resoluciones-declaraciones.asp Relatoría Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos, Estándares para una internet libre, abierta e incluyente, Washington DC (Estados Unidos), OEA/Ser.L/V/II CIDH/RELE/ INF.17/17, 15/03/2017. Recuperado de: http://www.oas.org/es/cidh/expresion/ docs/publicaciones/INTERNET_2016_ESP.pdf Asamblea General de la Organización de los Estados Americanos, Impulsando iniciativas hemisféricas en materia de desarrollo integral, Santo Domingo (República Dominicana), Cuadragésimo Sexto Período Ordinario de Sesiones, AG/RES. 2881 (XLVI-O/16), 14/06/2016. Recuperado de: http://www.oas.org/ consejo/sp/AG/resoluciones-declaraciones.asp Gobierno electrónico en Apoyo al Desarrollo Sostenible, Departamento de Economía y Asuntos Sociales, Naciones Unidas, 2016. Recuperado en versión original de: http://workspace.unpan.org/sites/Internet/Documents/ UNPAN97453.pdf Resolución 70/125 de la Asamblea General de las Naciones Unidas, “Documento final de la reunión de alto nivel de la Asamblea General sobre el examen general de la aplicación de los resultados de la Cumbre Mundial sobre la Sociedad de la Información”, A/RES/70/125, 01/02/2016. Recuperado de: https:// documents-dds-ny.un.org/doc/UNDOC/GEN/N15/438/46/PDF/N1543846. pdf?OpenElement Resolución 70/184 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/70/184, 04/02/2016. Recuperado de: http://www.un.org/es/comun/docs/?symbol=A/RES/70/184 Resolución 69/204 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/69/204, 21/01/2015. Recuperado de: http://undocs.org/sp/A/RES/69/204 Resolución 68/198 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/68/198, 15/01/2014. Recuperado de: http://undocs.org/es/A/RES/68/198 Justicia Abierta: aportes para una agenda en construcción | 157 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos Asamblea General de la Organización de los Estados Americanos, Declaración de Asunción: desarrollo con inclusión social. Asunción (Paraguay), 04/06/2014, Cuadragésimo Cuarto Período Ordinario de Sesiones, AG/DEC. 74 (XLIV-O/14). Recuperado de: http://www.oas.org/consejo/sp/AG/resoluciones-declaraciones.asp Resolución 67/195 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/67/195, 05/02/2013. Recuperado de: http://undocs.org/sp/A/RES/67/195 Resolución 66/184 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/66/184, 06/02/2012). Recuperado de: http://undocs.org/sp/A/RES/66/184 Resolución 65/141 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/65/141, 02/02/2011. Recuperado de: http://undocs.org/sp/A/RES/65/141 Resolución 64/187 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/64/187, 09/02/2010. Recuperado de: http://undocs.org/sp/A/RES/64/187 Resolución 63/202 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/63/202, 28/01/2009. Recuperado de: http://undocs.org/sp/A/RES/63/202 Resolución 62/182 de la Asamblea General, “Las tecnologías de la información y las comunicaciones para el desarrollo”, A/RES/62/182, 31/01/2008. Recuperado de: https://undocs.org/es/A/RES/62/182 Declaración de Principios de la Cumbre Mundial sobre la Sociedad de la Información, Unión Internacional de Telecomunicaciones (UIT), organismo especializado de las Naciones Unidas para las Tecnologías de la Información y la Comunicación, Documento WSIS-03/GENEVA/4-S, 12/05/2004. Recuperado de: http://www.itu.int/net/wsis/docs/geneva/official/dop-es.html 7. Bibliografía Bickmore, T. & Casell, J. (2001). Agentes relacionales: un modelo e implementación de la construcción de la confianza del usuario. Actas de la conferencia SIGCHI sobre factores humanos en sistemas informáticos. ACM, pp. 396-403. Bickmore, T. & Picard, R. (2005). Establecimiento y mantenimiento de relaciones humano-computadora a largo plazo. Transacciones de ACM en interacción computadora-hombre (TOCHI), pp. 2, 12, 293-327. Casell, J., Bickmore, T., Campbell, L.; Vilhjálmsson, H. & Yan, H. (2000). Conversación como un marco de sistema: diseño de agentes conversacionales encarnados. Redacción de agentes conversacionales, pp. 29-63. Comisión Económica para América Latina y el Caribe (Cepal). (2018). Datos, algoritmos y políticas: la redefinición del mundo digital (LC/CMSI.6/4), Santiago. 158 | Ediciones SAIJ < Ministerio de Justicia y Derechos Humanos de la Nación Juan G. Corvalán – Gustavo Sá Zeichen Consejo de la Magistratura de la Ciudad Autónoma de Buenos Aires. (2018). Sistema de gestión y tablero de control en la Justicia 2014-2015. Juzgado en lo Contencioso Administrativo y Tributario de la CABA N° 19. Juez: Juan Gustavo Corvalán. Buenos Aires: Jusbaires. Corvalán, J. G. (29 de septiembre de 2017). La primera inteligencia artificial predictiva al servicio de la Justicia: Prometea. La Ley, (186), año LXXXI. Recuperado de: http:// thomsonreuterslatam.com/2017/10/la-primera-inteligencia-artificial-predictiva-alservicio-de-la-justicia-prometea/ —————– (2017). L’algorithme et les droits de l’Homme (Inteligencia artificial y derechos humanos). Conseil D’État, Étude annuelle 2017. Puissance publique et plateformes numériques: accompagner l’ubérisation. Assemblée générale du Conseil d’État. Recuperado el 18 de septiembre de 2018 de: http://www.ladocumentationfrancaise.fr/var/storage/rapports-publics/174000714.pdf, p. 179 y ss. —————– (s/f). Inteligencia artificial para transformar la burocracia estatal. Inédito. Domingos, P. (2015). The master algorithm: how the quest for the ultimate learning machine will remake our world. New York: Basic Books. Galetta, D. U. (2018). Transparencia y buen gobierno. Evaluación y propuestas a partir de la experiencia en la Unión Europea e Italia. Dilemata, Revista Internacional de Éticas Aplicadas (27), año 10. —————- (s/f). Digitalización y transparencia: ¿un “responsable de la transparencia” y su “asistente digital” como herramientas del buen gobierno del futuro? Inédito. Gardner, H. (2010). La inteligencia reformulada. Madrid: Paidós. ————– (2013). Las cinco mentes del futuro. Buenos Aires: Paidós. Gruber, T. (2008). Intelligence at the Interface: Semantic Technology and the Consumer Internet Experience. Semantic Technologies Conference. Recuperado el 18 de septiembre de 2018 de: http://tomgruber.org/writing/semtech08.pdf Huber, B., Mcduff, D., Brockett, C., Galley, M. & Dolan, B. (s/f). Generación de Diálogo Emocional usando la Imagen-Puesta a Tierra. Recuperado el 18 de septiembre de 2018 de: https://www.microsoft.com/en-us/research/uploads/prod/2018/04/huber2018chi.small_.pdf Luna, N. (24 de noviembre de 2017). Prometea: una inteligencia artificial para ayudar a la Justicia porteña. Diario La Nación. Recuperado el 18 de septiembre de 2018 de: https://www.lanacion.com.ar/2084991-prometea-una-inteligencia-artificial-paraayudar-a-la-justicia-portena Luger, E. & Sellen, A. (2016). Como tener un PA realmente malo: el abismo entre la expectativa del usuario y la experiencia de los agentes conversacionales”. Actas de la Conferencia CHI 2016 sobre Factores Humanos en Sistemas Informáticos. ACM, pp. 5286-5297. Justicia Abierta: aportes para una agenda en construcción | 159 Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos Luhmann, N. (1998). La sociedad de la sociedad. México: Herder. ————— (2005). Confianza. México: Universidad Iberoamericana. ————— (2010). Organización y decisión. México: Herder. Naciones Unidas, Departamento de Asuntos Económicos y Sociales. (2012). Estudio de las Naciones Unidas sobre el Gobierno Electrónico, 2012. Gobierno electrónico para el pueblo. Recuperado el 18 de septiembre de 2018 de: https://publicadministration.un.org/egovkb/Portals/egovkb/Documents/un/2012-Survey/CompleteSurvey-Spanish-2012.pdf Naciones Unidas, Consejo Económico y Social. (2016). Foro de múltiples interesados sobre la ciencia, la tecnología y la innovación en pro de los Objetivos de Desarrollo Sostenible: resumen de los Copresidentes, Res. E/HLPF/2016/6. Recuperado el 19 de septiembre de 2018 de: https://digitallibrary.un.org/record/833657/files/E_ HLPF_2016_6-ES.pdf Sá Zeichen, G. (2018). Cuaderno de Derecho Judicial 28: Sistema de Justicia y Gobierno Abierto ¿Es viable una Justicia Abierta? Buenos Aires: La Ley. Schwab, K. (2017). La cuarta revolución industrial. Buenos Aires: Debate.


Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.