nova página do texto(beta)
Espanhol (pdf)
Artigo em XML
Referências do artigo
Tradução automática
Enviar este artigo por email
Citado por SciELO 
Similares em
SciELO 
Permalink
1. Introducción
En el año 2019 en British Columbia se utilizó el desarrollo Smartsettle ONE del doctor Ernest Thiessen para lograr un acuerdo de mediación. El uso de este robot mediador a partir de la inteligencia artificial (IA) permitió resolver un conflicto de tres meses en menos de una hora. Un entrenador personal le reclamaba a un cliente dos mil libras esterlinas por un curso de asesoramiento personal. Las partes decidieron utilizar el sistema de tribunal de reclamos de dinero en línea luego de un intento fallido de mediación telefónica y de una audiencia. Adoptaron el acuerdo a partir de la utilización de un sistema de ofertas y contraofertas que se identificaba con banderas de colores verde y amarillo como fuente de conocimiento.1
El sistema de IA utilizado permitió presentar las mejores ofertas sin que las partes las conocieran, de tal forma que premió a aquella que realizó un mayor esfuerzo para alcanzar el acuerdo. Sus creadores consideraron que el sistema podía ser atractivo para las compañías de seguros en casos de lesiones personales rutinarias. Entre las principales ventajas se mencionan, la rapidez de las ofertas, la reducción de los honorarios legales y la posibilidad de realizar ofertas de maneras secretas.2
Este supuesto ha traído a debate, nuevamente, el tema de la mediación electrónica y la posibilidad de que un sistema de IA pueda ser utilizado en dicho procedimiento. Al respecto surgen múltiples interrogantes, en particular hasta dónde puede esta tecnología sustituir o no la figura del mediador sin que ello suponga una desnaturalización del procedimiento de mediación como mecanismo alternativo de resolución de conflictos.
Para ello consideramos que debe distinguirse entre resolución extrajudicial de conflictos en línea, también llamados ODR (online dispute resolution), la mediación, la mediación electrónica y la mediación que utiliza sistemas de inteligencia artificial. Son estos los principales temas que serán abordados en el presente artículo que tiene como objetivo, analizar la utilización de sistemas de inteligencia artificial en el procedimiento de mediación. Para su realización se utilizaron los métodos de investigación, inducción -deducción, exegético-jurídico y teórico-jurídico, los que permitieron distinguir entre mediación y mediación electrónica, y entre esta y la que utiliza inteligencia artificial, tomando como punto de partida las limitaciones tecnológicas y jurídicas que al respecto existen.
La resolución extrajudicial de conflictos a partir del uso de las nuevas tecnologías y la mediación electrónica es una relación género-especie, de la que también forman parte la negociación, el arbitraje y otros medios de resolución de controversias. Aun cuando su desarrollo se ha visto asociado con la contratación electrónica, no se limita a esta y obedece a interrelaciones más complejas como es la inserción de la aplicación de la justicia en el sector digital. Lo que sin duda se revierte en un “redimensionamiento del concepto de tutela judicial efectiva, en el que tenga lugar una “idea más amplia de “acceso a la justicia” y en la promoción de otras vías de resolución de controversias”,3 los denominados tribunales multipuertas, en los que la reclamación sea “analizada de manera primaria pero suficiente, para determinar la vía más adecuada para intentar su resolución”,4 u otro tipo de acuerdos en mecanismos heterocompositivos como la audiencia previa del juicio ordinario o la mediación en el sistema arbitral de consumo, entre otros.
2. Mediación electrónica: principales peculiaridades
Como afirma Sáez de Heredia “uno de los mayores desafíos que nos encontramos a la hora de diseñar y ejecutar un proceso de resolución de disputas en red, es equilibrar e integrar el componente humano con la dimensión automatizada del proceso”.5 En este sentido aparecen al menos dos posibles soluciones, que el sistema complemente las competencias del ser humano o simplemente las sustituya. Este último supuesto es más complejo y requiere un análisis profundo sobre sus efectos en el sistema de administración de justicia.
En el ordenamiento jurídico español, por ejemplo, el artículo 24 de la Ley 5/ 2012 de 6 de julio sobre mediación en asuntos civiles y mercantiles, establece que las partes pueden acordar que todas o alguna de las actuaciones de la mediación se lleven a cabo por medios electrónicos, dígase videoconferencia u otro medio análogo de transmisión de voz e imagen, siempre y cuando quede garantizada la identidad de los intervinientes y el respeto a los principios de la mediación previstos en la Ley.6 Sin embargo, cuando la reclamación consista en una cantidad que no exceda de 600 euros la norma considera que se debe desarrollar preferentemente por medios electrónicos, salvo que el empleo de estos no sea posible para alguna de las partes.7 Este es el conocido como procedimiento simplificado de mediación, y cuya definición, según Bueno De Mata se refiere a la automatización, aun cuando a juicio del propio autor, ésta no se exprese claramente.8 El hecho es que en un mismo artículo estamos en presencia de dos supuestos, la mediación electrónica y la solución de controversias utilizando sistemas automatizados, los cuales tienen similitudes, pero también marcadas diferencias.
La mediación supone “la incorporación de un profesional especializado en resolución de conflictos, a un sistema dinámico de relaciones conflictivas entre dos o más personas, con el fin de ayudarlas a encontrar alternativas de solución. Este tercero es capaz de modificar la dinámica de poder de la relación conflictiva”.9 Sin embargo, cuando se realiza de manera electrónica no es más que un “instrumento de resolución extrajudicial de conflictos, que siguiendo los principios de toda mediación (voluntariedad, neutralidad…) tiene como nota o característica autónoma o sui generis la utilización de las nuevas tecnologías (en todo o parte del proceso) de manera que todas o algunas de las sesiones pueden llevarse a cabo de manera virtual a través de procedimientos electrónicos”.10
La mediación electrónica también denominada en la literatura como mediación online es entendida como “el proceso de mediación llevado a cabo a distancia, en forma virtual, en que el mediador y las partes utilizan medios electrónicos para comunicarse, es decir, que se desarrolla vía Internet en lugar del tradicional ambiente físico en el cual el procedimiento se lleva ‘cara a cara'”.11 Aunque, autores como Talavera Hernández consideran que el término online puede ser ambiguo, al poder ser entendido como tal cuando las sesiones se realicen online, y no referirse otros aspectos del procedimiento que pueden ser realizados utilizando medios electrónicos.
Tampoco puede entenderse que todo procedimiento realizado online es necesariamente mediación. El uso de los medios tecnológicos para dirimir controversias puede utilizar algunos de los principios de este mecanismo. Así acontece, en la regulación de la resolución de litigios en línea en materia de consumo, también denominada mediación de consumo en el Reglamento (UE) No. 524/2013 del Parlamento Europeo y del Consejo, de 21 de mayo de 2013. La normativa comunitaria establece una plataforma europea de resolución de litigios en línea que facilita la resolución extrajudicial de litigios entre consumidores y comerciantes en línea de forma independiente, imparcial, transparente, eficaz y equitativa.12 Si bien algunos autores se refieren a este procedimiento como mediación de consumo en línea, es cierto, como afirma Franco Conforti, que ello es una interpretación errada del Reglamento debido a que éste no se refiere a la mediación de consumo, sino solo a la resolución de litigios en línea, por lo cual no es dable confundir uno con otro, el género con la especie.
Otro de los aspectos más polémicos sobre el tema es si la mediación electrónica debe ser realizada durante todo el proceso utilizando los recursos tecnológicos o solo en parte. Para Guardiola Salmerón la utilización de las TIC puede ser en todo o en parte.13 Aunque debe precisarse que la mera gestión electrónica del expediente no puede ser entendida como mediación electrónica, si bien el carácter electrónico del mecanismo puede recaer en el tratamiento, transmisión, envío y/o recepción de datos. Se trata de utilizar los recursos de la tecnología para crear el espacio de entendimiento que las partes precisan para gestionar el conflicto.
Precisando la particularidad de la mediación electrónica como tipo de mecanismo de solución de conflictos en línea, se debate la relación que existe entre la mediación tradicional o presencial y la mediación electrónica. Desde una perspectiva global del procedimiento debemos apuntar que aun cuando sea electrónico, no impide el respeto de los principios de la mediación, todo lo contrario. Como afirma Sáez de Heredia “la mediación en red tiene más semejanzas y similitudes a la mediación presencial, que diferencias”.14
Como acertadamente señala Luz Clara “conlleva los mismos rasgos que la mediación en general, pero se lleva a cabo mediante herramientas electrónicas en línea” y al igual que aquella deberá respetar sus mismos principios.15 Aunque no debe perderse de vista, según Guardiola Salmerón que a las características propias de la mediación deben sumarse otras formas de dirimir controversias como es la intervención de un tercero (mediador) formado en mediación y TIC, quien además “garantizará la privacidad, seguridad, confidencialidad, identidad de las partes y autenticidad de los sistemas de verificación de las mismas”.16
Al respecto debemos señalar que la tecnología es solo un instrumento, la denominada cuarta parte del procedimiento. Además de la experiencia tecnológica es necesario tener en cuenta otros elementos como los efectos psicológicos que provocan su realización a distancia, el uso de los medios tecnológicos por parte de las partes y la propia capacidad del mediador para acercar a cada una de las partes durante el procedimiento. A partir de estas particularidades se hace referencia a las ventajas y desventajas de su utilización.
Entre los principales beneficios se mencionan las posibilidades de uso en la resolución de conflictos transfronterizos, la eliminación de las barreras geográficas y lingüísticas, como es el caso de los conflictos que tienen lugar en materia de derechos de autor en el orden digital, aunque, como afirman Bujosa Vadell y Palomo Vélez, “los métodos alternos de solución de controversias no evitan los problemas que existen en relación con la jurisdicción.17 En este sentido hay que apuntar que, si bien resuelven los dilemas que pueden existir en relación con el sometimiento de las partes a jurisdicciones extranjeras que pueden incluso llegar a ser desconocidas, no quedan superados los diferentes inconvenientes que surgen al momento de la ejecución del acuerdo de mediación.
Otras de las ventajas de la utilización de la tecnología es la posibilidad de garantizar el acceso de las personas con discapacidad,18 garantizar el acceso al mecanismo en aquellos supuestos donde las partes no quieran reunirse, o existe algún tipo de temor infundado o riesgo de violencia. En este último caso puede devenir un medio ideal para resolver el conflicto cuando el afrontamiento entre las partes interfiere en la dinámica de la relación. Al propio tiempo y sin que sea contradictorio, facilita el contacto entre las partes y el mediador, hace más ágil al procedimiento. Como afirma Guardiola Salmerón “Dispone la mediación electrónica de una sólida cobertura que hace factible y segura su desarrollo, al existir herramientas TIC diseñadas ad hoc para esta nueva demanda de la sociedad imperante, cual es la resolución alternativa de conflictos a través de las nuevas tecnologías”.19
Por otro lado, entre las principales desventajas se señalan la falta de interpretación de lenguaje corporal y la gestión emocional, la existencia de riesgos en la suplantación de la identidad y la garantía de la confidencialidad, los dilemas que pudieran existir en relación con la normativa aplicable durante la ejecución del acuerdo, la identidad del mediador, el carácter ejecutivo del acuerdo y los costos del procedimiento que pueden o no estar en relación con el conflicto.
También se señala como desventaja la posible falta de inmediatez que tiene lugar cuando las partes no se pueden oír ni ver en tiempo real, ello depende de si la mediación es sincrónica o asincrónica. En este último supuesto la conexión es diferida, por lo que no se espera una respuesta inmediata de las partes. Para Franco Conforti, aun cuando la utilización de los dispositivos electrónicos lo permitan no existen razones para convertir la mediación electrónica en asincrónica, al respecto argumenta, que no existe justificación para esta transformación que incide en los principios de mediación y seguridad, todo ello, si se parte, a juicio del autor de que la mediación se define como un encuentro entre las partes.20 No deja de tener razón el autor dado que ciertamente el argumento de la celeridad fundamenta la aplicación de la tecnología en el uso de la mediación, pero no en el respeto de los principios que la rigen.
No obstante, algunos autores como Sáez de Heredia valoran positivamente que la comunicación pueda llegar a ser asincrónica, dado que supone que las partes puedan, “reflexionar más sobre sus respuestas, sin dejarse influir por la espera, gestos y otros elementos presentes en los intercambios presenciales”.21 Es cierto que ello permite brindar respuestas más pausadas, más pensadas y con mejor forma, sin incidir en el escalamiento del conflicto.
Otro argumento que se utiliza es la valoración de relación que debe existir entre las partes y el mediador y que se sustenta en la confianza. Sin embargo, no existe información que fundamente la eficacia de la mediación presencial sobre la mediación electrónica en la generación y consolidación de esta relación. Para Sáez de Heredia el propio hecho de que miles de disputas se resuelvan a través del medio digital cuestiona el hecho de que se considere que la presencia física y la comunicación presencial sea superior a cualquier otro medio comunicativo.22 Tampoco ha sido comprobada la afirmación de que el uso de los medios de resolución de conflictos no sea apropiado cuando se trata de cuestiones familiares y otras disputas interpersonales. En este último caso el verdadero reto se halla no en el medio utilizado en el procedimiento, sino en el tipo de conflicto a resolver.
Las limitaciones que existen en la materia objeto de mediación deberán ser aplicadas en los supuestos de mediación electrónica. No son todos los conflictos que se pueden resolver por mediación. Como se ha reconocido por la doctrina y la legislación solo pueden ser objeto de mediación aquellos conflictos donde no quede comprometido el orden público.23 La mediación solo tiene lugar en materias disponibles de naturaleza privada, como es el Derecho Civil y el mercantil y no para aquellos supuestos en los cuales existe o pudiera existir un interés público como cuestiones de Derecho de Familia, sin embargo, en algunos países comienzan a existir excepciones en determinados conflictos. Debe precisarse que no hay razones que impidan utilizar este tipo de mecanismos de solución de controversias para solucionar conflictos que tengan su origen en el ámbito digital.
3. Inteligencia artificial y Administración de Justicia
Una vez que hemos abordado el alcance y relación de la mediación y la su realización de forma electrónica es preciso que nos adentremos en la utilización de sistemas de inteligencia artificial para resolver conflictos en este ámbito, haciendo especial referencia a la incidencia del uso de esta tecnología en el procedimiento de mediación.
El uso de sistemas de IA en la Administración de Justicia no es nuevo. Los denominados sistemas de expertos jurídicos, basados en el conocimiento, constituyen, al decir de Martínez Bahena, la principal aplicación de la inteligencia artificial al campo del Derecho y a la toma de decisiones judiciales. Una particularidad de estos sistemas es su capacidad para resolver determinados conflictos con características particulares. Para la autora estos sistemas pueden plantear “posibles soluciones a determinados asuntos jurídicos aplicando el conocimiento experto en la materia, así como explicar sus razonamientos”.24
Existen varios tipos de sistemas expertos jurídicos, entre los que podemos mencionar aquellos que están basados en regla de producción, el modelo positivista explícito subyacente (sustentado en el denominado silogismo jurídico), el modelo constructivista y el modelo de razonamiento legal basado en casos, que trata de retomar la capacidad de resolver problemas por analogía propia de los humanos, buscando similitudes con otros problemas a los que se haya enfrentado, siempre y cuando encuentre algo semejante.25 Parece ser este último modelo el que se ha desarrollado y utilizado con más frecuencia. Estos sistemas constituyen herramientas de apoyo a la actividad jurídica, dígase en sede de tribunales, procuradurías u oficina de abogados. Podemos mencionar como ejemplos, entre otros:
El proyecto Prometea promovido por el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires (CABA), que no es más que un sistema diseñado para predecir la solución de expedientes jurídicos simples. Aunque es válido señalar que solo es aplicable en casos sobre los que ya existe información previa, donde la justicia se ha pronunciado, su uso tiene lugar en supuestos idénticos o similares, que no poseen un alto grado de complejidad. El sistema no es quien adopta la decisión final dado que existe una persona que determina si la propuesta es adecuada.26
En China un juez basado en tecnologías inteligentes ayudará a completar el trabajo que se considera básico y repetitivo, como la recepción de litigios. Se prevé que el sistema, dotado con imagen, voz y expresiones faciales femeninas realice acciones basadas en una persona real. Entre estas se encuentran: la ayuda a los usuarios a utilizar la plataforma de litigios en línea, la relación de comunicaciones inteligentes de preguntas y respuestas con estos, basadas en datos del conocimiento profesional y la orientación de jueces.27
De forma similar en Estonia el Ministerio de Justicia ha pedido que se diseñe un “juez robot” que pueda resolver disputas de reclamos menores de €7,000, con el fin de eliminar la acumulación de casos pendientes. Centrado en la resolución de disputas contractuales se prevé que las partes puedan cargar documentos e información relevante para que el sistema pueda emitir una decisión que pueda ser apelada ante un juez humano.28
3.1 Limitaciones tecnológicas de la inteligencia artificial
Pese a los avances señalados es importante que seamos capaces de comprender las limitaciones de esta tecnología y sus sesgos. Lo primero que debemos precisar es que nos encontramos ante un concepto muy amplio que abarca múltiples ámbitos, entre los que podemos mencionar la Computación, Física, Neurociencias y Humanidades. Aun cuando el objeto de este campo científico es “verificar si un ordenador convenientemente programado es capaz o no de tener conducta inteligente de tipo general”,29 lo cierto es que, dado el actual estado de la tecnología, no es posible una equiparación con la humana. Ello en parte obedece a nuestras propias limitaciones para comprender qué acontece con la inteligencia humana, lo cual impide contar con un paradigma correcto, al propio tiempo que tampoco existen los modelos teóricos necesarios para este desarrollo.
Hasta este momento solo podemos hablar de inteligencias artificiales especializadas, desarrolladas a partir del acceso a enormes cantidades de datos y de computación de altas prestaciones. Según las fuentes bibliográficas consultadas los actuales sistemas solo permiten realizar tareas específicas, así como razonar deductivamente y aprender inductivamente, incluso mejor que los seres humanos. Es la que se denomina IA débil en oposición a la IA fuerte que, teóricamente, se prevé llegará a ser capaz de igualar la mente humana e incluso ser superior a ésta. Aunque no debe confundirse la IA general a la IA fuerte, dado que es posible que exista IA multitareas (generales) que no son fuertes.
Como afirma López de Mántaras “toda la enorme complejidad del cerebro queda muy lejos de los modelos actuales. Esta inmensa complejidad del cerebro también conduce a pensar que la llamada singularidad, es decir, futuras superinteligencias artificiales que, basadas en réplicas del cerebro, superarán con mucho la inteligencia humana en un plazo de unos veinticinco años, es una predicción con poco fundamento científico”.30
Pese al desarrollo alcanzado debemos ser conscientes que estos sistemas no tienen sentido común, lo cual impide la comprensión profunda del lenguaje, así como tampoco le es posible interpretar lo que capta por el sistema de percepción visual. Tampoco pueden diferenciar entre causas y efectos, las relaciones que tienen lugar entre los objetos y sus propiedades, ello motivado, en gran medida por el hecho de que no aprenden de relaciones asimétricas solo simétricas. Por otro lado, no tienen conocimientos ilimitados puesto que aún no son capaces de aprender de forma continua. En estos sistemas se aprecia el denominado ‘olvido catastrófico', por lo que no pueden llevar a cabo otra tarea distinta a la planificada, al menos “en el sentido humano de aprender”31. Asimismo, requieren enormes cantidades de datos para ser entrenados, lo que puede devenir en un problema al momento de aportar el conocimiento necesario para la resolución de determinados conflictos. En otras palabras, aún no se logra la integración de las habilidades de percepción, representación, razonamiento, acción y aprendizaje.
Pese a las limitaciones que existen en esta tecnología no pueden dejarse de analizar los riesgos que representa, en particular a partir de su capacidad de poder encontrar relaciones y patrones entre las diversas fuentes de datos, llegando a inferir qué pensamos y cómo nos sentimos. Por ejemplo, en una competición realizada en Reino Unido del 20 al 27 de octubre de 2017 y organizada por la start-up CaseCrunch, el sistema de inteligencia artificial tuvo una efectividad del 87% en la predicción de reclamaciones comparado con el 62% de un grupo de abogados. Según la nota publicada, la razón del éxito del software es precisamente su comprensión de la importancia de los factores no legales subyacentes a los casos evaluados.32 Sin embargo, no se obtuvieron efectos positivos en la Administración de Justicia en Kentucky, donde una ley de 2011 obligó a los jueces a consultar un algoritmo antes de decidir si los acusados deberían pagar una fianza en efectivo. En este caso las personas de tez blanca fueron más beneficiados que los de tez negra.33
3.2 Mediación e inteligencia artificial
Vistas las limitaciones que existen en los sistemas de IA la pregunta que debemos hacernos es poder determinar si, desde un punto de vista tecnológico, la forma como el sistema soluciona el conflicto no contradice la propia esencia de la mediación, en otras palabras, si nos encontramos verdaderamente ante una solución consensuada, fruto de la voluntad de las partes.
En España, por ejemplo, el procedimiento simplificado, anteriormente referido, implica una tramitación simple con formularios electrónicos y cuya duración no debe exceder un mes. Para autores como Franco Conforti este procedimiento no es más que una negociación bilateral multiatributo, en otras palabras, una especie de negociación asistida.34 Un criterio diferente sostiene Bueno De Mata para quien si es posible que hablemos de mediación, al propio tiempo que especifica que el sistema funciona “a través de una base de datos de casos similares y utilizando criterios de ponderación para las dos partes, designaría una propuesta de acuerdo, que finalmente ratificarían las partes; en el caso contrario, el sistema seguiría dando respuestas hasta llegar a una solución aceptada por ambas partes, sin un límite concreto de intentos al no especificarlo la normativa”.35
Sin embargo, el procedimiento es mucho más complejo que depende en gran medida de la tecnología utilizada. Desde las ontologías difusas se han desarrollado moderadores virtuales en la toma de decisiones, lo cual puede ser utilizado en la solución alternativa de conflictos al facilitar el encuentro de las posiciones de consenso.36
Utilizando modelos computacionales de negociación es posible fundamentar la argumentación y el razonamiento basado en casos; lo que permite modificar en el proceso argumentativo la solución propuesta por el mediador. Basado en un caso similar previamente resuelto se intenta buscar soluciones en casos similares. Solo cuando estos últimos no existan entonces el agente mediador interactúa con un mediador humano para que incorpore nuevos casos en su base de datos, a los fines de poder y aportar nuevas propuestas de soluciones. En la arquitectura del sistema se añade el componente de los recursos y es, en virtud de estos, que se negocia la propuesta del mediador. Algunos de estos recursos son aportados por el mediador o simplemente se encuentran en posesión de las partes desde el inicio del proceso.37
La denominada mediación computacional se centra en el razonamiento sustentado en un solo paso para encontrar solución, en ella la mediación se reduce a la inferencia de seleccionar un “plan de mediación” abstracto. Desarrollándose mecanismos para la reestructuración de problemas a partir de objetivos y las relaciones entre estos dentro del paradigma de la teoría de los juegos. Este mecanismo para la automatización de la mediación utiliza la negociación basada en la argumentación (ABN).
El sistema permite argumentar por qué se rechaza una oferta determinada o proporcionar las condiciones bajo las cuales esta oferta podría ser aceptada, lo que permite que, en base a estos propios argumentos, se pueda modificar la oferta o presentar una distinta. Además de la propuesta de diferentes estrategias son esenciales los mecanismos de razonamiento y los protocolos de negociación, los primeros derivan de marcos lógicos que utilizan la argumentación, mientras que los segundos, incluyen máquinas de estado finito o funciones basadas en acciones anteriormente ejecutadas. Según Trescak et. al. el marco de ABN para la mediación permite diseñar y ejecutar un proceso de mediación realista, que utiliza el poder de la argumentación, la lógica del agente y una negociación a partir del procedimiento de búsqueda para el espacio de acuerdo común.38
Las partes resuelven la disputa negociando soluciones alternativas las cuales son presentadas al sistema mediador que debe obtener los suficientes recursos y conocimientos para poder construir una nueva solución, que deberá ser aprobada o rechazada por las partes. Estas, además, pueden negociar sobre una posible solución para llegar a un acuerdo. El procedimiento se lleva a cabo por rondas durante las cuales es posible presentar su conocimiento al mediador, quien obtiene el conocimiento a partir de una determinada función. Si la solución no existe y los agentes no presentan nuevos elementos la mediación falla. Se entiende que cuando ambos agentes aceptan la solución el proceso ha culminado con éxito; si se rechaza la solución el mediador agrega solución incorrecta. En el supuesto que la solución sea rechazada por un solo agente se inicia un nuevo proceso de negociación donde se intenta llegar a un nuevo acuerdo.
Como se colige las diferencias de los sistemas tecnológicos incide en el procedimiento del mecanismo alternativo de solución de controversias. Si la toma de decisión se establece en base a criterios previamente establecidos, no es claro cómo es que se determinarán estos criterios de ponderación y una vez determinados como se controlarían, lo que sin duda se encuentra estrechamente relacionado con la transparencia del sistema. ¿Cuál o cuáles serían los criterios de determinación cuando hablamos de expedientes complejos y no existan precedentes similares? ¿Pudiéramos decir que el sistema es totalmente ajeno a la disputa, un tercero imparcial y neutral?
Al considerar que una propuesta práctica de negociación colaborativa asistida por un tercero, la neutralidad queda cuestionada por el interés de lograr el acuerdo, la aplicación del sistema de IA puede ser entendida como una forma de resolución de disputas en línea, pero no mediación.
Si bien es cierto que con la automatización del procedimiento no resulta trascendente la formación, profesión, ni experiencia de quien realiza la mediación sí adquiere importancia determinar o tener información sobre cuáles son los parámetros que se han establecido para la selección algorítmica, así como la naturaleza de los datos que han sido utilizados para su entrenamiento o prueba. Existe la posibilidad de que se reproduzcan los sesgos que están presentes en los datos a partir de los cuales ha sido entrenado el sistema, así como aquellos que se utilizarán para obtener las respectivas propuestas. La automatización de datos brinda respuesta en dependencia de los datos facilitados, ello incide preponderantemente en el “aprendizaje” de la máquina y por supuesto, está en estrecha relación con lo que de ella se demanda. Los bancos de datos son particularmente importantes para realizar las pruebas de errores y la consecuente rectificación de la tecnología.
Tampoco es claro el papel de las partes para alcanzar el acuerdo. No es preciso si el sistema se limita a determinar el contenido de la decisión o solo lo propone. Según Bujosa Vadell y Palomo Vélez refiriéndose a la distinción entre mediación y conciliación, establecer las diferencias entre uno u otro me canismo, en el hecho de la aportación de sugerencias y soluciones por parte del tercero aporta poco a la realidad práctica, dado que la posición de éste es precisamente acercar a las partes “y estar atento a la oportunidad de sugerir, cuando lo vea prudente, posibilidades de acuerdo que lleven a la autocomposición”.39 Sin embargo, aun cuando podamos reconocer que no sería este el principal argumento para fundamentar la inexistencia de un procedimiento de mediación en este tipo de tecnología, reconocemos que existen otros elementos que deben ser tenidos en cuenta, como es la sustitución de la figura del mediador y el propio hecho de cómo controlar la materia que es objeto de controversia, incluida la legalidad de los acuerdos.
Ante la ausencia de disposiciones sobre cómo desarrollar el proceso de mediación utilizando este tipo de tecnología es necesario acudir a los principios de autorregulación, empero ello no significa obviar aquellos principios que son típicos del procedimiento de mediación y que han sido positivizados. La flexibilidad como nota característica de la mediación, posibilita: 1) el respeto a la autonomía de la voluntad y, 2) la pérdida del papel central de la ley en beneficio de un principio dispositivo. Según García del Poyo la flexibilidad no se puede entender sin la participación de las nuevas tecnologías,40 empero, no queda claro como la autorregulación puede ser aplicada en el supuesto de utilización de algún tipo de sistema de inteligencia artificial.
Aun cuando se habla que las normas lo único que establecen son un mínimo de funcionamiento, por lo que las partes pueden modificar este siempre y cuando se respete aquel mínimo, todo parece indicar que el uso de algoritmos no conlleva necesariamente a la adaptación que es consustancial al mecanismo cuando es realizado por seres humanos. Cuando el sistema sustituye la figura del mediador el procedimiento será difícil y conflictivo, como opina Talavera Hernández “la cuarta parte no deberá usurpar el rol del mediador”.41
Si bien para Bueno De Mata “la figura del mediador no desaparece sino que existe un cambio en los esquemas inductivos que son utilizados para proponer una solución a las partes, pasando de una inteligencia humana a otra artificial”,42 lo cierto es que, como ya hemos afirmado anteriormente, no nos encontramos en presencia de una verdadera inteligencia. Ya hemos hecho referencia a las diferencias entre el cerebro humano de los sistemas desarrollados por inteligencia artificial. Estas diferencias inciden en la capacidad del sistema para reaccionar ante situaciones inesperadas como las que podría realizar un mediador humano. Otras diferencias residen en la ausencia de creatividad para poder responder a situaciones para las cuales no existen alternativas predeterminadas, así como la ausencia de conciencia y emociones para entender a las partes y acercarlas.43
El diálogo y la creatividad constituyen dos elementos para tener en cuenta a la hora de valorar el uso de la inteligencia artificial en verdaderos casos de mediación. Según Franco Conforti “La mediación electrónica es comunicación por sí misma. Aquí el desafío está en ir un punto más allá, en avanzar hacia el diálogo, y sólo será posible si la mediación electrónica es sincrónica”.44 En este sentido debemos precisar que el sistema de inteligencia artificial puede lograr lo primero, la comunicación, más no lo segundo, el diálogo. Al menos en el sentido que éste precisa. No obstante, debemos tener en cuenta que el sistema sí puede contribuir de forma activa e, incluso determinante, en el proceso de creatividad, en el entendido de coadyuvar a las partes a determinar aspectos similares y diferentes y la relación entre estos al punto de llegar a un nuevo resultado distinto de lo anteriormente concebido. Ello es posible a partir de que sea capaz de recibir nuevos órdenes de estructuras, ya sean objetivas como subjetivas.45
La presentación de diversas propuestas tiene una especie de paralelismo con las preguntas y repreguntas que en el proceso de mediación pudiera llegar a realizar el mediador, no obstante, es imposible, al menos en el estado actual de la tecnología que el sistema pueda coadyuvar de manera efectiva a desarrollar otros aspectos que están presentes en el procedimiento de mediación como son la resiliencia, la construcción de la confianza, la generación de empatía, detección de emociones, entre otras actividades que son intrínsecas a este tipo de actividad. Además, la recepción e invitación para enviar información cuando el sistema requiera más información o considere que ésta es incompleta o inexistente no podría ser considerada como una audiencia.
Si bien es cierto que al momento de optar voluntariamente por este mecanismo de solución de controversias las partes aceptan carecer de todas las actitudes de un ser humano, incluso de aquellas, que anteriormente hemos mencionado, no significa que estemos en presencia de un procedimiento de mediación per se, sino más bien en una especie de negociación u otro tipo de mecanismo alternativo de solución de controversias que utiliza este tipo de tecnología. No son solo las cualidades propias de los mediadores lo único que distingue a este ADR de otros mecanismos.
Todavía no es posible que estos sistemas interactúen con cada una de las partes a los fines de conocer el conflicto, analizar sus límites y posibilidades e incluso poder determinar si lo más conveniente es utilizar otro tipo de medio alternativo de solución de conflictos. No existe tampoco una capacidad de escucha y de comprensión de lo que la persona dice, una generación de confianza en particular de las partes con el sistema computacional. Mucho menos parece ser posible que el sistema pueda desarrollar la empatía y la comprensión entre quienes ya tenían algún tipo de relación.
Por otro lado, no puede obviarse el impacto de su uso en un contexto de multiculturalidad. Los retos que esta diversidad supone solo pueden ser superados si el mediador es capaz de comprender y superar estas diferencias. Algo que los sistemas de inteligencia artificial difícilmente podrían lograr, al menos en el contexto de desarrollo actual de la tecnología.
Debemos tener en cuenta que en este supuesto lo que verdaderamente acontece no es la sustitución en el proceso de decisión, sino que realiza una propuesta en la que se tome en cuenta el particular. Siendo la mediación “creativa, renovadora, preventiva, curativa” como la define Luz Clara,46 no puede decirse que exista un trabajo común de todas las partes, en el que el sistema de IA intervenga para alcanzar una solución, así como una atención conjunta para lograrla y menos a través del diálogo.
Coincidimos con Talavera Hernández en cuanto a considerar que la automatización de la mediación no puede significar el rechazo de la figura del mediador, es decir su sustitución, dado que se corre el riesgo de infringir las propias garantías del procedimiento para las partes, al restar los valores humanos que son necesarios para aplicar este método alternativo de solución de controversias.47
Cuando el procedimiento es ciento por ciento automatizado continúa siendo un método alternativo de solución de controversias. La negociación automática no puede ser considerada como una mediación electrónica, si bien ambos son mecanismos de solución de controversias no coinciden totalmente, aun cuando tampoco podemos desconocer que tiene diversos puntos en común. Esta distinción trasciende en el ámbito de la responsabilidad, ya sea civil o penal.
Consideramos que aún falta mucho camino por recorrer para llegar al punto de una verdadera mediación realizada totalmente por un sistema de inteligencia artificial. En este sentido, nos brinda una meridiana claridad Fernando Bejerano, director del Centro de Mediación (medialCAM) en el Colegio de Abogados de Madrid cuando en una entrevista sostiene que “en la mediación, la tecnología funciona con éxito en pequeñas reclamaciones como una especie de negociación asistida”.48
Todo parece indicar que lo más factible es que el sistema sea utilizado por el mediador, siendo éste quien finalmente realiza la comunicación con cada una de las partes y con estas entre sí, es decir, se convierte en una ayuda computacional avanzada.49 No solo por los argumentos anteriormente expuestos sino también porque son ajenas a nuestros valores y en particular, a los procesos de socialización y culturización. Por ende, coincidimos con Magro Servet en cuanto a que no se trata de que la IA sea el mediador sino una ayuda, que incluso en dependencia del momento en que se aplique puede decir qué respuesta es la que podría obtenerse ante la probable judicialización del conflicto. Todo ello “marca un camino muy positivo en la potenciación de la mediación para que pueda ser utilizado por los mediadores tras la exposición de los datos que le proporcionan las partes del conflicto”.50
Para Sáez de Heredia la denominada cuarta parte del proceso de mediación, la tecnológica, “no reemplaza a la persona mediadora y no tiene la misma influencia, pero funciona como un aliado, colaborador y compañero”.51 Incluso algunos autores como Bueno De Mata proponen la utilización en algunos supuestos no acudir a los mecanismos electrónicos de manera integral, sino utilizar un sistema mixto donde se combinen los recursos tecnológicos con la entrevista personal entre las partes.52 Pero no es clara la existencia de límites en la utilización de este tipo de tecnología para considerar cuándo nos encontramos en presencia de un procedimiento mixto.
De acuerdo al estado actual de la tecnología la capacidad explicativa de estos sistemas es muy limitada y no queda claro cómo llegan a sus resultados o cuáles son las conclusiones propuestas, la intervención humana deberá continuar siendo necesaria para garantizar el propio respeto de las personas que interactúan con ella.
4. El uso de la inteligencia artificial en la solución alternativa de conflictos
La existencia de mecanismos alternativos de solución de controversias totalmente automatizados para resolver algunos tipos de reclamaciones, como las de carácter financiero, si bien no pueden ser consideradas como mediación propiamente si deberán brindar las garantías jurídicas necesarias para su utilización. Estos sistemas deben respetar tanto aquellos requerimientos que son típicos de las plataformas tecnológicas como aquellos que son particulares de los sistemas de inteligencia artificial. En este sentido surgen interesantes interrogantes en relación con aquellos riesgos que son necesarios sortear durante el proceso predictivo.
Se debe distinguir entre las diversas responsabilidades que confluyen en la prestación de este servicio, como pueden ser los titulares de la plataforma que presta el servicio y los creadores del algoritmo, especialmente en el supuesto que estos no coincidan. También debe ser tomado en cuenta quién brinda el servicio de almacenamiento de la plataforma y/o del sistema y la información alojada. Es importante que queden precisados los diversos responsables.
La responsabilidad implica no solo cuestiones relacionadas con el uso del sistema en el procedimiento, sino también, con el propio acuerdo al que arriben las partes fruto de la negociación y su posterior aplicación. Es lógico que si la inteligencia artificial es utilizada en el procedimiento de negociación nada impide que pueda ser usada en el cumplimiento del acuerdo.
Particular importancia reviste la responsabilidad jurídica respecto de la tecnología, es decir de la Inteligencia Artificial. Constituye ésta una materia que se encuentra aún en construcción y debate ante los constantes cambios que tienen lugar. La Unión Europea ha hecho énfasis en diversos instrumentos comunitarios sobre la importancia de que se regule esta tecnología en materia de responsabilidad, transparencia y rendición de cuentas a partir de valores humanos y principios éticos básicos.53
Un paradigma que puede ser tomado en cuenta en esta materia son las Normas de Derecho civil sobre robótica del Parlamento Europeo donde efectivamente se ha reconocido que, si bien el aprendizaje automático ofrece enormes ventajas económicas e innovadoras a la sociedad, existen determinados retos como: velar por la no discriminación, las garantías procesales, la transparencia y la inteligibilidad de los procesos decisorios.54
La Unión Europea ha planteado la necesidad que los robots que participan en la toma de decisiones puedan ser objeto de reconstrucción y trazabilidad, para ello recomienda que exista una máxima transparencia en su programación y su comportamiento sea previsible, no obstante, reconoce que, desde el diseño, es preciso tener en cuenta la incertidumbre en su interpretación y acción, así como posibles fallos.55 Asimismo, hay que tener en cuenta la responsabilidad de estos sistemas de inteligencia artificial cuando intervienen en decisiones que afectan a particulares o son emitidas por autoridades administrativas, judiciales y organismos públicos. Así se reconoce que es necesario que las partes puedan oponerse al ejercicio en la toma de decisiones automatizadas.
La utilización de los sistemas de inteligencia artificial en la solución alternativa de conflictos implica que sea necesario “justificar cualquier decisión que se haya adoptado con ayuda de la inteligencia artificial y que pueda tener un impacto significativo sobre la vida de una o varias personas”.56 En este sentido es necesario que se registren los datos de todas las operaciones efectuadas por la máquina, incluidos la explicación de los pasos lógicos que conducen a la formulación de decisiones.
Debe quedar delimitado con claridad quién es el responsable del tratamiento de los datos, así como cuáles son los que tienen autorización para dicho tratamiento. Es imprescindible tener en cuenta los términos y condiciones de uso de las aplicaciones que ofrecen servicios, sean estos gratuitos o pagados, para saber si efectivamente ofrecen las condiciones idóneas de seguridad y protección de datos personales. No es recomendable asimilar la gratuidad con la falta de seguridad, ni lo contrario, que siendo pagado el servicio éste es totalmente seguro. Los protocolos deben ofrecer las garantías de seguridad y privacidad necesarias para poder cumplir con los requerimientos de los mecanismos alternativos de solución de controversias.
Es preciso que la plataforma que se utilice sea abierta y promueva un modelo de licencia innovador que garantice la seguridad y privacidad desde el diseño, la interoperabilidad entre los sistemas, los dispositivos y servicios en la nube. Por supuesto, el hecho de que sea abierta no puede ser entendido como una violación de la confidencialidad que es consustancial a este tipo de procedimiento. El carácter abierto debe ser visto como una condición sine qua non para garantizar la transparencia del sistema, la interoperabilidad y el acceso al código fuente. Cualquier sistema que sea utilizado debe también consagrar principios éticos de beneficencia, no maleficencia, autonomía y justicia, así como el respeto a la dignidad humana, la igualdad, equidad, la vida privada, el consentimiento informado y ser responsable por los daños ocasionados, no solo desde un ámbito individual sino también marcadamente social.
Además de las cuestiones de índole tecnológica debe existir acuerdo de voluntades sobre las consecuencias jurídicas de la utilización de estos sistemas. Es decisión de las partes someterse o no a este tipo de procedimiento de manera informada, teniendo en cuenta no solo aspectos de la tecnología utilizada sino también las propias características del procedimiento. En todos los supuestos es imprescindible que las partes conozcan y consientan el uso de una decisión totalmente automática. El consentimiento sobre el uso del dispositivo debe ser informado y transparente, debe existir pleno conocimiento de los efectos de su utilización, mientras que, por otro, los usuarios, e incluso el propio mediador, debieran conocer cuan transparente es el sistema, siempre que ello sea posible. Antes de someterse al uso de esta tecnología deben tener pleno conocimiento de los datos de entrada, disponibilidad de los detalles de construcción, especificidades de su funcionamiento, disponibilidad, fiabilidad, seguridad y protección en términos sencillos y comprensibles.
La interfaz de la plataforma debe ser sencilla y amigable, pero sobre todas las cosas debe brindar las condiciones de confidencialidad necesaria. El acceso debe estar delimitado por el rol de cada uno, quedando claro los permisos y autorizaciones que se conceden para su uso y la propia política de Privacidad del sitio. Dada la trascendencia que reviste adquiere particular importancia el hecho de que la aceptación de participar en el proceso sea corroborada con una certificación de identidad digital, debido a que existe un riesgo, nada despreciable, de suplantación de la identidad. Las disposiciones sobre seguridad deben incluir las diversas bases de datos que pueden ser utilizadas, como son las del sistema de resolución de litigios, la de los usuarios de la plataforma, entre otras.
En ningún supuesto el uso de esta tecnología puede suponer una vulneración de la confidencialidad como garantía del procedimiento, aun cuando las partes no lleguen a un acuerdo y sea necesario acudir a los tribunales para resolver el conflicto. Hay que pensar con detenimiento cuáles podrían ser las consecuencias de la aplicación de este tipo de tecnología cuando las propuestas realizadas por el sistema no sean aceptadas y el conflicto deba ser dirimido en sede jurisdiccional.
También deberán ser tenidas en cuenta las garantías para lograr el cumplimiento del acuerdo cuando este ha sido alcanzado. En la actualidad es necesario que se utilicen instrumentos tecnológicos para ellos como los certificados digitales. Al igual que acontece con el procedimiento de mediación electrónica, en estos casos la firma digital brinda un plus de seguridad a este tipo de documentos, al dotarlos de las características de autenticidad, integridad y no repudio.57
5. Conclusiones
El uso de la inteligencia artificial en la solución alternativa de controversias es todavía un tema de debate, los constantes cambios que sufre esta tecnología inciden directamente en la eficacia de cualquier procedimiento. Lo que conlleva a ser necesario una revisión de su aplicación para mantener los niveles de seguridad jurídica necesarios para garantizar los derechos de las partes implicadas. Tomando este punto de partida y el análisis realizado podemos arribar a algunas conclusiones:
Con excepción de las particularidades del medio en que se realiza, la mediación electrónica no se diferencia de la mediación que tiene lugar en contextos presenciales. La tecnología no solo le impregna velocidad al mecanismo de solución de controversias, sino también posibilita un mayor acceso siempre y cuando las partes cuenten con las capacidades tecnológicas y de conocimiento necesarias para ello. No siempre rapidez significa mayor eficacia.
El sistema de inteligencia artificial puede ser utilizado sustituyendo a la figura del mediador o como un auxiliar de éste. En el primer supuesto por las limitaciones de la tecnología nos encontramos en un procedimiento que tiene mayores similitudes con la negociación asistida que con la mediación. Asimismo, su uso solo será posible en casos simples y comunes en los que existen datos previos. Aún no encontramos las condiciones necesarias para hablar de una total sustitución de la figura del mediador en el procedimiento sin que ello signifique la pérdida de las características de este procedimiento.
No obstante, lo anterior es imposible desconocer la importancia que los sistemas de IA pueden adquirir en la resolución de controversias, facilitando la obtención de acuerdos para resolver los conflictos desde los propios intereses de las partes y la búsqueda de intereses comunes.
Cualquier uso que se realice de esta tecnología en la solución alternativa de controversias debe partir de una delimitación de responsabilidad de los diversos actores o sujetos que participan en el procedimiento, incluyendo dentro de estos a los propios diseñadores del sistema quienes deben garantizar que las partes conozcan y tengan acceso a él de forma transparente, respetando en todo momento la privacidad, seguridad y confidencialidad de las personas que lo utilizan, ya sea en condición de partes o como mediadores.
