SciELO - Scientific Electronic Library Online

 
vol.9 issue16Recensión Ruidos en la web. Cómo se informan los adolescentes en la era digital author indexsubject indexsearch form
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Indicators

Related links

  • Have no similar articlesSimilars in SciELO

Share


PAAKAT: revista de tecnología y sociedad

On-line version ISSN 2007-3607

PAAKAT: rev. tecnol. soc. vol.9 n.16 Guadalajara Mar. 2019

http://dx.doi.org/10.32870/pk.a9n16.383 

YALA´

Recensión. Reflexiones de un replicante legal

David López Jiménez* 
researchid: N-6460-2013

*EAE Business School, España

Obra reseñada, Sánchez del Campo Redonet, Alejandro. 2016. Reflexiones de un replicante legal: los retos jurídicos de la robótica y las tecnologías disruptivas. Thomson Reuters Aranzadi, Navarra, España: 153p.

La realidad pone de manifiesto que la tecnología evoluciona cada vez a mayor celeridad. La sociedad actual se muestra, simultáneamente, más dependiente de los avances tecnológicos. La sinergia entre ambas es muy significativa. La tecnología ha protagonizado una notable evolución, atravesando diversas etapas. En este sentido, en el pasado cercano podemos discernir hasta cuatro fases. En la primera, los usuarios recurren a internet para conectarse con un papel pasivo, ya que son meros observadores. En una segunda fase, los usuarios se conectan a través de internet desempeñando un rol activo, pues existe una clara interacción e interrelación entre ellos. Con el transcurrir de los años llegamos a una tercera fase, la cual sería aquella que se conoce como “internet de las cosas”, donde la conexión a la red coadyuva a la mejora de vida de los usuarios.

Aunque podemos afirmar que estamos en esta última etapa, se avanza hacia la cuarta, en la cual juega un destacado papel la robótica y la inteligencia artificial. Llegará un momento, no muy lejano, en que los avances tecnológicos, con forma humanoide o animal, interactuarán con el entorno donde se muevan de manera plenamente autónoma e independiente del control humano. A mayor abundamiento, siguiendo con este progreso, las personas se combinarán, en mayor o menor medida, con los robots -dando lugar a un cyborg- con el objetivo de mejorarse y adquirir capacidades muy superiores a las de sus homónimos de nivel medio; el libro al que esta recensión se refiere alude, en gran medida, a las dos últimas etapas.

Sin perjuicio nos referiremos a los quince capítulos en los que se divide la obra. Cabe efectuar una serie de valoraciones previas. En este sentido, debe indicarse que su contenido cautiva de manera ejemplar al lector desde un inicio. El autor conjuga, de forma extraordinaria, la sencillez de la redacción con el rigor del tratamiento de los tópicos que se abordan. La actualidad de los temas es una constante permanente de la obra. Como el autor apunta: “Los avances vertiginosos en nuevas tecnologías nos enfrentan a un nuevo paradigma y, en este entorno desconcertante y nuevo, los abogados y otros agentes económicos y sociales no pueden (no deben) ser ajenos a lo que está ocurriendo”.

La inmensa mayoría de los temas tratados, de forma maestra, por Sánchez del Campo hoy pueden resultar novedosos y disruptivos; en tan solo unos años serán cotidianos. Como acertadamente dispone Nieto Mengotti, prologuista de la obra, donde hay disrupción hay derecho. Allí está el derecho. Al jurista, en cierto sentido, le atrae el conflicto, dado que es su labor natural o, lo cual es lo mismo, su oficio. Los temas que se abordan, como hemos adelantado, son de vanguardia, pero tan novedosos que ya han llegado a nuestra realidad cotidiana. En efecto, cuando pensamos que el día de mañana nunca llegará, ya se ha convertido en el ayer.

El primer capítulo es relativo a supuestos donde humanos han sido derrotados por máquinas, incluye el caso de Kasparov, quien fue vencido en la memorable partida de ajedrez por la máquina diseñada por IBM: Deep Blue. Existen otros supuestos igualmente dignos de mención, como fue el caso de la máquina Watson -también de IBM-, la cual ganó el popular programa de televisión americano Jeopardy. Todo ello pone de relieve el enorme potencial de las máquinas que combinan técnicas de inteligencia artificial.

La personalidad de los robots es objeto de análisis en el segundo capítulo. Dentro se afrontan, asimismo, otros aspectos como que se otorguen derechos a los robots, como se ha hecho a propósito de la legislación para prevenir el maltrato animal. También se analiza de manera pormenorizada la responsabilidad por los daños generados por los robots. Como apunta el autor, siguiendo a Palmerini, lo más oportuno, tomando como referencia los casos de Japón y de Corea del Sur, sería poner en marcha zonas francas. Estas últimas serían espacios donde probar robots en escenarios plenamente reales sin tener que infringir la ley ni pedir permisos especiales a las autoridades locales.

El capítulo siguiente se refiere a los distintos retos que, desde la perspectiva penal, causa el futuro robótico. Existen temas ciertamente polémicos como el suscitado por Ryan Calo en relación con los pederastas. Este último planteó en la Universidad de Berkeley si sería ético asignar robots con aspecto de niños a pedófilos, suponiendo que esta medida pudiera erradicar esa problemática.

Hace algunos años, una ONG dedicada a combatir la explotación infantil diseñó y puso en marcha un robot llamado Sweetie, con apariencia de niña filipina. Se colgó su perfil en ciertos foros de internet con el objetivo de atraer a diversos depredadores sexuales. El resultado fue que alrededor de mil individuos de 70 nacionalidades trataron de establecer contacto con ella. Estos cazadores de menores pidieron distintos servicios sexuales en línea. Los efectos de estas acciones son diversos para los pederastas.

En Australia se condenó a una persona por estos hechos. Hay que trazar los límites que se ocasionan respecto del uso de drones capaces de disolver grandes aglomeraciones humanas y huelgas violentas. Para esto, hacen uso de balas de goma y spray pimienta. En esta línea se detiene el autor en las sugerentes posibilidades que existen para explorar la mente de un criminal.

Los aspectos laborales de la robótica son objeto de tratamiento en el capítulo cuarto. Los nuevos desarrollos tecnológicos repercuten sobre diversos aspectos del ámbito laboral. Existen proyectos realmente interesantes en este plano. Nos referimos, entre otros, al proyecto Amazon Mechanical Turk. Es una herramienta que publica las tareas disponibles -introducir horarios de apertura de un restaurante o revisar fotos de ropa, por ejemplo-. Un algoritmo colocará a la persona más adecuada, según su idoneidad, en una lista de candidatos y ajustará la oportuna retribución.

En este orden de ideas, pueden plantearse preguntas como si el jefe virtual que hace uso de algoritmos puede contratar, evaluar y despedir empleados. La tendencia hacia la automatización, qué duda cabe, es imparable. Los algoritmos juegan un papel esencial en aquello que se denomina economía colaborativa. Aunque los ejemplos más recurridos son Uber y Airbnb, pero existen otros tantos.

La privacidad y los problemas que se suscitan en relación con su vulneración se analizan en el capítulo quinto. Los drones y los robots domésticos pueden plantear distintos aspectos de privacidad que deben considerarse. Igualmente existe un crecimiento exponencial de los dispositivos electrónicos que llevamos con nosotros -denominados wearables- y los diversos problemas que generarán en materia de privacidad. Podemos referirnos a una ingente cantidad de ejemplos al respecto.

Además de las conocidas gafas de Google, cabe aludir a extravagantes casos como aquellos que protagonizaron Amal Graasfstra y Kevin Warwick, quienes se implantaron chips dentro de su cuerpo, estando en algunos casos conectados al sistema nervioso. Todo nos lleva a formular una pregunta: ¿de quién son los datos del Big Data y del internet de las cosas? No hay una respuesta concluyente. Aunque los datos en bruto son sin duda relevantes, sin el software y hardware adecuados no se podrá obtener su rendimiento.

El capítulo sexto se dedica al estudio de diversas tecnologías disruptivas. Dentro de estas últimas, en primer término se analizan los efectos legales que suscitan las impresoras 3D y 4D. Existen algunas voces reconocidas de Harvard Law School como Davis Doherty, quien sugiere aprobar una Digital Millenium Patent Act y Creae Inventive Commons, las cuales actúen como una enorme base de datos sobre diseños 3D, pero no podrían ser patentados y estarán a disposición del público para favorecer la creatividad.

Se centra, posteriormente, en el examen del internet de las cosas y de las ciudades inteligentes, se abordan aspectos tan sugerentes como los efectos del big data y del internet de las cosas sobre el sector asegurador. Se refiere, además, a la problemática de los coches autónomos o sin conductor. Estos últimos suscitan nuevos interrogantes y preocupaciones como, por ejemplo, actuar ante un accidente inevitable. En este sentido, podrían plantearse dilemas difíciles de resolver, como es el hecho de si los algoritmos que controlan estos vehículos deberían dar prioridad al bien mayor (salvar el mayor número posible de vidas) o valorar a los sujetos involucrados.

Llevar estos planteamientos al extremo nos cuestionaría qué debería hacer el sistema de conducción autónoma ante una posible colisión del coche contra un autobús escolar repleto de niños: ¿sacrificar al conductor, quien viaja solo en el coche, o al conjunto de menores? El apartado final se refiere al Blockchain y el uso que, de tal herramienta, efectúa el bitcoin. Esta última es quizás el paradigma de las criptomonedas por el éxito acumulado en los últimos años. Ahora bien, está sometida a una volatilidad extrema y no hay garantías de nada.

En efecto, no existe un banco central o gobierno que respalde o controle su operativa. Vinculado con las criptomonedas, el autor del texto lo relaciona con los denominados Smart Contract o contratos inteligentes. Tanto el Blockchain, o cadena de bloques, como los contratos inteligentes parecen tener una aplicación muy amplia a muchos y variados sectores.

Los robots sociales se estudian en el capítulo siete. En efecto, existen máquinas susceptibles de captar las emociones humanas y de aprender fruto de tal interacción. Sánchez del Campo alude a Pepper, el robot que está presente en las tiendas de Softbank, el operador de telecomunicaciones de Tokio. Su objetivo es ser el compañero emocional de los humanos.

Existen otros ejemplos similares como Amelia, la cual es un sistema de inteligencia artificial capaz de interactuar en 20 idiomas diversos, resolver problemas, responder a cuestiones que se le plantean y, aunque parezca increíble, aprender de la experiencia. Como el avezado lector podrá considerar se trata de un sistema notablemente más avanzado que Echo de Amazon o Google Home. Considerando el ritmo al que evolucionan estos robots debemos plantearnos cuestiones del tipo si podemos dejar estas máquinas al cuidado de niños y ancianos. Quizá dada la escasez de médicos disponibles para atender a estas personas la respuesta podría inclinarse a favor del sí.

El Consejo de Ética de Dinamarca ha llegado a plantear si es aceptable que los robots sean diseñados para hacer creer a determinadas personas que tienen sentimientos. Existen algunos académicos de la Universidad de Notre Dame que, en este orden de ideas, han elaborado un código ético para las personas que desarrollan robots que interactúan con humanos. Algunas conclusiones son que sería deseable que el comportamiento de los robots fuera predecible, o que la privacidad fuera respetada.

Además de los robots, en su faceta más amistosa, también se examinan la vertiente más agresiva: los killer robots. El capítulo octavo se dedica íntegramente a los Terminator y las armas letales autónomas. Este tema resulta de interés mundial. En mayo de 2015, un grupo específico de la ONU debatió, de manera amplia, sobre los aspectos técnicos, éticos, legales y operativos de las armas letales autónomas. No se alcanzaron conclusiones definitivas, sino que se tomó la firme determinación de reunirse dentro de algunos años. El tema nuclear no es si tenemos que prohibirlas o permitirlas, sino cómo deben regularse. Efectivamente, a la fecha de hoy son una realidad.

En el capítulo noveno se analiza el transhumanismo, la singularidad y la inmortalidad. Una afirmación fuera de toda duda es que todo ser vivo, en algún lapso de su existencia, morirá. Los sistemas legales de todo el mundo descansan en la premisa de que los seres humanos nacemos y fallecemos. Ambos tienen consecuencias en el plano legal. Existen empresarios de inmensa fortuna como el CEO de Oracle, Larry Ellison, quien, de manera anual, dona alrededor de 40 millones de dólares a la fundación que lleva su nombre, cuyo objetivo es acabar con la mortalidad. Existen otros millonarios cuyas ideas son bastante similares. Los fundadores de Google o de Paypal financian, en el mismo sentido, la Fundación Methuselah, cuyo creador considera que la primera persona que alcanzará los mil años está viva en estos momentos.

Existen temas verdaderamente llamativos como el amor y sexo en el mundo robótico, los cuales se incluyen en el capítulo diez. Aunque puede resultar un tema completamente disruptivo, la importancia que los robots están adoptando es notable. En 2014, Hawking puso de relieve que “el desarrollo de una inteligencia totalmente artificial podría significar el fin de la raza humana”.

Especialmente sugerente resulta la posibilidad de que se permita el matrimonio entre humanos y robots. Según el destacado profesor Gary Marchant, de la Universidad Estatal de Arizona, debe permitirse, pues a su juicio se trata del derecho de un ser humano el poder elegir casarse con quien quiera, incluso con un robot. Como dispone Sánchez del Campo Redonet, se están llevando las cosas al extremo. Con el grado de autonomía, la capacidad de aprendizaje y, aquello que es importante, la ausencia de conciencia de que disponen en estos momentos los robots no tiene sentido alguno pensar en ningún tipo de derechos matrimoniales o sexuales.

La regulación de las nuevas realidades tecnológicas y sociales se incluye en el capítulo once. El punto que subyace a toda esta problemática es que la tecnología siempre va por delante de la ley. Hace un siglo cuando los primeros carros Ford comenzaron a circular por las carreteras americanas, ningún legislador podía llegar a pensar, ni muchos menos a presumir, que los coches tendrían una conducción autónoma. La situación es completamente diferente en estos momentos y el legislador tendrá que aprobar normas en esta materia.

El capítulo doce incluye un elenco de recomendaciones para el legislador. En este último se analiza Robolaw, que es un proyecto de la Unión Europea sobre los aspectos éticos y legales que suscitan los robots. Se trata de ofrecer orientaciones y principios que pueden guiar a los reguladores europeos y nacionales en el momento que deban legislar al respecto. El informe se detiene en temas de notable actualidad como los coches autónomos o sin conductor y el debate sobre las mejoras en el cuerpo humano y ciertas reflexiones en torno a los robots cirujanos.

Todo lo planteado pone de manifiesto que los robots están llegando de forma irremediable. Como en 2014 dispuso John Roberts, juez del Tribunal Supremo de los Estados Unidos de América, en la sentencia Riley vs. California: “el uso del teléfono móvil inteligente es tan intenso en nuestra sociedad que un visitante de Marte podría concluir que es una funcionalidad adicional a la anatomía humana”. Como establece el autor de este capítulo, son necesarios más foros abiertos en donde los expertos planteen sus puntos de vista y sugerencias que, posteriormente, sean consideradas por los legisladores.

Todo esto pone de manifiesto que los abogados y la tecnología, en los tiempos actuales, están relacionados. También se suscitan a múltiples niveles innovaciones en el sector legal. Todo esto es objeto de estudio en el capítulo trece. Esta disrupción de tipo legal se origina principalmente en Estados Unidos de América y en Reino Unido, ambos a la vanguardia en este tema.

Como señala el autor, es más que probable que en las próximas dos décadas el sector legal cambie más que en los últimos dos siglos. Quizá lo más conveniente sería que los abogados salieran más del mundo legal, en su acepción más estricta, y entrasen en contacto con físicos, ingenieros, médicos, filósofos, economistas, entre otros. Tal vez lo más apropiado sería abandonar la zona de confort, potenciar la creatividad y trabajar en dos aspectos esenciales como son la marca personal y la reputación online.

El capítulo catorce alude a las reflexiones finales, mientras que el capítulo quince aborda aspectos novedosos y disruptivos; por ejemplo, las implicaciones jurídicas de los viajes en el tiempo. Resultan interesantes las apreciaciones que el autor formula sobre la base de la película de Volver al futuro II. Hace diferentes observaciones respecto a las patentes, la propiedad intelectual, derechos de imagen y diseño industrial si estos se originaran en el futuro y fueran llevados hacia atrás en el tiempo.

La realidad está cambiando a una velocidad de vértigo. Quizá no tenemos tiempo para asimilarlo, pero debemos adaptarnos tomando las medidas que sean precisas. Aunque el derecho, en ocasiones, pueda resultar tedioso y difícil de asimilar, la presente obra demuestra que no siempre es así. Los libros pueden resultar cercanos al lector como es la obra de Sánchez del Campo, afrontando un conjunto de problemáticas que resultan controvertidas.

La tecnología está llegando cada vez más a un mayor número de actividades cotidianas. A mayor abundamiento resulta complejo identificar un espacio que sea completamente ajeno a las nuevas tecnologías. Los hábitos cambian con base en innovaciones de amplia magnitud. No debemos desmerecer sus consecuencias positivas, si bien estas plantean retos en diferentes perspectivas (sociales, económicas, filosóficas y, por supuesto, legales). Vamos hacia una sociedad más interconectada donde los riesgos que ahora se plantean, en un futuro se podrán magnificar. Para muestra un botón.

Pensemos, en ese sentido, en las vulneraciones de la privacidad que se suscitarán. Lo peor de todo, se tratarán de numerosos tratamientos que no hayan sido consentidos. Para evitar los riesgos, quizá la actitud más precavida sería pasar a un uso analógico del pasado, si bien en ese momento era probable que los instrumentos analógicos fueran reliquias de un tiempo anterior o piezas de museo. No nos queda más remedio que adaptarnos a un esperanzador futuro, con cautelas, pero sin temores infundados.

Received: October 16, 2018; Accepted: December 11, 2018

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons