I. Introducción

Los economistas afirman que la humanidad se encuentra en el preludio de la Cuarta Revolución Industrial, llamada también Industria 4.0 (término utilizado por primera vez en la Feria de Hanover, Alemania, en el año 2011), continuadora de los otros tres procesos históricos transformadores: la Primera Revolución Industrial (entre 1760 y 1830) marcó la transición de la producción manual a la mecanizada, la Segunda- alrededor de 1850- introdujo la electricidad y permitió la manufactura en masa y la Tercera, a mediados del siglo XX, denominada la Revolución Digital, basada en el uso de tecnologías de información para automatizar aún más la producción. Esta Cuarta Revolución Industrial, no se define por un conjunto de tecnologías emergentes en sí mismas, sino por la completa digitalización de las cadenas de valor a través de la integración de tecnologías de procesamiento de datos, software inteligente y sensores. Recurriendo a Internet, a los sistemas ciberfísicos y a las redes virtuales con posibilidades de controlar objetos materiales, se pueden ir modernizando las plantas fabriles hasta transformarlas en fábricas inteligentes (^{Perasso, 2016}).

Dicho en forma más simple, una producción industrial en la que todos los productos y máquinas están interconectados entre sí digitalmente. Las nuevas tecnologías y enfoques están fusionando los mundos físico, digital y biológico de manera que transformarán a la humanidad en su esencia misma.

En ello radica lo novedosos de esta nueva revolución, que a diferencia de las anteriores que se desarrollaron exclusivamente en el mundo físico, la actual conecta ese ámbito físico con el espacio digital, utilizando como medio de comunicación Internet (Internet de las Cosas, IOT, siglas en inglés de Internet of Things) y como mensaje los propios metadatos o datos (Big Data).

El Comité Económico y Social Europeo, en su dictamen de iniciativa emitido el 31 de mayo de 2017 sobre la “Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad” señala que en la cuarta revolución industrial, marcada por la convergencia de tecnologías digitales, físicas y biológicas, Internet de las Cosas es el ámbito predilecto de aplicación de las formas más avanzadas de inteligencia artificial y se pone a prueba el principio según el cual los seres humanos tienen en todo momento el control sobre dichos objetos (^{Comité Económico y Social Europeo, 2017}).

En 2017, cerca de 4.000 millones de personas -más de la mitad de la población mundial- utilizaba Internet y un 56% lo hacía con suscripciones a servicios móviles. Por otra parte, el 61% de tales suscripciones operaban sobre redes 3G o 4G y durante el 2017 se descargaron 175.000 millones de aplicaciones y se usaban activamente alrededor de 40 en cada teléfono inteligente. A principios de 2018 se registraban más de 5.000 millones de usuarios únicos de telefonía móvil, de los cuales 57% utilizaba teléfonos inteligentes. En enero de 2018, más de 3.000 millones de personas- el 42% de la población mundial- usaban mensualmente las redes sociales, especialmente mediante dispositivos móviles.

En tanto, el uso de plataformas de comercio electrónico para comprar bienes de consumo creció hasta alcanzar los 1.800 millones de compradores- el 23% de la población mundial- en línea a nivel mundial. Entre las nuevas tecnologías que están impulsando la digitalización, la Internet de las Cosas es una de las que se prevé tendrá mayor impacto, tanto en el desarrollo de bienes y servicios para los consumidores como para usos productivos (Comisión Económica para América Latina y el Caribe, 2018).

Según estimaciones realizadas por la consultora Gartner, en 2020, el número de objetos conectados a Internet será de más de 26.000 millones (excluyendo PCs, tablets y Smartphone) y que la Internet de las Cosas aportará por sí misma un valor de 1,9 billones de euros a la economía mundial, demostrando la gran importancia estratégica que representará la economía digital en los próximos años (^{Gartner, 2013}).

En sintonía, el estudio del ^{McKinsey Global Institute}, intitulado “The Internet of Things: How to capture the value of IoT” una Internet de las cosas completamente conectada podría añadir hasta $11 billones a la economía global al año para el 2025 a través de diferentes entornos incluyendo fábricas, ciudades y ámbitos minoristas (^{McKinsey & Company, 2018}).

No es de extrañar que, durante el 2018, siete de las diez empresas más cotizadas en la bolsa fueron tecnológicas. El trio Apple, Amazon y Alphabet (matriz de Google) fue secundado por Microsoft y Facebook para completar el top 5 mundial. El sexto lugar correspondió a Berkshire Hathaway, el brazo inversor de Warren Buffett, seguido de nuevo por dos tecnológicas, en este caso de China: Alibaba y Tencent. Cerraron el top 10 JPMorgan y Johnson & Johnson (^{Mazo, 2018}).

En este contexto, el objetivo del presente artículo consiste, en primer lugar, en conceptualizar y exponer las ventajas y desventajas de la inteligencia artificial y, en segundo lugar, analizar las últimas recomendaciones de la Comisión Europea en materia de inteligencia artificial y robótica. La metodología se basó en la actualización de los conceptos y en el análisis normativo. A tales efectos, el trabajo se compone de dos partes: la primera referida a aspectos tecnológicos y prácticos y las segunda al análisis ético y jurídico.

II. Marco conceptual

III. Normativa Europea

El 19 de abril de 2016 la Comisión Europea publicó el documento Advancing the Internet of Things in Europe. resaltando que las tecnologías digitales estaban evolucionando a un ritmo tan rápido que debía supervisarse constantemente el marco jurídico. A tales efectos, expresó la necesidad de examinar el marco normativo de las innovaciones digitales para esclarecer, entre otros temas, la propiedad y el uso de los datos generados en un contexto industrial; los sistemas que actúan de modo autónomo, como los vehículos sin conductor o los drones y las aplicaciones y demás software no empotrado, vale decir no incluido en un medio tangible, temáticas que representan un desafío para las normas de seguridad y responsabilidad (^{Comisión Europea, 2016}).

El 6 de diciembre de 2018, el Comité Económico y Social Europeo aprobó el dictamen de iniciativa intitulado “Dictamen del Comité Económico y Social Europeo sobre Confianza, privacidad y seguridad de los consumidores y las empresas en el internet de las cosas”. Parte de la premisa que uno de los pilares del internet de las cosas radica en la toma de decisiones automática sin intervención humana y que la interconectividad de personas y objetos, representa oportunidades para los ciudadanos y las empresas. Sin embargo, reconoce la necesidad de dotar de un marco jurídico adecuado estableciendo una serie de garantías y controles para asegurar una implantación satisfactoria del mismo que garantice los derechos de los consumidores. El mismo avanza sobre todos los riesgos a la seguridad, privacidad, intimidad y de carácter ético o contrarios a los derechos humanos fundamentales que esta tecnología conlleva. Y solicita a las instituciones europeas y a los Estados miembros, entre otras medidas, a velar por la protección de la seguridad y la privacidad; adoptar medidas de seguimiento y control; cubrir los vacíos legales en las tecnologías disruptivas; delimitar la responsabilidad en la cadena de suministro del producto; fomentar las iniciativas de normalización europeas e internacionales; tener en cuenta a los grupos vulnerables y establecer mecanismos efectivos y colectivos de solución de controversias (^{Comité Económico y Social Europeo, 2018}).

En marzo de 2012, la Comisión Europea habilitó una partida presupuestaria para financiar el “Proyecto Robolaw”, denominación abreviada de “Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics.” El objetivo principal del precitado proyecto consistió en elaborar un informe detallado con todas las cuestiones éticas y legales que planteaban los robots, así como ofrecer principios para guiar a los legisladores a la hora de regular el tema. Los resultados de dicha investigación, presentados en octubre de 2014, han constituido la base de la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (^{Palmerini, 2017}).

En su introducción, además de mencionar al monstruo de Frankenstein, el mito de Pigmalión, el Golem de Praga, entre otros, la precitada Resolución reconoce que la humanidad se encuentra en los albores de una nueva revolución industrial, en la cual los robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas, probablemente afecten a la sociedad en su conjunto. En consecuencia, considera necesario que el legislador pondere las consecuencias jurídicas y éticas, sin obstaculizar con ello la innovación y que disponga de una serie de normas en materia de responsabilidad, transparencia y rendición de cuentas que reflejen los valores humanistas intrínsecamente europeos y universales. Al mismo tiempo, alerta que tal normativa no debería afectar al proceso de investigación, innovación y desarrollo en el ámbito de la robótica. Solicita a la Comisión Europea que presente una propuesta de Directiva relativa a las normas de legislación civil en materia de robótica, siguiendo las recomendaciones detalladas que figuran en el Anexo de dicha Resolución. Entre las principales líneas de trabajo a futura consideración legislativa, se pueden enumerar:

1) En primer lugar, parte de la necesidad de establecer una definición europea común de robots autónomos inteligentes, incluidas las de sus subcategorías, conforme las siguientes características: la capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el análisis de dichos datos; la capacidad de aprender a través de la experiencia y la interacción; la forma del soporte físico del robot y la capacidad de adaptar su comportamiento y acciones al entorno.

2) Formular reglas relativas a la responsabilidad civil al entender que podría ser insuficiente el marco jurídico vigente en el ámbito de la responsabilidad contractual para cubrir los daños causados por la nueva generación de robots, en la medida en que se les puede dotar de capacidades de adaptación y aprendizaje que entrañan cierto grado de imprevisibilidad en su comportamiento, ya que un robot podría aprender de forma autónoma de sus experiencias concretas e interactuar con su entorno de un modo imprevisible y propio únicamente a ese robot.

3) La sanción de un código de conducta ético voluntario como base para la regulación de los impactos sociales, ambientales y de salud humana de la robótica, teniendo en cuenta los principios recogidos en la Carta sobre Robótica establecida en ese mismo Anexo. En dicha Carta pone énfasis en las fases de investigación y desarrollo de la trayectoria tecnológica pertinente (proceso de concepción, análisis ético, controles de auditoría, entre otros.). Dicho código de conducta debería tener como objetivo no solo la necesidad de abordar la necesidad de cumplimiento de determinadas normas éticas por parte de investigadores, profesionales, usuarios y diseñadores, sino también de introducir un procedimiento para la resolución de los dilemas éticos y permitir que estos sistemas puedan funcionar de una manera éticamente responsable.

4) Posteriormente, presenta un modelo de Código de Conducta Ética voluntario para los Ingenieros en Robótica y un Código Deontológico para los Comités de Ética de la Investigación. El primero ofrece un conjunto de principios generales y directrices para las medidas que adopten todas las partes interesadas. Invita a todos los investigadores y diseñadores a actuar de forma responsable respetando la dignidad, intimidad, autonomía y la seguridad de las personas, vale decir los derechos humanos internacionalmente reconocidos. Solicita la estrecha colaboración entre todas las disciplinas para garantizar la investigación en robótica en Europa de un modo seguro, ético y eficaz. Con referencia a los organismos públicos y privados de financiación de la investigación en dicho ámbito, les aconseja que exijan la realización y presentación de una evaluación del riesgo para cada propuesta de financiación en la materia. También se refiere a los investigadores, los que deben respetar los siguientes principios: a) beneficencia : los robots deben actuar en beneficio del hombre; b) principio de no perjuicio o maleficencia: no hacer daño, en virtud del cual los robots no deberían perjudicar a las personas; c) autonomía: la capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robots; d) justicia en la distribución de los beneficios asociados a la robótica y la asequibilidad de los robots utilizados en el ámbito de la asistencia sanitaria a domicilio y de los cuidados sanitarios en particular. La responsabilidad siempre incumbe a los seres humanos, no a los robots.

Especial mención tienen los siguientes principios: a) principio de precaución, ya que los investigadores deben anticiparse a los posibles impactos de sus resultados sobre la seguridad y adoptar las precauciones debidas, fomentando el progreso en beneficio de la sociedad y del ambiente; b) el de participación ya que los ingenieros en robótica deben garantizar la transparencia y el respeto al derecho legítimo de acceso a la información de todas las partes interesadas; c) el de rendición de cuentas sobre las consecuencias sociales y medioambientales y el impacto sobre la salud humana que la robótica puede conllevar para las generaciones presentes y futuras: d) el de seguridad en la medida en que los diseñadores en robótica deben respetar la integridad física, la seguridad, la salud y los derechos de -las personas y divulgar con prontitud los factores que pudieran poner en peligro a la población o al medio ambiente; e) reversibilidad, la que considera como una condición necesaria de la posibilidad de control, como un concepto fundamental en la programación de robots para que se comporten de manera segura y fiable. Un modelo de reversibilidad indica al robot qué acciones son reversibles y, en su caso, el modo de invertirlas. La posibilidad de deshacer la última acción o secuencia de acciones, permite al usuario anular las acciones no deseadas y volver a la fase inocua de su trabajo; f) el de privacidad: la información privada debe conservarse en total seguridad y solo se utilizará de forma adecuada. El consentimiento consciente de la persona tiene que solicitarse y recabarse con anterioridad a cualquier interacción hombre-máquina. A tal efecto, los diseñadores en robótica tienen la responsabilidad de desarrollar y aplicar procedimientos para garantizar el consentimiento válido, la confidencialidad, el anonimato, el trato justo y el respecto de la legalidad y g) maximizar beneficios y reducir al mínimo los daños en todas las fases, desde su concepción hasta su difusión. Es conveniente evitar cualquier daño a los participantes o a los seres humanos que participen en los experimentos, ensayos o estudios en el ámbito de la investigación. En caso de aparición de riesgos inevitables, normalmente no deberían ser superior a los existentes en la vida cotidiana, es decir, las personas no han de estar expuestas a riesgos mayores a aquellos a los que están expuestos en su vida diaria y reposar en los principios de proporcionalidad y de precaución. Por su parte, el Código Deontológico establece la necesidad de un proceso de revisión ética independiente de la propia investigación y a cargo de un Comité de Ética de la Investigación el que debería tener un carácter multidisciplinar: incluir a hombres y mujeres, estar constituido por miembros con una amplia experiencia y conocimientos en el ámbito de la investigación en robótica.

5) La creación de una Agencia Europea de Robótica e Inteligencia Artificial y un Registro Europeo de los robots inteligentes. Al mismo tiempo destaca que el desarrollo de la tecnología robótica debe orientarse a complementar las capacidades humanas y no a sustituirlas.

6) Elaborar un estatuto de persona electrónica.

7) Estudiar nuevos modelos de empleo y analizar la viabilidad del actual sistema tributario y social con la llegada de la robótica.

8) Garantizar la interoperabilidad de los robots autónomos conectados a la red autónoma que interactúan entre sí.

9) Finalmente, detalla la licencia para los diseñadores y para los usuarios. En esta última, se autoriza a los usuarios a utilizar un robot sin miedo de perjuicio físico o psicológico, a que efectúe las tareas para las que haya sido expresamente concebido, respetando la fragilidad humana, tanto física como psicológica, así como las necesidades emocionales de los seres humanos, a la vida privada de las personas, incluida la desactivación de videomonitores durante procedimientos íntimos, y no están autorizados a modificar los robots para utilizarlos como armas (^{Parlamento Europeo, 2017})

El Anexo también menciona la trazabilidad de los robots avanzados, pero siempre bajo el control de los seres humanos sobre las máquinas inteligentes (^{Valente, 2019})

En la Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones, “Inteligencia artificial para Europa” del 25 de abril de 2018 se destaca que la aparición de la inteligencia artificial, en particular, el complejo ecosistema que la hace posible y la adopción autónoma de decisiones, exige una reflexión acerca de la idoneidad de algunas de las normas establecidas en materia de seguridad y de responsabilidad civil. Por ejemplo, los robots avanzados y los productos del internet de las cosas pueden no comportarse con arreglo a lo previsto cuando el sistema entró en funcionamiento por primera vez. Teniendo en cuenta los desafíos planteados por las tecnologías digitales emergentes, reconoce la necesidad de revisar los marcos jurídicos en materia de seguridad, las normas sobre responsabilidad por los daños causados por productos defectuosos, así como la Directiva sobre máquinas a fin de constatar si resultan adecuados para el fin previsto o si existen lagunas que deben colmarse. Considera de vital importancia que las personas puedan controlar los datos generados por la utilización de estas herramientas y saber si están comunicándose con una máquina o con otro ser humano, así como la forma de garantizar que las decisiones del sistema puedan verificarse o corregirse. Es que, en muchos casos, la toma de decisiones automática, sin intervención humana, afectó los derechos de los consumidores, ocasionó riesgos éticos o contrarios a los principios y derechos humanos fundamentales. En consecuencia, la Comisión puso en marcha la estrategia europea sobre inteligencia artificial centrada en el ser humano (^{Comisión Europea 2018a}). Y para concretizar dicha estrategia desarrolló junto con los Estados miembros un plan coordinado sobre la inteligencia artificial (^{Comisión Europea, 2018b}).

Es por eso que Elon Musk, Stephen Hawking y cientos de otros investigadores, líderes tecnológicos y científicos han respaldado una lista de 23 principios correctores elaborados en la conferencia organizada por el Future of Life Institute en enero de 2017 en California, para guiar el desarrollo de la inteligencia artificial en una dirección productiva, ética y segura. En la misma línea se adscribe la Comunicación de la Comisión al Parlamento Europeo, al Comité Económico y Social Europeo y al Comité de las Regiones: Generar confianza en la inteligencia artificial centrada en el ser humano, del 8 de abril de 2019. La Comunicación pretende ser la fase piloto para la implementación práctica de la orientación ética para el desarrollo y uso de la inteligencia artificial. Comienza destacando que la Unión se fundamenta en un sólido marco normativo, que constituirá la referencia mundial para la inteligencia artificial centrada en el ser humano. Entre las normativas más significativas enumera el Reglamento general de protección de datos personales (RGPD), el Reglamento relativo a la libre circulación de datos no personales, el Reglamento de Ciberseguridad y el Reglamento sobre la privacidad y las comunicaciones electrónicas propuesto.

No obstante, este tipo de inteligencia conlleva nuevos retos, ya que permite a las máquinas aprender, tomar decisiones y ejecutarlas sin intervención humana.

Ahora bien, las decisiones adoptadas mediante algoritmos pueden dar datos incompletos y no fiables, pueden ser manipulados por ciberataques, sesgados o simplemente estar equivocados. Aplicar de forma irreflexiva la tecnología a medida que se desarrolla produciría resultados problemáticos, violatorios de los derechos humanos. Por tanto, las aplicaciones de inteligencia artificial no solo deben ajustarse a la ley, sino también respetar principios éticos y garantizar que su implementación evite daños involuntarios. En cada una de las fases de su desarrollo debe estar garantizada la diversidad en cuanto al género, el origen racial o étnico, la religión o las creencias, la discapacidad y la edad. A los efectos de la elaboración de directrices éticas basadas en el marco regulador existente y que sean aplicadas por desarrolladores, proveedores y usuarios de la inteligencia artificial, la Comisión creó un grupo de expertos de alto nivel sobre la Inteligencia Artificial, cuyas conclusiones fueron presentadas ante dicho cuerpo en marzo de 2019.

Las directrices propugnan que, para lograr una inteligencia artificial fiable, son necesarios tres componentes: a) conforme a la ley, b) respetar los principios éticos y c) sólida. Sobre estos tres componentes y los valores europeos de respeto a la dignidad y a los derechos humanos, las directrices señalan siete requisitos esenciales que las aplicaciones inteligentes deben respetar para ser confiables, a saber:

1) Intervención y supervisión humana: debe lograrse a través de mecanismos de gobernanza, como participación humana (human-in-the-loop), la supervisión humana (human-on-the-loop), o el control humano (human-in-command).

2) Solidez y seguridad técnica: los algoritmos deben ser lo suficientemente seguros para ser resilientes, fiables y sólidos para resolver errores o incoherencias durante todas las fases del ciclo vital del sistema inteligente. Asimismo, deben tener la fortaleza para repeler los ataques abiertos como tentativas más sutiles de manipular datos o los propios algoritmos y deben garantizar un plan de contingencia en caso de problemas. Sus decisiones deben ser acertadas o, como mínimo, reflejar su nivel de acierto, y sus resultados, reproducibles

3) Privacidad y gestión de datos: deben garantizarse la privacidad, el pleno control y la protección de datos en todas las fases. Los registros digitales del comportamiento humano pueden permitir que los sistemas inteligentes infieran no solo las preferencias, la edad y el sexo de las personas, sino también su orientación sexual o sus opiniones religiosas o políticas. Es necesario asegurar al consumidor que no se utilizarán para perjudicarles o discriminarles.

4) Transparencia: debe garantizarse la trazabilidad de los sistemas; se debe registrar y documentar tanto las decisiones tomadas como la totalidad del proceso que dio lugar a las decisiones. Es importante comunicar adecuadamente las capacidades y limitaciones del sistema a las distintas partes interesadas afectadas.

5) Diversidad, no discriminación y equidad: apunta a garantizar la accesibilidad mediante un enfoque de diseño universal para lograr la igualdad de acceso para las personas con discapacidades.

6) Bienestar social y medioambiental: debe tomarse en cuenta su impacto sobre el ambiente y sobre otros seres sensibles. Todos los seres humanos, incluso las generaciones futuras, deberían beneficiarse de la biodiversidad. Debe fomentarse la sostenibilidad y la responsabilidad ecológica de los sistemas inteligentes y las soluciones que abordan deben tener en cuenta los Objetivos de Desarrollo sostenible de las Naciones Unidas.

7) Rendición de cuentas: es imprescindible la posibilidad de auditar estos sistemas por parte de auditores internos y externos y la disponibilidad de los informes de evaluación. Los potenciales impactos negativos de los sistemas deben señalarse, evaluarse, documentarse y reducirse al mínimo. En caso de producir efectos adversos injustos, se debe prever mecanismos accesibles que garanticen una reparación adecuada.

Estos requisitos están pensados para ser aplicados a todos los sistemas de inteligencia artificial, pero la intensidad va a depender del contexto específico de aplicación. Por ejemplo, la aplicación inteligente que califica a un libro de lectura como inadecuado es mucho menos peligrosa que otra que diagnostique erróneamente un cáncer y, por tanto, puede estar sujeta a una supervisión menos estricta.

Es de destacar que estas directrices no son vinculantes, no tienen fuerza de ley, son soft law. No obstante, muchas disposiciones vigentes del Derecho de la Unión reflejan uno o varios de estos requisitos esenciales. Por ejemplo, las normas de seguridad, de protección de los datos personales, de privacidad o de protección del medio ambiente (^{Comisión Europea, 2019}).

El 12 de febrero de 2019, el Parlamento Europeo dictó una Resolución referida a la política industrial global europea en materia de inteligencia artificial y robótica. En la misma tuvo en cuenta su Resolución del 16 de febrero de 2017, referida a las recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica-comentada ut supra- y demás Resoluciones sobre la materia, así como la estrategia europea sobre inteligencia artificial centrada en el ser humano de la Comisión Europea.

Dicho documento recoge las aspiraciones y el plan estratégico de Europa para diseñar y desarrollar acciones concretas hacia el nuevo liderazgo en inteligencia artificial y robótica. No desconoce la importancia de las alianzas internacionales con aquellos países fuera de la Unión que tengan un nivel avanzado mayor, sino más bien, la promueve. Parte de la base que la inteligencia artificial y la robótica llevan ya una serie de años formando parte de la vida cotidiana, creando nuevos modelos empresariales y desempeñando un papel clave en la transformación de las sociedades y en muchos sectores de la economía, como la industria, la sanidad, la construcción y el transporte. En particular, que la inteligencia artificial es una de las tecnologías estratégicas para el siglo XXI y que alrededor de una cuarta parte de todos los robots industriales y la mitad de todos los de servicios profesionales existentes en el mundo están producidos por empresas europeas. Es por ello que la Unión ya cuenta con un importante activo en el que debería basar su política industrial europea. Sin embargo, debe competir con las enormes inversiones realizadas por terceros países, especialmente los Estados Unidos y China.

También alude a que, en su Resolución del 16 de febrero de 2017, el Parlamento instaba a la Comisión a que propusiera un marco jurídico coherente en relación con el desarrollo de la robótica, incluidos los sistemas autónomos y los robots autónomos inteligentes, siempre sobre la base del pleno respeto de los derechos humanos y en particular de los principios de protección de datos, privacidad y seguridad, preservando la dignidad, la autonomía y la autodeterminación de las personas. Esta realidad, junto con el crecimiento exponencial en los avances tecnológicos, hace necesaria la revisión de las normas y procesos existentes y, en su caso, modificarse para tener en cuenta la inteligencia artificial y la robótica. En dicha revisión, considera que se debe tener en cuenta la ciberseguridad ya que es vital para garantizar que los datos no sean manipulados de forma malintencionada o usados indebidamente en forma perjudicial para los ciudadanos o las empresas. Asimismo, como el uso de la inteligencia artificial por sí solo no garantiza la verdad ni la equidad, todos los implicados en el diseño, desarrollo y comercialización deben incorporar desde el inicio-ab initio- características de seguridad y ética, reconociendo de ese modo que deben estar preparados para aceptar la responsabilidad jurídica por lo que respecta a la calidad de la tecnología que producen. En particular, en el ámbito sanitario, la utilización de la inteligencia artificial debe basarse siempre en el principio de responsabilidad según el cual la máquina es operada por el ser humano.

En el precitado documento, destaca que la política industrial global europea en materia de inteligencia artificial y robótica debe basarse en los siguientes parámetros:

1) Una sociedad inteligente, vale decir con el apoyo de la inteligencia artificial y la robótica. En primer lugar, destaca que, en esa nueva sociedad, la mano de obra, al igual que en anteriores revoluciones tecnológicas, se verá afectada ya que se sustituirán algunos puestos de trabajo, pero también se crearán otros nuevos que transformarán la vida y práctica profesional. Por tanto, insta a los Estados miembros a que se centren en la reconversión de los trabajadores de las industrias más afectadas por la automatización de las tareas, en el desarrollo de las capacidades de los trabajadores en los nuevos desafíos laborales y en la elaboración de programas de alfabetización digital en los centros escolares como uno de los factores más importantes de la inteligencia artificial. A ese respecto, también reclama a la Comisión y a los Estados miembros que desarrollen y apliquen estrategias de formación y reciclaje en materia de capacidades digitales para todas las edades. Asimismo, un mayor uso de la robótica y la inteligencia artificial reducirá la exposición de los seres humanos a condiciones perjudiciales y peligrosas.

Especial atención merece el uso malintencionado de la inteligencia artificial y los derechos fundamentales ya que podría constituir una amenaza para la seguridad digital, la física y la pública. Menciona varios malos usos de la inteligencia artificial, como por ejemplo, para llevar a cabo ataques a gran escala, muy selectivos y muy eficientes, para lanzar campañas de desinformación y, en general, para reducir el derecho de las personas a la autodeterminación, poniendo en riesgo a la democracia. Por ello, le solicita a la Comisión que proponga un marco que penalice las prácticas de manipulación de la percepción cuando los contenidos personalizados o las fuentes de noticias provoquen sentimientos negativos y una deformación de la percepción de la realidad con consecuencias negativas, por ejemplo, en los resultados electorales o sobre cuestiones sociales como la migración. Otro riesgo a tener en cuenta se relaciona con la elaboración de perfiles que clasifican a las personas, sufriendo discriminación en función de tal clasificación y su estigmatización. Expresa su gran preocupación por el empleo de aplicaciones de inteligencia artificial, incluido el reconocimiento facial y vocal, en los programas de vigilancia emocional, es decir, el seguimiento de las condiciones mentales de los trabajadores con el fin de obtener un incremento de la productividad y preservar la estabilidad social.

2) La vía tecnológica hacia la inteligencia artificial y la robótica: en cuanto a investigación y desarrollo, recuerda que Europa cuenta con una comunidad líder mundial en investigación y que representa el 32 % de las instituciones de investigación de la inteligencia artificial en todo el mundo. Subraya que se debe invertir no solo en la tecnología y en el desarrollo de la innovación, sino también en los ámbitos sociales, éticos y de responsabilidad relacionados con la inteligencia artificial; estima que todos los modelos que se desplieguen deben ser éticos desde su concepción y que deben respetar los derechos humanos. También destaca que un entorno de investigación competitivo también es fundamental y reconoce que las remuneraciones de los investigadores de la Unión siguen siendo muy inferiores a las de sus homólogos de los Estados Unidos y China, reconociéndose que esa es la principal razón que los lleva a abandonar Europa. Además, señala la importancia de invertir más en este campo para seguir siendo competitivos, pero que no permitan que se financie la inteligencia artificial con fines armamentísticos ni en el desarrollo de la conciencia artificial.

3) Política industrial: si bien la inteligencia artificial y la robótica ya tienen aplicaciones industriales arraigadas desde hace tiempo, los avances en este ámbito están aumentando y ofrecen amplias y diversas aplicaciones en todas las actividades humanas. Por ello cualquier marco regulador debe ser flexible y permitir la innovación y el libre desarrollo de nuevas tecnologías. Destaca que el sector público es prioritario y que también puede beneficiarse en varios aspectos de la inteligencia artificial y la robótica, por lo cual, deben invertir en programas de educación y formación en la materia para ayudar a sus empleados. La adopción por el sector público de inteligencia artificial fiable puede contribuir a la reforma de la administración pública en la toma de decisiones y a mejorar tales servicios. En materia de salud, enfatiza que el contacto humano es un aspecto esencial de la atención a las personas. Sin embargo, cuando la inteligencia artificial se combina con el diagnóstico humano, la tasa de error tiende a ser considerablemente inferior respecto al diagnóstico únicamente humano. Asimismo, destaca la contribución de la inteligencia artificial y la robótica a la innovación de prácticas y técnicas preventivas, clínicas y de rehabilitación en el sector sanitario, haciendo especial referencia a los beneficios que aportan a los pacientes con discapacidad. No obstante, la utilización de datos en dicho sector debe ser objeto de un seguimiento atento y ético, y no debe obstaculizar en modo alguno el acceso a la protección o a la seguridad social. Con respecto a la energía, reconoce que en la actualidad se están utilizando soluciones a base de sensores para gestionar el consumo de energía en las viviendas, lo que se tradujo en un ahorro considerable tanto energético como económico. Sin embargo, con dicho sector cada vez más digitalizado, las redes energéticas se amplían y están más expuestas a ciberamenazas. En consecuencia, pide a los Estados miembros y a la Comisión que acompañen la transformación digital en los sectores energéticos con medidas que mejoren la ciberseguridad. Y sobre el transporte, resulta innegable la capacidad de la inteligencia artificial y la robótica para mejorar en gran medida los sistemas de transporte gracias a la introducción de trenes y vehículos de motor autónomos. Sin embargo, la presencia de los vehículos autónomos conllevará riesgos en cuanto a la confidencialidad de los datos y a fallos técnicos, y trasladará la responsabilidad del conductor al fabricante, lo que hará que las compañías de seguros tengan que cambiar la forma en que incorporan el riesgo en la suscripción de sus pólizas. Otro inconveniente identificado en el documento consiste en que la comunicación de voz se utiliza cada vez más en la interacción con los vehículos pero que estas funciones solo están disponibles en algunas lenguas europeas, por lo que debe garantizarse que todos los europeos puedan utilizar este recurso en su lengua materna. Sobre la agricultura y la cadena alimentaria, observa que la inteligencia artificial tiene el potencial de transformación disruptiva del actual sistema alimentario hacia un modelo para el futuro más diverso, resiliente, adaptado a las regiones y saludable. Asegura que la inteligencia artificial cumple un rol fundamental desde la etapa de producción agrícola hasta el consumo para ayudar a abordar los problemas de seguridad alimentaria, predecir las hambrunas y los brotes de enfermedades de origen alimentario, reducir la pérdida y el despilfarro de alimentos y ayudar a mejorar la gestión sostenible de la tierra, el agua y otros recursos ambientales fundamentales para la salud de los ecosistemas.

La ciberseguridad es un aspecto importante de la materia, por lo que solicita la efectivización de una serie de medidas, entre ellas: la rápida aplicación del Reglamento de Ciberseguridad, la elaboración de un plan de acción para la ciberseguridad por parte de la Agencia de Seguridad de las Redes y de la Información de la Unión Europea (ENISA), reforzar la base industrial en cuanto componente estratégico, inversión en independencia tecnológica, que la Unión desarrolle sus propias infraestructuras, centros de datos, sistemas en la nube y componentes, como procesadores gráficos y chips y que estudie el uso de aplicaciones de ciberseguridad basadas en cadenas de bloques o blockchain para mejorar la resistencia y la fiabilidad a través de modelos de cifrado de datos sin intermediación.

4) Marco jurídico para la inteligencia artificial y la robótica: reitera la solicitud a la Comisión a fin que evalúe periódicamente la legislación actual con el objeto de garantizar que sea adecuada, que respete, al mismo tiempo, los valores fundamentales de Europa y que intente modificar o sustituir las nuevas propuestas cuando así no lo sea. Al mismo tiempo considera que dicha legislación, con participación pública de todos los sectores, debería abordar con cautela una regulación integral de todos los tipos de inteligencia artificial, partiendo de la débil y no solo sistemas de aprendizaje profundo, hasta el nivel en el que tiene sentido para el sector industrial.

Por otra parte, y bajo el subtítulo “Un mercado interior para la inteligencia artificial” recuerda que la robótica se utiliza cada vez más en los vehículos autónomos, como los automóviles autónomos y los drones civiles. Esto ocasionó que algunos Estados miembros adopten leyes en este ámbito concreto, lo que podría dar lugar a un mosaico de legislaciones nacionales obstaculizando, de esta manera, el desarrollo de los vehículos autónomos. Por tanto, insta a la elaboración de un conjunto único de normas que encuentre el equilibrio adecuado entre los intereses de los usuarios, las empresas y otras partes interesadas y los potenciales riesgos para ellos, evitando la sobrerregulación en los sistemas de robótica.

Si bien reconoce la existencia de un número significativo de normas sobre cuestiones como la seguridad, la fiabilidad, la interoperabilidad y la protección, establece como prioridad la promoción y desarrollo de normas comunes en materia de robótica e inteligencia artificial.

En materia de ética y responsabilidad, los consumidores están cubiertos por el marco regulador vigente, a saber, la Directiva de servicios, la Directiva sobre las cualificaciones profesionales y la Directiva sobre comercio electrónico. Resalta que los seres humanos siempre deben ser los responsables, en última instancia, de la toma de decisiones, especialmente en el caso de los servicios profesionales, como las profesiones médicas, jurídicas y de contabilidad. Manifiesta su preocupación en el tema de los datos personales y derecho a la intimidad. En consecuencia, solicita a la Comisión que vele para que todo futuro marco reglamentario garantice la privacidad y la confidencialidad de las comunicaciones, la protección de los datos de carácter personal, incluidos los principios de legalidad, equidad y transparencia, la protección de datos desde el diseño y por defecto, la limitación de la finalidad y de la conservación, la exactitud y la minimización de datos. En materia de responsabilidad, felicita a la Comisión la creación de un grupo de expertos sobre responsabilidad y nuevas tecnologías con el fin de proporcionar conocimientos especializados sobre la aplicabilidad de la Directiva relativa a la responsabilidad por productos defectuosos a los productos tradicionales, las nuevas tecnologías y los nuevos retos sociales. Sin embargo, hasta la fecha no se ha presentado ninguna propuesta legislativa, retrasando la actualización de las normas sobre responsabilidad, poniendo en peligro la seguridad jurídica tanto para los comerciantes como para los consumidores.

5) Aspectos éticos: como en el anterior Reglamento, pide la creación de una carta ética de buenas prácticas para la inteligencia artificial y la robótica que deben seguir las empresas y expertos. Insiste en que las normas éticas deben garantizar el desarrollo de una inteligencia artificial centrada en el ser humano, la rendición de cuentas y la transparencia de los sistemas algorítmicos de toma de decisiones, así como unas normas claras en materia de responsabilidad y equidad, siempre basándose en el control humano en todo momento. Este marco ético de referencia debe basarse en los principios de beneficencia, no maleficencia, autonomía y justicia, así como en los derechos humanos universalmente reconocidos, por ejemplo, la dignidad humana, la igualdad, la justicia y la equidad, la no discriminación, el consentimiento informado, la vida privada y familiar y la protección de datos, así como en otros principios y valores inherentes al Derecho de la Unión, como la no estigmatización, la transparencia, la autonomía, la responsabilidad individual, y la responsabilidad social, sin olvidar las actuales prácticas y códigos éticos.

6) Gobernanza: considera necesaria una cooperación reforzada entre los Estados miembros y la Comisión para garantizar normas transfronterizas coherentes y un marco de política de datos armonizado que fomenten la colaboración entre las empresas europeas. Además, anima a la creación de una agencia europea reguladora para la inteligencia artificial y la toma de decisiones algorítmica, encargada de establecer una matriz de evaluación de riesgos, investigar el uso de sistemas algorítmicos en caso de sospecha de violación de los derechos humanos, asesorar a otras agencias reguladoras sobre los sistemas algorítmicos, mejorar la eficacia del mecanismo de responsabilidad civil, auditar las evaluaciones algorítmicas de impacto de las aplicaciones del sector privado e investigar los presuntos casos de violaciones de derechos por los sistemas algorítmicos de toma de decisiones, tanto para los casos de decisión individual como para los modelos estadísticos. En materia internacional, reconoce los trabajos en curso de la Organización Internacional de Normalización, la creación del Observatorio de las Políticas de Inteligencia Artificial de la OCDE y le solicita a la Comisión que trabaje para garantizar la máxima coherencia entre los actores internacionales y que defienda los principios éticos europeos a escala mundial (^{Parlamento Europeo, 2019})

Como lo ha señalado la Unión Europea en todos los documentos precitados, la inteligencia artificial es una tecnología estratégica que se está desplegando y utilizando a gran ritmo, en todo el mundo. Sin perjuicio de ello, también conlleva nuevos desafíos para el futuro y su aplicación plantea problemas jurídicos y éticos relevantes. Por tanto, es necesario un marco legal y ético para que la inteligencia artificial no actúe fuera de control y que se transforma en un riesgo para los seres humanos. Las decisiones adoptadas mediante algoritmos pueden dar datos incompletos y, por lo tanto, no fiables, que pueden ser manipulados por ciberataques o pueden estar sesgados o simplemente estar equivocados. Aplicar de forma irreflexiva la tecnología a medida que se desarrolla produciría, por tanto, resultados problemáticos, así como la renuencia de los ciudadanos a aceptarla o utilizarla.

Los sistemas inteligentes deben desarrollarse de manera que las personas sean su centro y así se gane la confianza del público. Esto implica que las aplicaciones de inteligencia artificial no solo deben ajustarse a la ley, sino también respetar principios éticos y garantizar que su implementación evite daños involuntarios.

Y con respecto a este tema, es necesario analizar si el sistema jurídico actual de responsabilidad civil puede ser efectiva y eficientemente traspolado al tema de los sistemas robóticos inteligentes. La Unión Europea es clara al respecto, es necesario complementar y dictar un nuevo marco ético y jurídico que responda a la realidad de la inteligencia artificial.

Sin embargo, se debe ofrecer algo más que una simple lista de principios éticos. Es necesario una orientación acerca de la forma de poner en práctica esos principios en los sistema socio-técnicos. Las orientaciones a tener en cuenta son el respeto a la autonomía humana, la prevención del daño, la equidad y la explicabilidad. Explorar y afrontar las tensiones que pueden surgir entre estos principios y especial atención a las situaciones que afecten a los grupos más vulnerables, como los niños, las personas con discapacidad y otras que se hayan visto históricamente desfavorecidas o que se encuentren en riesgo de exclusión.

Así como las situaciones caracterizadas por asimetrías de poder o de información como las que pueden producirse entre empresarios y trabajadores o entre empresas y consumidores.

IV. Conclusiones

A lo largo del presente artículo se ha conceptualizado la inteligencia artificial y la robótica, así como sus aplicaciones. La humanidad está cursando la Cuarta Revolución Industrial y como todo cambio genera desconcierto y se elevan algunas voces apocalípticas.

Elon Musk, el empresario fundador de pay pal considera a la inteligencia artificial como una amenaza para la humanidad y que por eso es que puede resultar tan peligrosa como las ojivas nucleares. En la misma línea, el filósofo británico Nick Bostrom, de la Universidad de Oxford, que compara nuestro destino con el de los caballos, cuando fueron sustituidos por los automóviles y los tractores, vaticinando un holocausto nuclear y que las máquinas reemplazaran a las personas naturales. En cambio, Jack Ma, dueño de Alibaba y el segundo hombre más rico de China, es bastante optimista sobre los efectos que puede tener la inteligencia artificial sobre los humanos por lo que no hay nada que temer (^{BBC News Mundo, 2019})

Muchas veces, el inconsciente colectivo visualiza la inteligencia artificial como robots humanoides, los identifica con máquinas con forma humana y hasta con sentimientos, fomentado por la literatura y las películas de ciencia ficción. Por ejemplo, El Hombre Bicentenario, Yo, Robot, de Isaac Asimov y más recientemente Her. Sin embargo, hasta la fecha los científicos no pudieron crear una máquina que sienta como el ser humano. Conforme la filosofía antropológica, el hombre es multidimensional, posee intelecto, pero también posee una esfera emotiva, volitiva y socio-política. Esta nueva tecnología, hasta el presente no es más que algoritmos desarrollados que le permiten a un programa informático analizar y procesar una enorme cantidad de datos, tomar decisiones automatizadas y hasta predecir determinados acontecimientos si se producen determinadas variables. Pero no puede ir más allá de lo programado.

Sin embargo, como la velocidad en la innovación tecnológica crece de manera exponencial, los profesores Erik Brynjolfsson y Andrew McAfee, del Massachusetts Institute of Technology (MIT), hicieron famosa la referencia a “la segunda era de las máquinas”, al afirmar que el mundo está en un punto de inflexión en que el efecto de estas tecnologías digitales se manifestará con una fuerza sin precedentes a través de la automatización y la creación de cosas (^{Brynjolfsson y Andrew McAfee, 2014})

No se trata sólo de una nueva era o nueva revolución que traerá consigo una nueva tecnología, sino de algo mucho más grande: la concentración de revoluciones a un ritmo tan rápido que literalmente los humanos no serán capaces de asimilar: la singularidad tecnológica. Dicho concepto no es nuevo, el matemático John von Neumann se lo planteó en los años 50, pero recién en 1983 es popularizado por el matemático y escritor Vernor Vinge

La singularidad tecnológica es una hipótesis en el campo de la prospectiva que sugiere que la velocidad tan acelerada a la que progresa la tecnología provocará que la inteligencia artificial tarde o temprano exceda la capacidad intelectual de los humanos y por ende el control sobre ella. Esto cambiará para siempre la civilización o terminará con ella. Se refiere a la posibilidad de crear mentes artificiales que puedan evolucionar por sí mismas hasta alcanzar lo que se ha venido en denominar superinteligencia, una mente superior a la humana e incomprensible para ella. Consta de tres fases: fase I: las computadoras alcanzarán un nivel de computación similar al cerebro humano, la II los robots inteligentes tendrán la capacidad para mejorarse a sí mismos, iniciando un proceso de mejora exponencial y la III dicho crecimiento exponencial será tan rápido que la inteligencia artificial alcanzada sería imposible de entender por el ser humano.

Stephen Hawking se enrola dentro de los científicos que afirman dicha posibilidad ya que consideró que los seres humanos están limitados por una evolución biológica lenta, por lo que no podrían competir con la inteligencia artificial y serían superados por ella.

Dicho concepto se relaciona con la nueva generación de computación: la computación cuántica que se encuentra en fase experimental en los laboratorios de Google. El 23 de octubre de 2019, el gigante tecnológico anunció que sus investigadores habían logrado realizar un cálculo que las supercomputadoras más grandes no podrían completar en menos de 10.000 años. Y lo hicieron en 3 minutos con 20 segundos logrando un hito en el que los científicos habían estado trabajando desde los años ochenta: la supremacía cuántica que permitiría que nuevos tipos de computadoras puedan hacer cálculos a velocidades que son inconcebibles con la tecnología actual (^{Yaffe-Bellany, 2019}).

Sin embargo, todavía no deja de ser una hipótesis y el verdadero riesgo en la actualidad se presenta frente a la utilización y manipulación de la tecnología que violenten los derechos humanos y los principios del Estado de Derecho. El desarrollo de tecnología puntera suele estar reservado a países desarrollados que realizan grandes inversiones en el área tecnológica y que además son los primeros en beneficiarse económica y militarmente. El intelectual israelí Yuval Noah Harari afirma que podría derivar en el “colonialismo de datos”, entendiendo por tal una nueva y desigual manera de interactuar entre Estados en la que las empresas recolectarían datos de países con legislaciones de privacidad menos desarrolladas para procesarlos en los países donde se dispone de los mayores adelantos en inteligencia artificial y aplicar ahí los beneficios (^{Harari, 2019})

La inteligencia artificial y la robótica, como toda tecnología, no es buena ni mala en sí misma, sino la utilización que los seres humanos hagan de ella. Se puede utilizar para manipular y distorsionar la información, para ciberataques, vigilancia electrónica, discriminación racial o de género. Pero presenta un gran potencial en beneficio de la humanidad.

En consecuencia, según la finalidad del humano al programar los algoritmos se puede obtener resultados para el bien. Por ejemplo el ocio, análisis de imágenes de alta resolución procedentes de satélites, drones o escáneres médicos, aumentar la productividad agrícola, ayudar a los médicos a identificar enfermedades, a los discapacitados, crear ciudades inteligentes, predecir catástrofes naturales, ayudar contra el desperdicio de los alimentos, registrar el cambio climático, colaborar con los trabajadores en los puestos de trabajo realizando tareas monótonas, repetitivas o altamente riesgosas, crear nuevos puestos de trabajos calificados, favorecer la educación inclusiva a través de la metodología educación a distancia y avanzar en los proyectos de investigación para poder llegar a lugares vedados al ser humano, como a las profundidades del océano, al sol o a Marte. Por tal motivo es que el derecho debe dictar normas claras y éticas en cuanto a la utilización de la inteligencia artificial. Y como trasciende las fronteras de los Estados, es el derecho internacional el que debe sentar las bases jurídicas y éticas que sirvan de guía para todos los Estados. A eso apunta la Estrategia Europea para la Inteligencia Artificial centrada en el ser humano y en Latinoamérica debemos comenzar a pensar y repensar la normativa para adaptarla a los cambios tecnológicos futuros.

Como se analizó en el presente artículo, tanto para la Unión Europea como para la comunidad internacional en general, la inteligencia artificial y la robótica ocupan un papel protagónico en la agenda mundial ya que es una disciplina transversal que atraviesa todos los aspectos de la vida cotidiana de la sociedad internacional. Y como presenta tantas formas de utilización, algunas de ellas violentan los derechos fundamentales de las personas, se hace imperioso su regulación normativa, las que deben tener una base ética, pero cuidando de no desalentar su desarrollo.

Si bien, a nivel internacional existen diferentes sistemas jurídicos nacionales derivados de diversas concepciones antropológicas producto de las diferentes culturas, idiosincrasia y cosmovisiones, se puede identificar una serie de consideraciones comunes en los modos de realizar esta aproximación a la ética y jurídica de la inteligencia artificial y la robótica, a saber:

1) Diversidad, no discriminación y equidad: debe realizarse por el bien de la humanidad y beneficiar al mayor número de personas, minimizando el riesgo a la exclusión y a cualquier tipo de discriminación. También debe garantizar la accesibilidad para lograr la igualdad de acceso para las personas con discapacidades.

2) Los estándares de seguridad deben ser altísimos. Para ello, es necesario un control ético y finalista de investigación, transparencia y cooperación en su desarrollo.

3) Los investigadores y diseñadores tienen una responsabilidad fundamental: toda la investigación y desarrollo de la inteligencia artificial y la robótica debe estar caracterizada por la transparencia, la reversibilidad y trazabilidad de los procesos. Se debe registrar y documentar tanto las decisiones tomadas como la totalidad del proceso que dio lugar a las decisiones.

4) En general, se considera insuficiente el existente marco jurídico vigente en el ámbito de la responsabilidad contractual para cubrir los daños causados por la nueva generación de robots basados en inteligencia artificial. Por tal motivo, se propone la formulación de reglas relativas a la responsabilidad civil teniendo como base que los seres humanos siempre deben ser los responsables, en última instancia, de la toma de decisiones, especialmente en el caso de los servicios profesionales

5) Control humano, intervención y supervisión humana, vale decir que en todo momento sean las personas naturales las que tomen la decisión sobre el obrar de los sistemas robóticos o basados en inteligencia artificial.

6) La sanción de un código de conducta ético voluntario compuesto por una serie de normas éticas que deben garantizar el desarrollo de una inteligencia artificial centrada en el ser humano, la rendición de cuentas y la transparencia de los sistemas algorítmicos de toma de decisiones, así como unas normas claras en materia de responsabilidad y equidad, siempre basándose en el control humano.

6) En todo momento se debe respetar los principios de beneficencia, no maleficencia, neutralidad tecnológica, autonomía, justicia, precaución, rendición de cuentas, reversibilidad, así como en los derechos humanos universalmente reconocidos, por ejemplo, la dignidad humana, la igualdad, la justicia y la equidad, la no discriminación, el consentimiento informado, privacidad, la vida privada y familiar y la protección de datos. Resulta necesario aclarar que Oriente, particularmente China y Corea del Norte, no participan de la misma concepción sobre los derechos humanos que Occidente, en especial lo referido a la privacidad.

7) La creación de Comités de Ética de la Investigación cuya función sea la revisión ética independiente de la propia investigación, el que debería tener un carácter multidisciplinar: incluir a hombres y mujeres, estar constituido por miembros con una amplia experiencia y conocimientos. Y la sanción de un Código Deontológico para los Comités de Ética de la Investigación.

8) Registros de los robots inteligentes.

9) La elaboración de un marco que penalice las prácticas de manipulación de la percepción, la elaboración de perfiles que clasifican a las personas, sufriendo discriminación en función de tal clasificación y su estigmatización y los programas de vigilancia emocional.

10) En la medida de lo posible, la sanción de un conjunto único internacional de normas que encuentre el equilibrio adecuado entre los intereses de los usuarios, las empresas y otras partes interesadas evitando la sobrerregulación en los sistemas de robótica e inteligencia artificial. Dicho marco regulador debe ser flexible, permitir la innovación y el libre desarrollo de nuevas tecnologías. 11) Que desde los Estados se desarrollen políticas que fomenten las capacidades de los trabajadores en los nuevos desafíos laborales y en la elaboración de programas de alfabetización digital en los centros escolares.

12) Gestionar el riesgo, que significa que cuanto más grave sea el riesgo potencial, más estrictos deberán ser los sistemas de control y gestión del riesgo.

13) No desarrollo de la robótica o de la inteligencia artificial para realizar armas de destrucción autónomas, no a los denominados “robots asesinos”.

14) Incertidumbre ya que los avances en estos campos son inciertos, en ámbitos y alcances que en ciertos casos son inimaginables. Por ello, las regulaciones y marcos deben someterse a continua revisión y repensarse en el medio plazo cuando otros avances se hayan hecho realidad.

El dilema consiste en determinar la manera regular estas nuevas tecnologías, si el sistema de responsabilidad civil actual es suficiente para solucionar los problemas, los daños y riesgos que pueden ocasionar la utilización de las mismas o es necesario realizar algún tipo de adaptación o directamente elaborar uno nuevo. De los documentos de la Unión Europea se puede colegir que es necesario establecer un marco jurídico propio y específico, así como se pueden adaptar algunas normativas en materia de responsabilidad civil. En este sentido, el Grupo de Expertos en Responsabilidad y Nuevas Tecnologías de la Unión Europea, publicó, en 2019 un documento intitulado Liability for Artificial Intelligence and other emerging technologies. Es un documento muy interesante ya que sienta varias reglas en cuanto al factor de atribución de responsabilidad y del cual se pueden elaborar algunas conclusiones en materia de factores de atribución.

En este sentido, la persona que opera este tipo de tecnología que, sin embargo, conlleva un mayor riesgo de daño a otros, por ejemplo, robots inteligentes en espacios públicos, debe estar sujeta a una responsabilidad estricta por los daños resultantes de su funcionamiento. Pero en el caso que la tecnología no represente un mayor riesgo de daño para los demás se le aplicará la responsabilidad subjetiva esto, se responsabilizará en la medida en que no cumpla con los deberes de seleccionar, operar, monitorear y mantener adecuadamente la tecnología en uso. En cambio, si la tecnología tiene un cierto grado de autonomía, a su operador se le podría aplicar la responsabilidad directa del principal por el hecho del dependiente.

En cuanto a los productores, parece adecuado aplicar el sistema de responsabilidad objetiva por los defectos que aparecieran en los productos, inclusive luego de que éstos hayan sido puestos en el mercado, más aún cuando tuvieran el control sobre las actualizaciones y las mejoras del dispositivo. Ello facilita la carga probatoria, dado que los mismos se encuentran en una mejor posición para afrontar costos y dificultades técnicas que pudieran interferir en el proceso. Para evitar paralizar la tecnología, en caso de mal uso del consumidor, dicha circunstancia, liberaría al productor. Se aconseja establecer que los fabricantes contraten un seguro de responsabilidad civil obligatorio para cubrir los riesgos por los daños ocasionados a las víctimas de dichas tecnologías. Cuando una tecnología en particular aumenta las dificultades para probar la existencia de un elemento de responsabilidad más allá de lo que se puede esperar razonablemente, las víctimas deben tener derecho a la facilitación de la prueba.

Se debe establecer un registro obligatorio de dichas tecnologías y la falta de esta obligación o de proporcionar un acceso razonable a los datos registrados, ocasionará la inversión de la carga de la prueba para no perjudicar a la víctima. En el caso de los robots inteligentes con cierta autonomía, no se los puede responsabilizar por los daños que pueden causar, sino que la responsabilidad debe ser atribuible a personas humanas o jurídicas titulares del software o de la máquina que actuó y produjo el daño. En caso que la titularidad sea colectiva, la responsabilidad sería solidaria.

Otro aspecto a considerar es si este análisis jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el Derecho de los Robots (Robot Law) para dar respuesta a estos insólitos desafíos y situaciones disruptivas, tal como sucedió con el Derecho del Trabajo o el Derecho Ambiental. En esta línea de pensamiento se enrola ^{Barrio Andrés (2018}) que propone un Derecho de los Robots que a la vez adapte el Derecho general y, en la medida de lo necesario, genere un Derecho Nuevo. Las cuestiones de responsabilidad adquieren un papel capital, pues los paradigmas tradicionales no resultan adecuados ante sistemas que modifican su propio código, pueden conducir a soluciones no previstas por ninguna mente humana y son asimismo objeto de crecientes ciberataques.

Del mismo modo surgen tres nuevos riesgos, a saber: el riesgo de autonomía, que tiene su origen en “decisiones” autónomas tomadas por los agentes de inteligencia artificial, el de asociación, que se debe a la estrecha cooperación entre las personas y los sistemas más avanzados y finalmente el riesgo de red que se produce cuando los sistemas funcionan en estrecha integración con otros sistemas en la nube.

Al respecto, el Dr. Gerónimo Brenna disiente ya que considera que el derecho informático debería incorporar al derecho de los robots como una de sus ramas y que lo que se debe reconocer como una rama autónoma del Derecho es el Derecho Informático como una de las ramas del derecho

Ya sea que se lo considere como una sub rama del Derecho Informático como una nueva rama del derecho autónoma, el marco jurídico que se le otorgue a los robots requerirá una actualización permanente.

En todo caso, el debate recién está comenzando y va tomando diferentes aristas conforme evoluciona la tecnología. El hecho que la inteligencia artificial se encuentre todavía en una fase incipiente ha propiciado algunos experimentos fallidos.

Uno de los ejemplos más relevantes fue lo que sucedió con Tay, un programa de inteligencia artificial diseñado por Microsoft para entablar conversaciones como si fuera una joven de entre 18 y 24 años. El objetivo era que Tay aprendiera de la interacción con los usuarios, pero recibió un ataque coordinado de muchísimos usuarios que empezaron a entrenarla con expresiones que eran ofensivas e intolerantes y que luego repetía en otras conversaciones. Así es que, en cuestión de minutos, publicó en Twitter frases como “odio a las feministas, deberían morir todas y pudrirse en el infierno” o “Hitler habría hecho un trabajo mejor que el mono (Barack Obama) que tenemos ahora”, lo que provocó que Microsoft cerrara la cuenta de la tuitera Tay a las 16 horas de abrirla. Así reflexiona Carme Torras, experta en roboética:

Muchas de las nuevas máquinas autónomas no dejan de ser electrodomésticos más versátiles que nos liberan tiempo de trabajo para dedicarlo a otras cosas. No dejan de ser máquinas. Quienes debemos ser éticos somos los humanos. (Torras, citada por ^{Ortí, 2019})