Reseña

El mundo de hoy presenta cambios trascendentales, transformaciones y rupturas; la ciencia ficción ya alertaba sobre el universo cibernético, pero difícilmente las narrativas se hacían creíbles.

Ahora mismo la relación entre el mundo humano y la tecnología se triangula necesariamente sobre la arista política. Los consorcios tecnológicos tienen implicaciones con los gobiernos y desde ahí se trazan las estrategias de poder en el mundo; el papel de multinacionales y figuras de poder económico y tecnológico, como Alex Karp director ejecutivo de la empresa de minería de datos Palantir Technologies, Peter Thiel, cofundador de la misma empresa y primer inversor externo en Facebook, así como Elon Reeve Musk empresario, inversor, activista político, fundador y consejero delegado en jefe de la empresa SpaceX y cofundador de Neuralink y OpenAI, esta última en colaboración con Samuel Harris Altman, empresario, inversionista, programador y bloguero ahora mismo director ejecutivo de OpenAI, ha mostrado que el uso de la IA en situaciones políticas tiene rutas complejas y neurálgicas, lo que demanda tareas profundas y atentas. Frente a estas condiciones socio-tecnológicas emergen diversas inquietudes, particularmente en el orden de lo ético, ámbito que entra en los desafíos mundiales, pero con especial intención de la UNESCO en su ruta por la construcción de una gobernanza ética.

Es en esta preocupación que arriba de la mano de Daniel Innerarity, el texto ensayístico Inteligencia Artificial y Democracia (2024), publicado por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, a través de la UNESCO, y el Consejo Latinoamericano de Ciencias Sociales (CLACSO). En el documento de 26 páginas se plantean algunas recomendaciones éticas para la implementación de la IA; la lectura de estas orientaciones se hace necesaria desde muchos ángulos, sobre todo porque las instituciones educativas y políticas tienen mucho que decir al respecto.

Daniel Innerarity es un filósofo español y profesor de la Universidad de Zaragoza. Entre sus obras se encuentran: Una teoría critica de la inteligencia artificial (2025), La libertad democrática (2023), La sociedad del desconocimiento (2022), Políticas para perplejos (2018), entre otras a las que ha puesto tema y reflexiones. Los tiempos complejos de las sociedades actuales plantean disrupciones e interrogantes que obligan a repensar nuevos horizontes; la tecnología, la política y lo humano esencialmente, lo nominan como un autor que se ocupa de esas preocupaciones para colocarlas en disertaciones literarias. Estas deliberaciones lo han llevado a ser becario de la Fundación Alexander von Humboldt y a obtener premios como el III Premio de Ensayo Miguel de Unamuno y el Premio Nacional de Literatura en la modalidad de Ensayo 2003.

La estructura del libro Inteligencia Artificial y Democracia es sencilla; se presenta en cuatro temas y al final el autor expone las recomendaciones para el uso y gobernanza democrática de la IA. Todos ellos son planteamientos que tienen la intención de provocar diálogos mundiales y multidisciplinarios para abonar, a través de la IA, a la construcción de un mundo más pacífico, equitativo, e igualitario. Los temas son los siguientes:

Las expectativas y las decepciones democráticas de la digitalización

En este tema Innerarity discute sobre las condiciones que provoca la revolución de la tecnología digital, una revolución que transcurre como oscilaciones emocionales que van inicialmente de la euforia para arribar a la decepción. Después de ello el autor señala que esta revolución hace que las democracias estén sujetas a formas comunicativas que aún no se comprenden y que tampoco se entienden. “Las tecnologías de IA no son neutrales y codifican los valores de las personas creadoras y del ecosistema subyacente de desarrollo e implementación” (2024, p.10).

Sobre esta preocupación ética, Innerarity retoma la recomendación de la UNESCO en relación a la IA, para enfatizar sobre los marcos reguladores nacionales e internacionales que garanticen la gobernanza democrática del recurso tecnológico y eviten su uso incorrecto:

La recomendación se centra en el establecimiento de ecosistemas de IA transparentes, responsables y comprensibles, que protejan los derechos humanos. El uso ético de la IA también subraya el papel de los algoritmos en las plataformas de medios sociales y sus posibles implicaciones para la democracia. (2024, p. 10)

El nuevo espacio público digital: la conversación democrática

En este tema el filósofo español fija su reflexión en la democracia como un tópico que atiende las incidencias de los procesos electorales, pero obvia las condiciones estructurales propias que propician los problemas; esto mismo, menciona el autor, conlleva a conversaciones desgastadas que no hacen sino polarizar la participación ciudadana. Lo anterior significa que los espacios públicos digitales son superficiales en sus entornos, lo que provoca debates democráticos pobres. Innerarity los señala así:

La misma apertura del espacio de libre discusión permite difundir ideas sin la menor justificación; la proliferación de noticias y opiniones crea una desorientación generalizada; en virtud del anonimato de algunas redes sociales se genera una peculiar irresponsabilidad en las intervenciones; la accesibilidad suele implicar hackeabilidad. (2024, p.11)

Desde esta perspectiva la plataformización de la democracia, ha permitido que el espacio público se convierta en un ring de arengas políticas donde las IA’s favorecen las actitudes individualistas y polarizadas y conducen a la aparición de comunidades virtuales homogéneas y cerradas que comparten los mismos puntos de vista. Innerarity dice que: “La democracia implica que personas con opiniones diferentes puedan reunirse para encontrar soluciones comunes a través del diálogo (…) En definitiva, no hay democracia sin una ciudadanía capaz de ejercer una vigilancia crítica sobre el poder” (2024, p. 13)

La democracia de los datos: la política del big data

En este apartado Daniel Innerarity pone como precedentes los principios de la gobernanza de los datos que establece la UNESCO, referidas como calidad, fiabilidad, seguridad, privacidad, disponibilidad y mitigación de sesgos. Desde este punto aclara que, si bien la protección de los datos es vital, esta protección no se da sólo por su valor comercial, humano, democrático, y objetividad de la realidad, sino porque también la información conlleva valores que niegan su neutralidad, lo que implica sesgos e iniquidades sociales.

Se ha podido hablar incluso de unas nuevas clases sociales de la sociedad de los datos en función de quiénes los producen, quiénes tienen los medios para recogerlos y quiénes disponen de las capacidades para analizarlos. La afectación de las relaciones de poder en sus diversas formas es tanto mayor cuanto más se apoya el gobierno, la administración pública y el saber experto en el control de los datos. Hay un creciente diferencial de poder entre aquellos que recogen y analizan datos respecto de quienes simplemente los alimentan (2024, p.15)

En la misma balanza coloca a los algoritmos, fuentes de desigualdades. Con ellos se calcula la naturaleza de la sociedad, gustos, valoraciones y estimaciones que emergen a partir de los comportamientos humanos. Desde aquí el autor español cuestiona el papel de los poderes mediáticos y políticos que eligen las noticias y diseñan las agendas políticas. Lo mismo ocurre con la publicidad que representan mal a la sociedad e individuos: “lo cierto es que de este modo se reproducen también las jerarquías y desigualdades que habitan en dicha sociedad. (2024, p.15)

La democracia como forma de decisión política: gobernanza algorítmica

“Gobernar es un acto algorítmico y lo será aún más, ya que una buena parte de las decisiones de gobierno son adoptadas por sistemas automatizados. (2024, p. 20) Esta es una frase contundente que identifica este apartado de discusión; pues con ella caracteriza una sociedad y una política que no puede ya gestionar la vida humana sin este recurso tecnológico. El problema, plantea Innerarity, es hasta qué punto y de qué modo el institucionalismo algorítmico caracterizado por la utilización de sistemas de decisión automatizada (ADS) es compatible con un sistema político de toma de decisiones. En el trasfondo de este planteamiento subyace el problema ético con el uso de las IA, pero también el de una sociedad sometida.

Esta tendencia puede dar lugar a la pasividad de la ciudadanía (…) Acostumbrar a la sociedad a aceptar elecciones no basadas en el razonamiento crítico sino según los dictados por la autoridad es extremadamente injusto, y por tanto perjudicial, dado que es imposible establecer, de manera demostrable, quién debe ser considerado o considerada por la opinión pública como fuente autorizada. (2024, p18)

Con esta discusión el ensayista vuelve a poner en el centro su preocupación el papel de la política y el papel del mercado, dos ámbitos que si bien van de la mano no necesariamente son lo mismo en su operatividad, pero no sólo se trata de la relación sino también del ejercicio del poder. Esta diferencia es aclarada por Innerarity:

El consumo y la política, como el mercado y la democracia, no son realidades absolutamente diversas; se solapan, a veces llegan a confundirse, pero conservan un núcleo específico que no las hace intercambiables. El mercado satisface las necesidades de las personas consumidoras, pero esas necesidades se formulan de manera implícita; la política responde a demandas de la ciudadanía (…) Si la democracia no es una provisión de servicios, la ciudadanía no es una clientela satisfecha. (2024, p. 19)

Recomendaciones para la gobernanza democrática de la inteligencia artificial

Después de las discusiones y reflexiones que le preceden, Daniel Innerarity emite en este texto una serie de recomendaciones que apuntan a considerar el uso de la IA sobre ambientes democráticos sustentados en valores humanos consientes de los tiempos actuales. Este apartado se convierte no sólo una guía de orientaciones sustanciales para comprender el uso de una herramienta en el escenario político, sino la aspiración de un futuro humano en concordancia con el artificio de lo no humano. Vale la pena entonces poner en consideración el resumen de estas diez ideas que se vierten en tono de recomendaciones:

Educación y concienciación

Los Estados miembros deberían contribuir a que la narrativa correspondiente fuera más equilibrada y preventiva, conscientes de que la ciudadanía tiene derecho a conocer el alcance real de tales transformaciones tecnológicas y a sentirse protegida por sus autoridades.

Regulación y legislación

La gobernanza de la tecnología tiene que respetar la lógica de la tecnología sin subestimar nuestras capacidades y responsabilidades en materia de gobernanza democrática.

La función configuradora de las infraestructuras tecnológicas debe ser examinada desde la perspectiva de su significación democrática

Tenemos que asegurarnos de que el poder de la IA se regula y se utiliza para el “bien común”, desde una perspectiva humanista y con principios específicos como la diversidad, equidad e inclusión, codificados en la protección de los derechos humanos, la democracia y el Estado de Derecho.

Participación pública y protección de la democracia.

Se recomienda a los Estados que fomenten los códigos de buenas prácticas de las empresas y que exijan la identificación de los productos generados por la inteligencia artificial como medidas para combatir la desinformación.

Regulación y legislación sobre los datos

Se recomienda tener en cuenta que en la regulación, propiedad y uso de los datos nos jugamos una buena parte de nuestra ciudadanía democrática. (…) Debe existir una regulación y legislación adecuada para el desarrollo y uso de la Inteligencia Artificial.

Transparencia, explicabilidad y contestabilidad

Se debe fomentar que los sistemas de inteligencia artificial sean transparentes y explicables, es decir, facilitar que pueda entenderse cómo toman decisiones y sobre la base de qué criterios se producen sus resultados.

Inclusividad.

En todo el proceso de la inteligencia artificial debe garantizarse el pluralismo, desde la diversidad de género entre las personas profesionales, en el diseño de los sistemas, en la curación de los datasets, la mitigación de los sesgos excluyentes, en el reconocimiento facial o en las recomendaciones de información.

Estrategias nacionales integrales.

Se recomienda a los Estados miembros la realización de estrategias nacionales de digitalización e inteligencia artificial dotadas de presupuestos suficientes que contemplen no solamente objetivos de transformación tecnológica y modernización económica sino también otros con una significación democrática más directa.

Enfoque multiactores (multistakeholders).

Los Estados miembros han de asegurar la participación pública, la supervisión y la evaluación independiente de los sistemas de IA y de protección de datos.

Desarrollo de marcos globales.

El ideal de un espacio compartido y normas comunes para la digitalización y la inteligencia artificial sigue siendo un objetivo que los Estados miembros deben seguir persiguiendo. Si bien la naturaleza y las dinámicas de la transformación digital trascienden fronteras, las maneras precisas en las que éstas interactúan y afectan a cada región, país o comunidad pueden variar.

Es evidente que después de la exposición de un territorio de zonas complejas, opacas y aún confusas dadas por la relación democracia e IA, tal y como se muestra en esta obra, las recomendaciones emitidas por Daniel Innerarity, mismas que intentan encarar de la mejor forma el horizonte que expone el mundo socio-digital contemporáneo, dejan abierto un presente y un cercano porvenir por atender. Es un hecho que en la subyacencia de todas las innovaciones que se ofrecen en el mundo cibernético también se apela a los valores humanos que le den sentido ético no sólo a la política, sino a la vida misma en sociedad; de ahí la trascendencia de esta obra.

Ficha técnica de la obra