nueva página del texto (beta)
Español (pdf)
Artículo en XML
Referencias del artículo
Traducción automática
Enviar artículo por email
Citado por SciELO 
Similares en
SciELO 
Permalink
Introducción
Diversos autores como Mikalef & Gupta (2021), Valle-Cruz et al. (2020), Wirtz et al. (2019) y Wang (2019) coinciden en que, a pesar de que la inteligencia artificial (IA) ha cobrado gran relevancia en los últimos años, en la actualidad no existe una definición única, definitiva y universalmente aceptada de ésta. Esto se debe a que el concepto de IA está en constante evolución en función de los desarrollos tecnológicos que le dan sustento y en función de las diversas aplicaciones a las que da lugar (Valle-Cruz et al., 2020). Adicionalmente, la IA es un fenómeno multidisciplinario y, por lo tanto, los autores utilizan múltiples definiciones dependiendo de la disciplina de estudio y de la finalidad con la que usan el termino; es decir, la IA es un concepto polisémico (Rouhiainen, 2018; Wang, 2019).
Con el propósito de concretar una definición integradora de la IA, Mikalef & Gupta (2021) y Wirtz et al. (2019) realizan un análisis de definiciones ampliamente difundidas y encuentran algunos puntos en común. Uno de los más importantes es que la IA hace referencia a la creación de sistemas computacionales que simulen las funciones cognitivas que tienen los seres humanos para la realización de tareas y resolución de problemas. Otro de los puntos en común de las diferentes definiciones es que la IA funciona a partir de algoritmos que permiten la tomar decisiones y generan procesos de aprendizaje automático.
En este sentido, y con base en las definiciones propias que dan los autores mencionados, se puede decir que la IA se refiere a la capacidad que tienen los sistemas informáticos para imitar, mediante el uso y desarrollo de algoritmos, las funciones cognitivas de los seres humanos con la finalidad de identificar, utilizar, interpretar y aprender de los datos para realizar tareas, tomar decisiones y resolver problemas complejos. Esta definición es de utilidad para entender en términos generales lo que es la IA; sin embrago, no explica la especificidad y complejidad de los procesos, conocimientos y tecnologías implicadas para que los sistemas informáticos logren generar efectivamente dichas capacidades a las que se hace referencia.
Al respecto, autores como Valle-Cruz et al. (2020), Ronzhyn & Wimmer (2018) y Gutiérrez et al. (2018) afirman que la IA, más que una tecnología, es un conjunto de técnicas computacionales e informáticas habilitadoras que al ser aplicadas a las máquinas y a los softwares permiten imitar la inteligencia y el aprendizaje humano para aprender de los datos y utilizar lo aprendido para lograr una mayor eficiencia en las tareas realizadas. Algunas de las técnicas habilitadoras de la IA son los algoritmos, el aprendizaje automático (Machine Learning), el Big Data, la lógica difusa y las redes neuronales. En este sentido, tal y como afirman Mikalef & Gupta (2021), la IA es un término paraguas que agrupa una serie de técnicas y tecnologías que en su conjunto tienen un gran potencial transformador en múltiples áreas de la actividad humana.
Así como la IA está conformada por diversas técnicas habilitadoras, también resulta ser un elemento habilitador o componente fundamental para un gran número de otras tecnologías, técnicas y aplicaciones que se utilizan en la actualidad, tales como los chatbots, la minería de texto, el procesamiento del lenguaje natural, la visión artificial, las simulaciones basadas en juegos, la realidad virtual, la robótica, el análisis predictivo, la computación en la nube, etc. (Gutiérrez et al., 2018; Ronzhyn & Wimmer, 2018). De esta manera, las técnicas computacionales e informáticas que hacen posible la IA dan lugar a una serie de aplicaciones que tienen el potencial de modificar el funcionamiento de las organizaciones, por ejemplo: favorecen la automatización de procesos, facilitan la reducción de costos y errores, permiten analizar una gran cantidad de datos en menor tiempo, aumentan la precisión y la rapidez para la toma de decisiones, así como la eficiencia y la competitividad, y generan valor social (Mikalef & Gupta, 2021; Valle-Cruz et al., 2020; Wirtz et al., 2019).
Sin embargo, la IA también puede generar algunos impactos negativos o desventajas que en muchas ocasiones pueden ser mayores que los beneficios que genera. Por ejemplo, la toma de decisiones autónomas por parte de los sistemas informáticos puede generar una pérdida de control humano sobre dichas decisiones, las cuales no siempre pueden ser las más convenientes en determinados contextos (Wirtz et al., 2019). Igualmente, se puede generar una falta de transparencia en el proceso de toma de decisiones autónomas que se deriva en falta de confianza por parte de los que administran y usan estas tecnologías. Por otro lado, el uso intensivo de la IA puede aumentar la desigualdad digital entre aquellos que las controlan y tienen acceso, y entre aquellos que no las controlan y no tienen acceso. Como veremos en la siguiente subsección, y a lo largo de este documento, cuando la IA se aplica en el sector público, estas ventajas y desventajas suelen tener efectos más amplios, pues impactan directamente en la vida pública de los ciudadanos.
El uso de la inteligencia artificial en el sector público
Aunque el uso de la IA en el sector público no es una novedad, es en la actualidad cuando se observa un crecimiento del uso de esta tecnología en gobiernos alrededor del mundo (Criado, 2021; Ruvalcaba-Gómez, 2021). Este crecimiento se volvió especialmente significativo a partir del año 2016 cuando Estados Unidos, China y la Unión Europea comenzaron con la construcción de estrategias para incorporar esta tecnología en múltiples áreas del gobierno y como una necesidad para procesar y utilizar la gran cantidad de datos que brinda la tecnología del Big Data (Criado, 2021; Valle-Cruz et al., 2020). Con la llegada de la pandemia de covid-19, esta dinámica se aceleró aún más debido a la necesidad de contar con herramientas para mapear y predecir los contagios (Sandoval-Almazán, 2021). Aunque el uso de la IA en el sector público ha mantenido esta tendencia, el uso esta tecnología es relativamente incipiente en comparación con su uso dentro del sector privado (Zhang et al., 2021).
A pesar del creciente uso de la IA en el sector público, autores como Ruvalcaba-Gómez (2021), Criado (2021), Zhang et al. (2021), Valle-Cruz et al. (2020), Wirtz et al. (2019) y Sun & Medaglia (2019) coinciden en que el estudio y la investigación de la IA dentro del sector público es un campo del conocimiento emergente, joven y con una escasez de estudios científicos, por lo que requiere mayor atención por parte de la academia y los servidores públicos. Por ejemplo, en los trabajos de Wirtz et al. (2019) y Valle-Cruz et al. (2020) se realiza una exhaustiva revisión de la literatura en las principales revistas científicas de ciencias sociales y computación y encuentran respectivamente 30 y 49 artículos científicos que analizan a profundidad el uso de la IA en la administración pública. A pesar de esta escasez de literatura científica, se pueden destacar algunos puntos importantes de los artículos disponibles.
La IA es utilizada en todos los ámbitos de acción del sector público. La mayoría de los proyectos utilizan la IA y las tecnologías asociadas con el fin de mejorar las prácticas internas de la administración pública y los procesos organizacionales, específicamente para ahorrar recursos (Sandoval-Almazán, 2021), mejorar la eficiencia (Ruvalcaba-Gómez, 2021), mejorar los trámites administrativos (Criado, 2021) y tomar decisiones en las políticas públicas (Valle-Cruz et al., 2020). Otra parte importante del uso de la IA en el sector público se enfoca en la provisión de servicios públicos personalizados (Misuraca et al., 2020; Ronzhyn & Wimmer, 2018). Finalmente, la IA es utilizada con el objetivo de mejorar la interacción y la comunicación con los ciudadanos (Androutsopoulou et al., 2019) y fomentar su participación (Savaget et al., 2019).
La IA también es utilizada en múltiples áreas del sector público. Destaca principalmente su uso en el área de la salud y la atención médica, la cual se caracteriza por ser una de las áreas con mayor inversión en tecnologías (Sun & Medaglia, 2019). Otra de las áreas del sector público donde destaca el uso de la IA es la seguridad y el orden público al utilizar técnicas de reconocimiento facial, modelos de aprendizaje automático y mapas para predecir eventos criminales (Ruvalcaba-Gómez, 2021; Sandoval-Almazán, 2021). En el área de movilidad y transporte público la inteligencia artificial es utilizada para monitorear los rieles y las rutas de transporte público, implementar vehículos autónomos y analizar una gran cantidad de datos para mejorar el tránsito de los vehículos privados (Sandoval-Almazán et al., 2020; Yigitcanlar et al., 2021). La IA en el sector público también es usada en áreas como la prevención de los desastres, la educación y la seguridad social (Valle-Cruz et al., 2020).
Los beneficios esperados del uso de la IA en el sector público son múltiples. Por ejemplo, la IA permite principalmente la automatización de muchos de los procesos complejos que regularmente son realizados por los humanos y que utilizan gran cantidad de recursos financieros y materiales. En este sentido, la automatización de dichos procesos puede generar que el sector público tenga una reducción significativa de costos de mano de obra y otros costos variables (Wirtz et al., 2019). Adicionalmente, la automatización de muchos de los procesos internos del sector público, al disminuir significativamente la participación humana, puede llevar a una reducción de las cargas administrativas, de los errores humanos y de los tiempos de espera para los usuarios, lo cual se puede traducir en una mayor eficiencia, precisión y calidad de las tareas y los servicios públicos (Misuraca et al., 2020). Finalmente, la IA permite procesar, interpretar y analizar una gran cantidad de datos y en menor tiempo, permitiendo un proceso de toma de decisiones basado en el uso intensivo de datos y más eficiente, lo que se puede traducir en mejores políticas y servicios públicos (Ronzhyn & Wimmer, 2018; Valle-Cruz et al., 2020).
Sin embargo, las desventajas esperadas del uso de la IA en el sector público también son múltiples. Por ejemplo, la automatización de los procesos internos y la reducción de la participación humana pueden generar la desaparición de los puestos de trabajo para muchos servidores públicos (Wirtz et al., 2019). Adicionalmente, los procesos de toma de decisiones de forma automatizada pueden hacer difusa la rendición de cuentas por parte del gobierno, ya que no queda del todo claro quién es el responsable de las malas decisiones que se pueden derivar de los algoritmos utilizados. Además, la IA, al permitir una mayor capacidad de analizar los datos y facilitar el reconocimiento facial, habilita a los gobiernos para la generación de perfiles y efectuar un control y vigilancia masiva de la ciudadanía, lo cual se puede traducir en una falta de privacidad (Sandoval-Almazán, 2021). Finalmente, los procesos a partir de los cuales la IA toma decisiones y realiza tareas son desconocidas para la mayoría de los ciudadanos y, en general, para cualquier persona que no sea experto en el tema. Esto puede resultar en la falta de transparencia por parte de los gobiernos que utilizan esta tecnología (Ronzhy & Wimmer, 2019).
Las afirmaciones sobre las ventajas y desventajas del uso de la IA en el sector público que se mencionaron en los párrafos anteriores están basadas principalmente es supuestos realizados por los investigadores. Tal y como lo mencionan autores como Zhang et al. (2021), Yigitcanlar et al. (2021), Valle-Cruz et al. (2020) y Sun & Medaglia (2019), en la actualidad existe un creciente debate de los beneficios y peligros del uso de la IA en el sector público, el cual está sustentado principalmente en especulaciones, intuiciones y predicciones; sin embargo, existe muy poca evidencia empírica exhaustiva o investigaciones de calidad para corroborar dichas afirmaciones. Adicionalmente, muchos de los proyectos del uso de la IA en el sector público se han implementado recientemente, por lo que la evidencia empírica es escaza. En este sentido, el propósito de este trabajo es aportar mayor evidencia empírica para contribuir al estudio, análisis y entendimiento del uso de la IA en el sector público. Para ello nos enfocamos en la toma de decisiones y el ciclo de las políticas públicas, el cual es un ámbito de gran interés de la aplicación de la IA en el sector público.
El ciclo de las políticas públicas y la inteligencia artificial
Las políticas públicas son todas aquellas decisiones y acciones que son tomadas y llevadas a cabo por los gobiernos y que están dirigidas a la solución de los problemas públicos que la ciudadanía, los grupos de interés o el propio gobierno considera como prioritarios (Astorga & Facio, 2009). Estas decisiones y acciones están estructuradas bajo una secuencia lógica o tienen ordenamiento sucesivo de fases o etapas que permiten la solución adecuada de los problemas seleccionados. A este ordenamiento sucesivo se le conoce como el ciclo de las políticas públicas y está conformada por diferentes fases.
Según Astorga & Facio (2009) y Díaz (1998), no existe una coincidencia exacta o consenso universal sobre cada una de las fases que conforman el ciclo de las políticas públicas, ya que dichas fases varían de un autor a otro o de una diciplina a otra. Revisando la literatura, y específicamente a autores como Howlett et al. (2017), Birckland (2016), Dunn (2012), Astorga & Facio (2009), Jann & Wegrich (2007) y Díaz (1998), podemos identificar que el ciclo de las políticas públicas se compone de cuatro grandes fases: 1) Construcción de la agenda, 2) Formulación y toma de decisiones, 3) Implementación, y 4) Evaluación. A continuación, se describen cada una de estas fases y las ventajas y desventajas del uso de la IA en cada una de ellas.
La construcción de la agenda. En esta fase se da la gestación de la política pública a partir de la elección de un problema público que es susceptible a ser resuelto mediante la acción del gobierno. Los ciudadanos y los grupos de interés manifiestan su preocupación sobre determinados problemas, sin embargo, el gobierno es el que tiene la última palabra sobre cuál de todos estos problemas será de consideración gubernamental (Astorga & Facio, 2009; Howlett et al., 2017). De esta manera, esta fase inicia con la emergencia del problema dentro de la sociedad, prosigue con el reconocimiento de que dicho problema será atendido por el gobierno y culmina cuando éste se agenda en el algún programa gubernamental de decisión y actuación (Díaz, 1998). En esta fase la IA puede ser utilizada para identificar los principales problemas sociales a partir del procesamiento de la gran cantidad de información que se encuentra disponible en las redes sociales en tiempo real (Valle-Cruz et al., 2020), así como para identificar tendencias, situaciones emergentes y para captar los intereses y preocupaciones de los ciudadanos (Vélez et al., 2022). Sin embargo, esta forma de proceder puede dejar fuera aquellos problemas que no se manifiestan a través de los medios digitales; adicionalmente, se puede utilizar la IA para manipular la opinión pública sobre determinados problemas sociales, tal y como se ha hecho en muchas elecciones presidenciales (Pashentsev, 2021).
Formulación y toma de decisiones. Una vez que un problema se inserta dentro de la agenda del gobierno, comienza la formulación o el diseño de los diferentes cursos de acción para la solución de dicho problema. Esta fase comienza con el diagnóstico en donde se identifican y comprenden las diferentes causas que originan el problema en cuestión (Astorga & Facio, 2009), prosigue con la formulación de diversas alternativas de acción que pueden dar solución al problema (Jann &Wegrich, 2007), y culmina cuando los actores políticos toman una decisión sobre la alternativa que resulta la más adecuada en función de los recursos y capacidades con las que cuenta el gobierno (Birckland, 2016). La complejidad de esta fase radica en que los diferentes actores políticos tienen que lidiar analíticamente con los diferentes diagnósticos, alternativas y el proceso de toma de decisiones. En esta fase la IA puede ser usada para modelar las diferentes alternativas y generar una predicción fiable de los posibles resultados con mayor precisión para alcanzar los objetivos planteados (Carlizzi & Quattrone, 2022), así como para identificar los grupos de atención prioritaria en las diferentes alterativas (Vélez et al., 2022). Sin embargo, esto puede generar que la toma de decisiones carezca de juicios de valor, que son determinantes al momento de seleccionar una alternativa sobre otra, además de que existe la posibilidad de que los algoritmos no siempre tomen una buena decisión e inclusive caigan en sesgos y decisiones discriminatorias (Valle-Cruz et al., 2020).
Implementación. En esta fase se ejecutan y ponen en práctica las acciones que se establecieron y decidieron en la fase de formulación. Para ello es necesario poner en marcha una serie de recursos organizacionales, financieros, humanos y tecnológicos para que estén disponibles en tiempo y forma de acuerdo con los objetivos específicos que se persiguen (Díaz, 1998). También es necesario establecer los mecanismos de comunicación y coordinación con las diferentes organizaciones y actores involucrados, emergiendo así momentos en donde la negociación tiene que ser fundamental para que los involucrados se alineen con los mecanismos de acción establecidos (Astorga & Facio, 2009). Finalmente, es necesario monitorear cada momento de la implementación para observar los eventos no esperados y ejecutar las acciones para corregirlos (Jann & Wegrich, 2007). La IA puede ser utilizada en esta fase para brindar predicciones sobre los problemas que se presentan en la implementación y mejorar la relación entre el producto y los resultados (Carlizzi & Quattrone, 2022), así como para monitorear el proceso de implementación en tiempo real para responder de forma rápida a los cambios que se presentan (Vélez et al., 2022). Sin embargo, la utilización de esta técnica puede llevar a la exclusión de grupos de atención prioritaria que generalmente no tienen acceso a las nuevas tecnologías, además de contribuir a que el gobierno tenga un mayor control de la sociedad (Valle-Cruz et al., 2020).
Evaluación. En esta fase se valoran los logros alcanzados en función de los objetivos que se establecieron previamente. Se debe de evaluar no solamente si se dio solución al problema que originó todo el curso de acción, sino también la coherencia de las acciones, los recursos que se invirtieron, el contexto en el que se desarrolló, la eficiencia, la eficacia, la satisfacción de la población con las acciones tomadas, así como los impactos secundarios en otros problemas públicos (Astorga & Facio, 2009; Howlett et al., 2017). En esta fase la IA puede ser usada para llevar a cabo una evaluación basada en una mayor cantidad de datos, en todas las fases y en tiempo real (Carlizzi & Quattrone, 2022), así como para integrar información de múltiples fuentes para evaluar integralmente con procesos de retroalimentación más eficientes (Vélez et al., 2022). Sin embargo, esto podría generar que los resultados de la política pública sean evaluados sin la suficiente teoría o los juicios de valor que se requieren para evaluar la complejidad y diversidad de los impactos que una política pública puede generar (Valle-Cruz et al., 2020).
Como se mencionó anteriormente, gran parte de estas afirmaciones sobre los impactos e implicaciones del uso de la IA en las fases del ciclo de las políticas públicas se basan en suposiciones y especulaciones, más que en una evidencia empírica basta y sólida. El objetivo principal de este trabajo es analizar los impactos y las implicaciones del uso de la IA en el ciclo de las políticas públicas para aportar mayor evidencia empírica que pueda ser contrastada con las suposiciones realizadas por otros autores y con la evidencia empírica disponible. En el siguiente apartado se describe la metodología empleada para ello.
Materiales y métodos
Para identificar y analizar las ventajas y desventajas del uso de la IA en el ciclo de las políticas públicas se utiliza el estudio de caso múltiple en el que se examinan sistémicamente las ventajas y desventajas de los casos seleccionados, las cuales posteriormente se discuten y comparan para realizar una generalización de los resultados. Para la búsqueda e identificación de los casos se siguieron tres pasos. En primer lugar, se partió de los trabajos de Valle-Cruz et al. (2020), Sandoval-Almazán et al. (2020) y Sandoval-Almazán (2021), en donde se analizan respectivamente ocho, 14 y 25 casos en los que la IA se aplica en la Administración Pública. Al eliminar los duplicados se contabilizaron 31 casos, los cuales se analizaron de forma exploratoria para determinar aquellos casos en los que la IA se utiliza para apoyar alguna de las fases del ciclo de las políticas públicas, de esta manera se identificaron 14 casos que cumplen con estas características.
En segundo lugar, para ampliar la identificación de casos, se realizó una búsqueda en la base de datos de Scopus con el siguiente comando: (TITLE-ABS-KEY ("policy cycle") AND TITLE-ABS-KEY ("Artificial Intelligence") OR TITLE-ABS-KEY ("Machine learning") OR TITLE-ABS-KEY ("Data mining") OR TITLE-ABS-KEY ("Natural Language Processing") OR TITLE-ABS-KEY ("Algorithms")). Esta búsqueda arrojó un total de 20 artículos científicos en los cuales se lograron identificar otros nueve casos que corresponden al uso de la IA en alguna de las fases del ciclo de las políticas públicas. Sumando el primer y el segundo paso, se contó con un total de 23 casos que potencialmente podría contribuir al análisis.
En tercer lugar, se realizó una exploración puntual de cada uno de los casos para determinar aquellos seleccionados para ser analizados a profundidad. Para ello se dio prioridad a aquellos casos que disponen de una mayor cantidad de información documental y que fueron implementados primero; también se dio prioridad a la diversidad de los casos en cuanto a los países de origen y su ámbito de implementación. Bajo esos criterios se seleccionaron ocho casos -dos casos por cada fase del ciclo de las políticas públicas-, los cuales conforman el universo empírico de esta investigación. Estos casos se enlistan en la Tabla 1 y se muestran algunas de sus características.
Tabla 1 Casos de estudio y sus principales características.
| Nombre | País de desarrollo
y aplicación |
Ámbito de
aplicación |
Fase del ciclo de las
políticas públicas |
Fuentes |
| The Health Map | Desarrollado en Estados Unidos, aplicado a nivel internacional | Salud | Establecimiento de la agenda | Freifeld et al. (2008); Keller et al. (2009); Lyon et al. (2012); Ellison (2020); El Imparcial (2020); Tuson (2021) |
| Pulse Lab Kampala | Uganda | Salud, desarrollo social y respuesta a desastres naturales | Establecimiento de la agenda | UN Global Pulse (2017); Hidalgo-Sanchis (2018); Rosenthal (2019); ITU (2021); UN Global Pulse (2021) |
| vTaiwán | Taiwán | Administración pública | Formulación y toma de decisiones | Horton (2018); Hsiao et al. (2018); Schubach (2018); Tseng (2022) |
| Artificial Intelligence for Disaster Response (AIDR) | Desarrollado en Qatar, implementado a nivel mundial | Respuesta de desastres naturales y ayuda humanitaria | Formulación y toma de decisiones | Imran et al. (2014); Nguyen et al. (2017); Khattar & Quadri (2020); Ofli et al. (2020) |
| City Brain | China | Gestión urbana | Implementación | Beall (2018); Zhang et al. (2019); Andersen (2020); Caprotti & Liu (2022) |
| Prometea | Argentina | Impartición de justicia | Implementación | Corvalán (2018); Berchi (2019); Estevez et al. (2020); Florez (2020) |
| Mapas de pobreza | Internacional | Desarrollo social | Evaluación | Blumenstock et al. (2015); Jean et al. (2016); Xie et al. (2016); Tingzon et al. (2019); Kellenberger et al. (2021); Agyemang et al. (2023) |
| Distancia2 | Desarrollado por el BID, implementado en América Latina | Salud | Evaluación | BID (s.f.); El telégrafo (2020); La Nación (2020); Riobo et al. (2020); Gutiérrez (2021) |
Fuente: Elaboración propia.
Para la recolección de la información sobre los casos de estudio se utilizó el análisis documental y de sitios web. Para la documentación se utilizaron tres tipos de fuentes: 1) artículos científicos, 2) documentos y reportes institucionales y 3) fuentes hemerográficas. Estos documentos fueron obtenidos al buscar el nombre exacto de cada uno de los casos en las bases de datos de Scopus y Google Scholar, y en el buscador de Google. Para dotar de mayor formalidad al análisis se les dio prioridad a los artículos científicos, seguido de los reportes institucionales y finalmente las fuentes hemerográficas. Para el análisis de sitios web se buscaron las páginas oficiales de cada uno de los proyectos o de las organizaciones que los desarrollaron y/o implementaron. De cada una de estas fuentes se recopila la información necesaria para identificar el funcionamiento básico, la utilidad principal, así como las ventajas y desventajas de cada uno de los casos, estos resultados se muestran en el siguiente apartado.
Resultados
En esta sección se muestran los resultados de esta investigación respecto a las fases que conforman el ciclo de las políticas públicas. Para cada fase se describen y analizan dos casos y se muestra un resumen de las ventajas y desventajas del uso de la IA a la luz de dichos casos.
Fase 1: Establecimiento de la agenda
The Health Map
Es un software creado en 2006 por el Boston Children’s Hospital para vigilar, mapear e informar en tiempo real sobre el comportamiento de enfermedades infecciosas alrededor del mundo (Keller et al., 2009). Utiliza la información de múltiples fuentes disponible en internet, incluyendo sitios web de centros de vigilancia epidemiológica, noticias en línea, alertas oficiales, sitios expertos en medicina y redes sociales, la cual es recopilada y procesada de forma automática por algoritmos de IA y aprendizaje automáticos diseñados para clasificar y mapear la información, así como para emitir alertas cuando los brotes adquieren importancia (Freifeld et al., 2008). Es utilizado por organizaciones internacionales como la Organización Mundial de la Salud (OMS) y el Centro Europeo para la Prevención y el Control de Enfermedades, así como por organizaciones nacionales, como el Instituto Nacional de Alergias y Enfermedades Infecciosas de Estados Unidos. Dichas organizaciones utilizan la información para valorar si determinada enfermedad representa un brote epidemiológico de importancia y así establecer una agenda para la formulación de acciones para su contención (Ellison, 2020).
Health Map ha logrado informar sobre brotes epidémicos importantes con días de antelación a la OMS. En 2009 informó sobre la pandemia de H1N1 en México mediante la información de noticias en línea, lo que sirvió para que las autoridades centraran su atención en dicho brote (Ellison, 2020). En 2014 detectó, una semana antes que la OMS, el broté de ébola en Guinea mediante la información de publicaciones en Twitter y otras fuentes, produciendo una respuesta rápida por las autoridades de dicho país (Tuson, 2021). Finalmente, en el 2019 este sistema envió la primera alerta fuera de China sobre el brote de neumonía causada por el covid-19, esto días antes de que la OMS reconociera su importancia (El Imparcial, 2020). En este sentido, Health Map ha brindado información sobre algunos brotes infecciosos a funcionarios de salud de todo el mundo para que emprendan oportunamente las acciones necesarias, de manera más eficiente y a un menor costo, gracias a la información que procesa en mayor volumen y en menor tiempo.
Las estimaciones de los casos pueden estar sesgadas por dos razones. Primero, el sistema considera aquellas enfermedades infecciosas que son reportadas a través de medios digitales, lo cual puede llevar a subestimar la importancia de aquellas enfermedades que no son reportadas a través de estos medios (Ellison, 2020). Segundo, la mayoría de la información que utiliza y procesa proviene de noticias en internet, las cuales al comenzar a difundirse generan una ola de consultas y reacciones por parte de usuarios y otros medios de información, lo cual hace parecer que el fenómeno en cuestión es más grande y se sobreestime (Tuson, 2021). También existen algunas deficiencias para distinguir entre la información confiable y la no confiable, lo que puede llevar a una incorrecta estimación de los casos (Freifeld et al., 2008). Finalmente, existen algunas imprecisiones sobre la representatividad de la población debido a que el sistema tiene una sensibilidad relativamente baja para detectar y trazar ubicaciones, haciendo que el sistema sea más efectivo para la vigilancia de los brotes que para su detección temprana (Lyon et al., 2012).
Pulse Lab Kampala
Pulse Lab Kampala es un proyecto de la ONU implementado en 2015 en Uganda con el objetivo de utilizar la IA para impulsar el desarrollo social. El caso más representativo de dicho proyecto es un sistema que utiliza IA y aprendizaje automático para analizar el contenido radiofónico para identificar cuáles son los problemas de mayor relevancia para la comunidad. Esta herramienta es muy relevante pues actualmente la radio es el principal medio que utiliza la población de Uganda para el intercambio de información y comunicación (Hidalgo-Sanchis, 2018; UN Global Pulse, 2017). El sistema funciona de la siguiente manera: las computadoras reciben las transmisiones de radio FM de más de 100 estaciones locales; después, mediante un software de reconocimiento de voz se identifican y selecciona las transmisiones habladas (se eliminan canciones y otros contenidos), dando prioridad a las entrevistas y reportajes; posteriormente, utilizando técnicas de aprendizaje automático se identifican los diferentes idiomas de origen y se transcriben las transmisiones; y finalmente, a partir de algoritmos y técnicas de procesamiento natural del leguaje, se analiza y clasifica la información de las transcripciones para obtener datos estructurados y categorizados de forma automática (International Telecomunication Union [ITU], 2021; Rosenthal, 2019; UN Global Pulse, 2017). Estos datos son utilizados por los tomadores de decisiones para identificar algunos de los principales problemas públicos en temas de salud, migración, desastres naturales y género, y construir así una agenda de acción para afrontarlos.
Este sistema fue utilizado por primera vez en julio de 2016 ante la crisis que provocó la migración de más de 600 000 habitantes de Sudan del Sur que llegaron a Uganda a consecuencia del conflicto armado en su país. Se identificó que los principales problemas públicos percibidos por la población local ante este conflicto fueron: propagación de enfermedades infecciosas, aumento de embarazos, propiedad de las tierras agrícolas, deforestación de los bosques e inseguridad; incluso se logró identificar un brote de cólera en un campo de refugiados dos días antes de que fuera anunciado oficialmente (Hidalgo-Sanchis, 2018; UN Global Pulse, 2017). Meses más tarde fue utilizado para identificar las percepciones sobre los problemas en la prestación de servicios de salud, los cuales fueron: mala calidad de la infraestructura, falta de acceso al servicio, falta de estrategias de prevención de enfermedades y medicamentos falsificados (UN Global Pulse, 2017). También ha sido utilizado para identificar problemas públicos relacionados como la infodemia durante la pandemia de covid-19 (ITU, 2021; UN Global Pulse, 2021) y desastres naturales como inundaciones, sequias y rayos (Rosenthal, 2019).
Una de las principales desventajas de este sistema es que se pueden generar sesgos y subestimar los problemas públicos, ya que algunos problemas de interés público no se discuten ampliamente en los programas y entrevistas de radio, tal y como se demostró en el caso de la malaria (UN Global Pulse, 2017). Adicionalmente, es necesario optimizar los sistemas de reconocimiento de voz para incluir los diferentes idiomas, dialectos y acentos que existen en Uganda para evitar sesgos lingüísticos (ITU, 2021). Finalmente, las transmisiones de radio no brindan suficiente información sobre los datos demográficos de la población, los cuales son fundamentales para identificar puntualmente los problemas y establecer una agenda más precisa (UN Global Pulse, 2017).
Resumen de resultados
La Tabla 2 muestra el resumen de los resultados de los dos casos analizados.
Tabla 2 Ventajas y desventajas del uso de la inteligencia artificial en el establecimiento de la agenda de las políticas públicas de acuerdo con los casos analizados.
| Ventajas | Desventajas |
| Permite procesar y analizar gran cantidad y diversidad de información en menor tiempo o de forma inmediata para identificar con más rapidez los nuevos problemas públicos que emergen ante situaciones de coyuntura para incorporarlos a la agenda pública. | Genera algunos sesgos debido a que se le da prioridad a determinadas fuentes de información, principalmente aquélla proveniente de medios digitales, lo cual puede resultar en la subestimación o sobrestimación de los nuevos problemas públicos y en una agenda pública distorsionada. |
| Permite automatizar el proceso para la identificación de los problemas públicos (no se automatiza todo el proceso de la construcción de la agenda). | Presenta algunas fallas para distinguir la información confiable de la no confiable, lo cual puede resultar en una errónea identificación de los nuevos problemas públicos y en una agenda pública desacertada. |
| Muestra algunas deficiencias para detectar puntualmente la ubicación geográfica y las características demográficas de las personas afectadas por los nuevos problemas públicos, lo cual puede resultar en una agenda pública imprecisa. |
Fuente: Elaboración propia a partir de los casos analizados.
Fase 2: Formulación y toma de decisiones
vTaiwán
Es una plataforma creada en 2015 por la sociedad civil taiwanesa Zero Hour Government para facilitar que la ciudadanía, sociedad civil, expertos y políticos se reúnan de manera virtual con el objetivo de conocer, reflexionar y debatir las iniciativas y leyes propuestas (Hsiao et al., 2018; Tseng, 2022). Para ello utiliza herramientas de código abierto que permiten recabar propuestas, intercambiar información y realizar votaciones, datos que posteriormente son procesados mediante algoritmos de IA y aprendizaje automático para mapear la opinión de los participantes, agrupar a los votantes afines y mostrar las ideas que generaron mayor consenso (Horton, 2018). Los resultados son utilizados por el gobierno para conocer de manera estructurada la opinión pública sobre los temas que se encuentran en la agenda, facilitando así la formulación de políticas públicas y la toma decisiones.
vTaiwán ofrece un espacio digital que renueva el debate público al capturar el punto de vista de las partes interesadas y el consenso que existe entre ellas (Schubach, 2018). De acuerdo con Horton (2018), esta plataforma ha sido utilizada para discutir 26 problemas dentro de la agenda gubernamental, de las cuales el 80% se tradujo en alguna decisión en términos de política pública. El caso más representativo es la regulación nacional de Uber, que fue puesta a discusión a través de vTaiwán en el 2015. En pocos meses se llegó a un consenso que contó con el voto de 31 115 personas (Schubach, 2018), en donde se acordó que la solución óptima era eliminar restricciones a los taxis convencionales e imponer requisitos de seguridad para beneficio de los usuarios, mientras que las tarifas de Uber serían reguladas mediante el pago de impuestos, asegurando una competencia pareja (Hsiao et al., 2018). Para finales de 2016 el consenso se ratificó y se incorporó en la reforma al Reglamento de Gestión del Transporte Automotor.
A pesar de que vTaiwan visibiliza y acortar las brechas en la opinión pública, esto no siempre se traduce en la superación de la fase política, pues el gobierno no tiene la obligación de hacer efectivos los consensos que se obtienen; es decir, los resultados no son vinculantes para la formulación de las políticas públicas y la toma de decisiones (Horton, 2018; Tseng, 2022). Un ejemplo es el caso de la iniciativa sobre la venta de alcohol en línea, cuya discusión a través de medios convencionales no logró conformar un consenso y que a principios de 2016 fue puesta a discusión en vTaiwan. En unas cuantas semanas se logró un consenso en dicha plataforma, incorporando las sugerencias en un proyecto de ley; sin embargo, con el cambio de gobierno, dicho proyecto fue rechazado (Horton, 2018). Adicionalmente, se pueden mencionar algunas barreras para la participación de la ciudadanía: los grupos que no tiene acceso a medios digitales quedan excluidos y el tiempo para llegar a un consenso es relativamente extenso, lo que desalienta la participación de algunos ciudadanos (Schubach, 2018).
Artificial Intelligence for Disaster Response (AIDR)
Es un sistema de código abierto diseñado por Qatar Computing Research Institute (QCRI) e implementado desde 2013 para extraer información relevante de zonas alrededor del mundo que han sido afectadas por desastres naturales, su objetivo es brindar datos que sean útiles para coordinar la respuesta humanitaria (Nguyen et al., 2017). El sistema funciona de manera automática, continua y en tiempo real recopilando publicaciones que surgen de las zonas afectadas a través de Twitter, las cuales son procesadas utilizando la inteligencia humana, algoritmos de IA y aprendizaje automático para obtener etiquetas y clasificar la información disponible en dicha red social para generar un conjunto de datos, informes y mapas para visibilizar la magnitud de la crisis y las necesidades más urgentes de los afectados (Imran et al., 2014). Este sistema es utilizado por las Naciones Unidas, gobiernos y asociaciones civiles de todo el mundo para tomar decisiones, priorizar esfuerzos y recursos, y formular las acciones que se requieren en las distintas fases del desastre para una respuesta humanitaria más efectiva (Ofli et al., 2020).
El sistema AIDR fue probado en las inundaciones que ocurrieron en Pakistán en agosto del 2013, en donde se logró una precisión del 80% en la identificación espacial y temporal de las zonas más afectadas (Nguyen et al., 2017). En septiembre de 2013, este sistema fue utilizado oficialmente por primera vez en el terremoto de Pakistán a petición de la Oficina de las Naciones Unidas para la Coordinación de Asuntos Humanitarios (OCHA), logrando aportan datos relevantes de aproximadamente 1000 publicaciones en Twitter para identificar a las víctimas y coordinar los esfuerzos y las donaciones (Imran et al., 2014). Posteriormente, y debido a su efectividad, ha sido utilizado en numerosos desastres naturales como el tifón Hagupit de Filipinas en 2014, el terremoto de Nepal en 2015, el terremoto en Chile de 2019, el huracán Dorian en 2019 y en incendios forestales de gran magnitud (Khattar & Quadri, 2020; Ofli et al., 2020).
Una de las principales desventajas del sistema AIDR es que solamente utiliza la información proveniente de Twitter y no toma en cuenta aquella que es compartida en otras redes sociales, la cual puede ser valiosa para tomar decisiones más informadas (Khattar & Quadri, 2020). Adicionalmente, la información utilizada proviene principalmente de textos, sin prestar atención a las imágenes y videos, los cuales pueden contener información más detallada e importante para las respuestas humanitarias ante las crisis (Nguyen et al., 2017). Finalmente, el sistema tiene algunos problemas de credibilidad, ya que los procesos necesarios para discriminar la información falsa no son del todo precisos, lo que se puede traducir en una incorrecta interpretación de la magnitud de la crisis (Khattar & Quadri, 2020).
Resumen de los resultados
La Tabla 3 muestra el resumen de los resultados de los dos casos analizados.
Tabla 3 Ventajas y desventajas del uso de la inteligencia artificial en la formulación de políticas públicas y en la toma de decisiones de acuerdo con los casos analizados.
| Ventajas | Desventajas |
| Permite procesar y analizar gran cantidad de información de forma inmediata para conocer de manera más detallada y en tiempo real las características y magnitud de un problema público previamente identificado para apoyar en la formulación basada en evidencia. | Presenta algunas fallas para distinguir entre la información falsa y verdadera, lo cual puede resultar en una interpretación errónea de las características de los problemas públicos identificados y generar formulaciones incorrectas. |
| Permite procesar y analizar gran cantidad y diversidad de información en menor tiempo para conocer la opinión de las partes interesadas sobre una política pública formulada y el consenso que existe entre ellas para apoyar en la toma de decisiones informadas. | Excluye la opinión y la participación de aquellas personas que no tienen acceso a medios digitales de comunicación, lo cual resulta en un proceso de toma de decisiones menos informado y sesgado. |
| Permite automatizar el proceso para identificar las características de problemas previamente identificados y la opinión de las partes interesadas (no se automatiza todo el proceso de formulación y la toma de decisiones). |
Fuente: Elaboración propia a partir de los casos analizados.
Fase 3: Implementación
City Brain
City Brain es un sistema creado por la empresa tecnológica Alibaba e implementado en 2016 en la ciudad de Hangzhou (China), como parte fundamental de la política para la construcción de una ciudad inteligente, con el objetivo de monitorear el tránsito y los accidentes vehiculares para brindar datos útiles para el gobierno y los usuarios (Beall, 2018). Utiliza información proveniente de los sistemas de transporte público, de imágenes y videos de los sistemas públicos de videovigilancia, de sensores ubicados en semáforos y de Google Maps, información que es almacenada en la nube y procesada por algoritmos de IA y super ordenadores que envían los datos a los sistemas de información de la ciudad de forma automática y en tiempo real (Andersen, 2020; Caprotti & Liu, 2022). Este sistema es utilizado por las autoridades de tránsito de las ciudades para la programación de los semáforos con el fin de agilizar el flujo de vehículos públicos, privados y de emergencia, así como para responder de manera más rápida a los accidentes e infracciones viales y también para brindarle a los usuarios las mejores rutas (Zhang et al., 2019).
En el año 2017, City Brain logró aumentar 15.3% la velocidad del flujo vehicular en la ciudad de Hangzhou y reducir en un 9.2% la congestión vehicular en las “horas pico”, dicha ciudad pasó de ser la quinta ciudad más congestionada del país a ser la 57ª (Caprotti & Liu, 2022). Adicionalmente, el tiempo de respuesta de las ambulancias se redujo 50%, mientras que la detección de accidentes tuvo una precisión del 95% (Zhang et al., 2019). City Brain se ha implementado en 22 ciudades de China y en ciudades de otros países asiáticos como en Kuala Lumpur (Malasia), donde también se observaron resultados positivos. Por ejemplo, en Shanghai se redujo en un 8% el tiempo promedio de viaje por pasajero y en un 15% la congestión vehicular, mientras que en Suzhou permitió optimizar la logística del transporte público, aumentando en un 17% el número de usuarios (Zhang et al., 2019).
City Brain presenta algunos problemas de juicios de valor referentes a la interpretación de los comportamientos individuales, los cuales son especialmente importantes para determinar infracciones viales. Por ejemplo, algunos taxistas mencionan que en ocasiones el sistema malinterpreta que han tratado mal a los pasajeros, lo cual les ha generado multas (Caprotti & Liu, 2022). También existen problemas en cuanto a la vigilancia y la privacidad, pues el sistema recopila datos privados sobre las actividades rutinarias de los ciudadanos las 24 horas del día, muchas veces sin el consentimiento de estos, datos que pueden ser utilizados para crear perfiles con fines políticos y comerciales (Beall, 2018). Finalmente, se identifican problemas de transparencia, pues el sistema fue diseñado y es controlado por especialistas y tecnócratas, por lo que su funcionamiento es una “caja negra” para los ciudadanos que no comprenden los mecanismos involucrados y que tampoco tienen los medios necesarios para expresar sus opiniones e inconformidades (Caprotti & Liu, 2022).
Prometea
Es una interfaz virtual creada en 2017 por el Ministerio Público de Buenos Aires como parte de la política para mejorar los procesos judiciales y tiene el objetivo de automatizar la elaboración de dictámenes y soluciones judiciales para aumentar la eficiencia y facilitar el acceso a la justicia a los ciudadanos (Florez, 2020). Esta interfaz funciona de la siguiente manera: (1) los fiscales introducen el número de expediente del caso; (2) mediante técnicas de IA el sistema busca y correlaciona, en 15 segundos aproximadamente, las palabras claves del expediente con patrones y modelos de sentencia de casos similares que se encuentran disponibles en una base de datos de las de 300 000 documentos en línea y cuya solución tiene precedentes judiciales reiterados; (3) de forma automática el sistema sugiere el modelo de dictamen más apropiado y es refinado mediante preguntas que son efectuadas por un chatbot al usuario; (4) así se obtiene un dictamen completamente redactado que contienen los antecedentes del caso, la solución jurídica posible y otros documentos relacionados (Berchi, 2019; Corvalán, 2018; Estevez et al., 2020). Prometea es utilizado para dar solución jurídica a casos sencillos como: amparos habitacionales, remuneraciones relacionadas con el empleo público, multas no ejecutorias y denegación de licencia de taxis con antecedentes penales (Estevez et al., 2020; Flórez, 2020).
Las principales ventajas de Prometea es aumentar la eficiencia y eficacia de procesos judiciales al reducir el tiempo necesario para preparar un dictamen y reducir los errores humanos en dicho proceso (Corvalán, 2018). En 2019 se concretaron 901 dictámenes individuales en el Ministerio Público de Buenos Aires, de los cuales el 51% fueron realizados por Prometea empleando en promedio 18 minutos por cada uno, mientras que aquellos realizados de forma tradicional promediaron 72 minutos; es decir, Prometea demostró ser un 75% más eficiente (Estevez et al., 2020). Adicionalmente, la manera tradicional de elaborar los dictámenes implica realizar copias manuales de dictámenes similares, lo cual puede producir errores humanos involuntarios de transcripción, al utilizar Prometea dichos errores se reducen significativamente, ya que ha mostrado una tasa de aciertos del 96% (Estevez et al., 2020). Finalmente, Prometa es utilizada como un asistente virtual, sus decisiones son supervisadas por funcionarios y avaladas por el Fiscal General Adjunto, lo que significa que en ningún momento sustituye la inteligencia humana en la toma de decisiones (Berchi, 2019).
Una de las principales desventajas de Prometea es que por el momento solamente es utilizado para casos relativamente sencillos cuyo proceso se encuentra altamente estandarizado, ya que en los casos de mayor complejidad puede presentar algunos sesgos. Esto se debe a que, para tomar decisiones, Prometea se basa en el análisis de las resoluciones de casos existentes; sin embargo, a diferencia de los casos estandarizados, los casos de mayor complejidad pueden estar impregnados de sesgos que fueron producto de las decisiones humanas previas y dichos sesgos se pueden reflejar en las decisiones tomadas por la interfaz (Estevez et al., 2020).
Resumen de resultados
La Tabla 4 muestra el resumen de los resultados de los dos casos analizados.
Tabla 4 Ventajas y desventajas del uso de la inteligencia artificial en la implementación de las políticas públicas de acuerdo con los casos analizados.
| Ventajas | Desventajas |
| Permite procesar y analizar gran cantidad y diversidad de información en menor tiempo o de forma inmediata para emprender acciones informadas con mayor rapidez para aumentar la eficiencia y eficacia de la implementación. | Genera algunos problemas de privacidad ya que en ocasiones se recopilan datos personales de los ciudadanos sin su consentimiento, lo cual puede resultar en una falta de confianza en las medidas implementadas. |
| Permite la reducción de los errores humanos para la ejecución de acciones más precisas para mejorar la eficacia de la implementación. | Genera algunos problemas de transparencia ya que la mayoría de los ciudadanos desconocen el funcionamiento de los sistemas involucrados, lo cual puede resultar en un menor involucramiento de los ciudadanos en las medidas implementadas. |
| Permite automatizar algunas de las actividades involucradas en la implementación de las políticas públicas (no se automatiza todo el proceso de implementación). | Genera algunos problemas de juicios de valor pues en ocasiones los sistemas interpretan de forma errónea el comportamiento individual de los ciudadanos, lo cual puede resultar en una distorsión de las medidas implementadas. |
Fuente: Elaboración propia a partir de los casos analizados.
Fase 4: Evaluación
Mapas de pobreza
Los mapas de pobreza son proyectos informáticos creados por organizaciones como la Universidad de Stanford y el Qatar Computing Research Institute (QCRI), con apoyo del Banco Mundial, con el objetivo de medir y mapear de manera más precisa la pobreza para generar datos que puedan ser utilizados por los tomadores de decisiones. Para ello se utiliza principalmente información proveniente de los teléfonos celulares como el consumo de datos, la actividad en redes sociales y las transacciones financieras, en combinación con imágenes satelitales de los usos de tierra, asentamientos urbanos y sus materiales de construcción, automóviles, luces nocturnas, infraestructura urbana como caminos y carretera, etc. (Blumenstock et al., 2015; Jean et al., 2016). Esta información es procesada y relacionada mediante algoritmos de IA y aprendizaje automático que da como resultado un conjunto de indicadores socioeconómicos georreferenciados (Kellenberger et al., 2021; Xie et al., 2016). Estos datos son utilizados por los tomadores de decisiones, principalmente de países en desarrollo como Nigeria, Uganda, Tanzania, Malawi, Ruanda, Pakistán y Filipinas, para mejorar la formulación de las políticas públicas diseñadas para combatir la pobreza, así como para su monitoreo y evaluación (Agyemang et al., 2023; Jean et al., 2016; Tingzon et al., 2019).
La principal ventaja de los mapas de pobreza es que se presentan como una alternativa más constante, precisa y de menor costo para estimar, medir y evaluar la pobreza en comparación con los métodos tradicionales que utilizan encuestas y censos que son levantados generalmente cada 5 o 10 años, los cuales resultan ser más costosos y muchas veces no tienen un nivel alto de representatividad (Agyemang et al., 2023). Adicionalmente, en países donde los censos y las encuestas son limitados o inexistentes, los mapas de pobreza se presentan como la mejor alternativa para medir y evaluar la pobreza (Blumenstock, et al., 2015; Jean et al., 2016).
Una de las principales desventajas de los mapas de pobreza es que, al usar datos provenientes de teléfonos celulares, pueden existir sesgos en las mediciones y evaluaciones de la pobreza, esto se debe a que en los países en desarrollo el nivel de utilización es relativamente bajo, sobre todo en las zonas rurales donde los niveles de pobreza suelen ser mayores (Blumenstock et al., 2015; Kellenberger et al., 2021). Adicionalmente, los mapas de pobreza también pueden presentar sesgos cuando se utilizan imágenes satelitales para medir y evaluar la pobreza en zonas urbanas, esto se debe a la alta densidad de los asentamientos urbanos, lo que puede generar distorsiones y dificultar su captación (Tingzon et al., 2019; Xie et al., 2016). En este sentido, las imágenes satelitales resultan ser más eficientes para medir, monitorear y evaluar la pobreza en zonas rurales, mientras que los datos de los teléfonos celulares son más eficientes en las zonas urbanas.
Distancia2
Es una plataforma creada por el Banco Interamericano de Desarrollo (BID) e implementada en varias ciudades de Latinoamérica durante la pandemia de covid-19 con el objetivo de monitorear el distanciamiento social de las personas en los lugares públicos (Riobo et al., 2020). Para ello utiliza imágenes y videos proporcionados por los sistemas de cámaras públicas de videovigilancia y drones, información que es analizada y procesada de forma automática por algoritmos de IA que detectan el número de personas y la distancia entre ellas; de esta manera, si el número de personas sobrepasa los límites establecidos, y/o la distancia entre ellas es menor a dos metros, el sistema envía una alerta a los controladores y también proporciona diversos indicadores de la evolución de las aglomeraciones en lugares de interés, todo esto en tiempo real (BID, s.f.; Riobo et al., 2020). Estos datos son enviados automáticamente a los tomadores de decisiones, las alertas sirven para que se emprendan acciones inmediatas como llamados de atención y evacuaciones, mientras que los indicadores de evolución sirve para evaluar si las políticas de reapertura de las actividades económicas y sociales están cumpliendo con los lineamientos establecidos y, de no ser así, ajustar estas políticas restringiendo el flujo de vehículos y personas, cerrando lugares públicos y emitiendo toques de queda y campañas de comunicación (El telégrafo, 2020; La Nación, 2020).
Una de las principales ventajas de Distancia2 es que esta plataforma aprovecha la infraestructura de video que está disponible en las ciudades y solamente se integra el software de IA que es gratuito, esto favorece su implementación en un periodo relativamente rápido y sin costo alguno (La Nación, 2020). Otra ventaja es su eficiencia para detectar aglomeraciones y brindar una respuesta rápida. Por ejemplo, en los primeros días de su implementación en Ecuador se emitieron 36 541 reportes de aglomeraciones en las principales ciudades, muchos de los reportes se tradujeron en llamados de atención, evacuaciones y en el endurecimiento de las restricciones por parte de las autoridades (Gutiérrez, 2021). Finalmente, otra ventaja de esta plataforma es que utiliza información anónima, es decir, no se utilizan datos privados de los ciudadanos ni técnicas de reconocimiento facial que permitan registrar rasgos particulares, protegiendo en todo momento la privacidad de los ciudadanos (BID, s.f.).
Una de las principales desventajas de esta plataforma es que su funcionamiento óptimo requiere que los servidores de los sistemas de videovigilancia cuenten con unidades de procesamiento gráfico, las cuales son procesadores altamente especializados; por lo tanto, aquellas ciudades que no cuenten con este sistema no podrán obtener todos los beneficios de la plataforma (La Nación, 2020).
Resumen de resultados
La Tabla 5 muestra el resumen de los resultados de los dos casos analizados.
Tabla 5 Ventajas y desventajas del uso de la inteligencia artificial en la evaluación de las políticas públicas de acuerdo con los casos analizados.
| Ventajas | Desventajas |
| Permite procesar y analizar gran cantidad y diversidad de información en menor tiempo o de forma inmediata para evaluar las políticas públicas de manera más precisa, efectiva, a menor costo y en algunas ocasiones en tiempo real. | Genera algunos sesgos debido a que se le da prioridad a determinadas fuentes de información, principalmente aquella proveniente de medios digitales, lo que puede resultar en la subestimación o sobrestimación de algunos de los indicadores evaluados. |
Fuente: Elaboración propia a partir de los casos analizados.
Discusión
En esta sección se interpretan y discuten los resultados obtenidos en el análisis de los casos y se contrastan con los resultados obtenidos por otros autores. De acuerdo con los casos analizados, la principal ventaja del uso de la IA en el ciclo de las políticas públicas es que permite procesar y analizar gran cantidad y diversidad de información en menor tiempo, de forma inmediata o en tiempo real. Esta capacidad es de gran utilidad, pues genera mayor eficacia y eficiencia en todas las fases que conforman dicho ciclo.
Por ejemplo, para la fase del establecimiento de la agenda, el análisis del caso de Health Map demuestra que la IA permite analizar una gran cantidad de información para identificar con mayor rapidez y precisión los problemas de salud pública, mientras que el caso de Pulse Lab Kampala demuestra que la IA permite analizar gran cantidad de información para identificar los problemas sociales de una forma más amplia. Esto concuerda con las conclusiones extraídas por autores como Pencheva et al. (2018), Pashentsev (2021) y Vélez et al. (2022), quienes encuentran que la IA brinda mayor eficiencia en la detección de problemas ante situaciones emergentes y nuevas tendencias. Para la fase de la formulación y la toma de decisiones, el análisis del caso de vTaiwán demuestra que la IA permite analizar gran diversidad de información para recuperar con mayor rapidez las ideas y opiniones de los ciudadanos sobre las medidas formuladas y encontrar patrones que facilitan la toma de decisiones. Esto concuerda con las conclusiones de autores como Starke & Lünich (2020) y Valle-Cruz et al. (2020), quienes mencionan que la IA es una herramienta fundamental para hacer más eficiente y eficaz el proceso de formulación basada en evidencia y de toma de decisiones informadas para generar mejores políticas públicas.
Para la fase de la implementación, el análisis del caso de City Brain demuestra que la IA permite analizar gran cantidad de información de forma inmediata para monitorear en tiempo real el sistema de movilidad y de seguridad de las ciudades y hacerlos más eficientes, mientras que el caso de Prometea demuestra que la IA permite analizar información de forma inmediata para hacer más eficiente el proceso de impartición de justicia. Esto concuerda con las conclusiones extraídas por autores como Valle-Cruz et al. (2020), Vélez et al. (2022) y Carlizzi & Quattrone (2022), que encuentran que la IA hace más eficiente y eficaz la implementación de las políticas públicas, al habilitar el monitoreo en tiempo real para la rápida corrección de los problemas observados. Finalmente, el análisis del caso de Distancia2 demuestra que la IA permite analizar inmediatamente gran cantidad de información proveniente de cámaras de vigilancia y obtener indicadores para evaluar en tiempo real la política de distanciamiento social, esto concuerda con las conclusiones de autores como Höchtl et al. (2016) y Rodríguez (2018), que mencionan que la IA es una herramienta fundamental para que la evaluación de las políticas se efectúe durante la implementación y no de forma ex post como normalmente se hace.
Estas afirmaciones y hallazgos se encuentran en sintonía con la idea que plantean autores como Pencheva et al. (2018), Ronzhyn & Wimmer (2019), Misuraca et al. (2020) y Vélez et al. (2022), quienes mencionan que existe una estrecha y profunda relación entre la IA y el Big Data. Por un lado, la IA da valor y utilidad al Big Data, ya que las grandes cantidades de datos no podrían ser aprovechados y explotados sin los modelos de IA que son capaces de transformar dichos datos en inteligencia. Por otro lado, el Big Data alimenta y construye a la IA, ya que el incremento de los datos estructurados y el aumento de la velocidad de procesamiento impulsan los procesos de aprendizaje automático, haciendo que los sistemas de IA se vuelvan más eficientes y eficaces. En otras palabras, la IA es la herramienta que necesita el Big Data para alcanzar su potencial y viceversa.
De acuerdo con los casos analizados, otra de las principales ventajas del uso de la IA en el ciclo de las políticas públicas es que permite automatizar algunos procesos dentro de cada una de las fases de dicho ciclo, generando así múltiples beneficios. Por ejemplo, Misuraca et al. (2020) mencionan que la automatización a través de la IA reduce los errores humanos, haciendo que las tareas de la administración pública sean más precisas y mejores; esta afirmación se corrobora con el análisis del caso de Prometea, el cual mostró una reducción de errores en la elaboración de dictámenes judiciales, en comparación con los que se elaborar manualmente. Por su parte, de acuerdo con Wirtz et al. (2019), otro de los beneficios de la automatización a través de la IA es la reducción significativa de costos de mano de obra y otros costos variables. Aunque en los casos que se analizaron en la presente investigación no se encontraron datos precisos para corroborar esta afirmación, se puede deducir que el caso de los mapas de pobreza reduce los costos de la evaluación de las políticas públicas al sustituir a los censos y encuestas que resultan ser muy costosas.
Es importante resaltar que en todos los casos analizados se automatizan solamente algunos de los principales procesos que componen las fases del ciclo de las políticas públicas, esto sin que se automaticen las fases completas. Adicionalmente, los resultados de los procesos automatizados son supervisados por personas para evitar que los algoritmos tomen decisiones incorrectas. Por ejemplo, en el caso de Health Map, la plataforma emite alertas automáticas, pero son los investigadores los que toman la decisión de valorar la importancia de los brotes, mientras que en el caso de Prometea, los dictámenes judiciales elaborados automáticamente son supervisados por funcionarios y avalados por un fiscal.
De acuerdo con los casos analizados, una de las principales desventajas del uso de la IA en el ciclo de las políticas públicas es que se puede vulnerar el derecho a la privacidad de los datos personales de los ciudadanos, ya que en muchas ocasiones se utilizan datos personales que son recopilados sin su consentimiento, los cuales pueden recibir un tratamiento inadecuado y ser utilizados para fines distintos a los establecidos, tales como la vigilancia y la creación de perfiles. Los casos de City Brain y los mapas de pobreza, los cuales tienen como base la utilización de múltiples datos personales de los ciudadanos, corroboran estas afirmaciones, pues los ciudadanos no son conscientes de qué datos se recopilan a través de las cámaras, sensores y teléfonos celulares, ni para qué son utilizados dichos datos. En el primer caso esto puede no representar un problema pues, como mencionan Zhang et al. (2021), los ciudadanos chinos están acostumbrados a la vigilancia por parte del gobierno y a la falta de privacidad. Sin embargo, según Ronzhyn & Wimmer (2019) y Vélez et al. (2022), el creciente volumen de datos que permite recopilar y procesar la IA, y que es utilizado por la administración pública, representa un riesgo para mantener el derecho a la privacidad de los ciudadanos, genera desconfianza y es uno de los principales obstáculos para que los ciudadanos aprueben el uso de la IA.
Otra desventaja del uso de la IA en el ciclo de las políticas públicas es que se pueden utilizar algoritmos sesgados que generan procesos de discriminación algorítmica y resultados no deseables. De acuerdo con Manasi et al. (2022) y Koniakou (2023), los sesgos de los algoritmos provienen principalmente de su propio diseño como resultado de los sesgos presentes en aquellas personas encargadas de su creación, así como del conjunto de datos que alimentan los procesos de aprendizaje automático de los algoritmos, datos que generalmente contienen sesgos históricos. Estos sesgos presentes en las personas que diseñan los algoritmos y en los datos históricos que los alimentan son repetidos, perpetuados y amplificados por el uso intensivo de algoritmos en la administración pública y la toma de decisiones automatizadas, reforzando así prejuicios y estereotipos sociales, de género, de raza y de nacionalidad, lo cual se puede traducir en un aumento de la discriminación hacía dichos grupos, en una trasgresión de sus derechos humanos y en un aumento de la desigualdad (Koniakou, 2023).
Por ejemplo, en cuanto a los sesgos algorítmicos de género, Manasi et al. (2022) encuentran que los asistentes virtuales de IA reproducen los estereotipos de género desde su diseño, ya que los asistentes virtuales designados como femeninos son utilizados para realizar tareas sencillas y serviciales, mientras que los asistentes virtuales designados como masculinos son utilizados para realizar tareas complejas y de enseñanza. En cuanto a los sesgos algorítmicos de raza, Marinucci et al. (2023) mencionan que en el gobierno de Estados Unidos se utiliza un software de IA para decidir si se libera o no a un delincuente a partir de su riesgo de reincidencia; sin embrago, este software presenta sesgos discriminatorios hacia las personas afroamericanas, pues asigna puntuaciones de riesgo más altas a dichas personas en comparación con personas caucásicas del mismo perfil. En cuanto a los sesgos algorítmicos de origen socioeconómico, Mead & Barbosa (2023) analizan el caso de A-level en el Reino Unido, en el que se utilizó un algoritmo para determinar las calificaciones de los aspirantes para ingresar a la universidad. Dicha medida dio como resultado calificaciones muy por debajo de las previstas, específicamente para aquellos aspirantes provenientes de escuelas públicas o populares, lo que suscitó una gran ola de protestas ciudadanas que se tradujeron en la abolición de esta medida.
De acuerdo con los casos analizados en este trabajo, se observa que la mayoría de los sistemas de IA utilizados dan prioridad a la información proveniente de redes sociales e internet, lo que puede generar sesgos algorítmicos en las valoraciones y discriminación de ciertos grupos sociales. Por ejemplo, el análisis del caso de vTaiwán muestra que, al utilizar las redes sociales y otros medios digitales para recopilar la opinión de las partes interesadas sobre las políticas formuladas, se excluye la opinión de aquellas personas que no tienen acceso a estos medios de comunicación, generando así sesgos importantes al momento de valorar la opinión pública, lo que eventualmente se pueden traducir en discriminación y en una mayor desigualdad. Igualmente, los mapas de pobreza, al utilizar información proveniente de los celulares de los ciudadanos, pueden generar exclusión y discriminación de aquellas personas que no tienen acceso a estos dispositivos. Esto concuerda con las conclusiones extraídas por Ronzhyn & Wimmer (2019), Wirtz et al. (2019) y Vélez et al. (2022), quienes mencionan que el uso de la IA en la administración pública puede generar sesgos de exclusión y discriminación, aumentando la desigualdad entre aquellos ciudadanos que tienen acceso a las tecnologías involucradas y entre aquellos que no lo tienen.
Adicionalmente, el uso intensivo de información proveniente de redes sociales e internet por parte de los sistemas de IA puede ocasionar problemas de confiabilidad de la información. Por ejemplo, el análisis de los casos de Health Map y AIDR muestra que, al utilizar principalmente información proveniente de noticias de internet e información de Twitter, respectivamente, se presentan problemas para distinguir la información confiable o verdadera de la información no confiable o falsa. Esto puede generar sesgos al momento de valorar los problemas públicos y sus características, lo que se puede traducir en una agenda pública desacertada o formulaciones erróneas de políticas públicas. Debido a esto, autores como Pencheva et al. (2018) y Starke & Lünich (2020) mencionan que es necesario mejorar los procesos de aprendizaje automático para que los sistemas de IA implementados en la administración pública aprendan a distinguir la información confiable de la no confiable.
Finalmente, aunque la automatización de algunos de los procesos que conforman las fases del ciclo de las políticas públicas representa una ventaja, esto también puede generar algunas desventajas debido a que existe opacidad algorítmica en cuanto al funcionamiento de los procesos automatizados y a la toman decisiones, lo que se traduce en una falta de transparencia y problemas de juicios de valor. Por ejemplo, el caso de City Brain demuestra que el sistema es una “caja negra” para los ciudadanos, pues no comprenden su funcionamiento, por tanto, resulta imposible expresar sus opiniones sobre él; adicionalmente, el sistema presenta juicios de valor erróneos que malinterpretan las acciones de los ciudadanos, generando impactos negativos como multas. Esto concuerda con las conclusiones de Ronzhyn & Wimmer (2019) y Vélez et al. (2022), que encuentran que en muchos casos el uso de la IA por parte de los gobiernos resulta ser poco transparente debido a la opacidad algorítmica, considerándose una “caja negra” para la mayoría de los ciudadanos e incluso para los propios funcionarios y los programadores que los crearon, pues no conocen cómo y por qué dichos sistemas toman determinadas decisiones. Todo esto genera que los ciudadanos desconfíen de la forma en la que se procesan los datos, de los valores utilizados y de la responsabilidad por la toma de una mala decisión. Los casos como A-level y Robodebt, los cuales son analizados por Mead & Barbosa (2023), refuerzan estas afirmaciones.
Conclusiones
La inteligencia Artificial (IA) se refiere a la capacidad de los sistemas informáticos para imitar las funciones cognitivas de los seres humanos con la finalidad realizar tareas complejas, tomar decisiones y resolver problemas. En la actualidad la IA es una de las tecnologías disruptivas con mayor auge en la industria, siendo uno de los principales impulsores de la industria 4.0. En los últimos años esta tendencia se ha trasladado a la administración pública, en donde se observa un creciente uso de la IA en múltiples áreas y ámbitos, tendencia que se aceleró aún más a partir de la pandemia de covid-19. Los gobiernos alrededor del mundo están utilizando la IA para mejorar los procesos de toma de decisiones y las políticas públicas; hacer más eficientes los procesos organizacionales; facilitar la creación de servicios públicos mejorados, especializados y personalizados; y mejorar la comunicación los ciudadanos y fomentar su participación.
A pesar de la importancia que ha tomado este fenómeno en los últimos años, se observa que el estudio del tema es relativamente escaso e incipiente; por ejemplo, la mayoría de las afirmaciones sobre las ventajas y desventajas del uso de la IA en la administración pública se basan en suposiciones y predicciones de académicos, investigadores y políticos, y carecen de suficiente evidencia empírica. Precisamente, el presente trabajo tuvo como finalidad contribuir a la resolución de este problema y aportar mayor evidencia empírica a partir del análisis de las ventajas y desventajas del uso de la IA en el ciclo de las políticas públicas. Para ello se realizó un estudio de caso múltiple en el que se examinan y compararon ocho casos internacionales que utilizan la IA en alguna de las fases del ciclo de las políticas públicas.
De acuerdo con el análisis efectuado, la principal ventaja del uso de la IA en el ciclo de las políticas públicas es que permite procesar y analizar gran cantidad y diversidad de información en menor tiempo, de forma inmediata o en tiempo real, generando mayor eficiencia y precisión en los procesos internos de cada una de las fases que conforman dicho ciclo, lo cual se traduce en mejores políticas públicas. Adicionalmente, el uso de IA permite la automatización de muchos de los procesos implicados en las políticas públicas, contribuyendo así a la reducción de los errores humanos y de los costos. Para ello es necesario que los procesos automatizados sean supervisados por los humanos para evitar la toma de decisiones incorrectas por parte de los algoritmos de IA.
De acuerdo con el análisis efectuado, la principal desventaja del uso de la IA en el ciclo de las políticas públicas es que puede generar falta de privacidad, discriminación y exclusión. Esto se debe a que los sistemas de IA utilizados en dicho ciclo se alimentan principalmente de datos personales de los ciudadanos y de información proveniente de internet, generando vulneraciones al derecho a la privacidad, sesgos por discriminación algorítmica producto del diseño de los algoritmos y de los datos utilizados, y exclusión de aquellos ciudadanos que no tienen acceso a este tipo de medios de comunicación. Adicionalmente, el uso de la IA en el ciclo de las políticas públicas genera falta de transparencia debido a la opacidad de los algoritmos, ya que los ciudadanos desconocen el funcionamiento de los procesos automatizados, ocasionando que no puedan expresar sus opiniones para mejorar el funcionamiento, generando desconfianza en la utilización de esta tecnología y una falta de legitimidad.
Las ventajas y desventajas del uso de la IA en el ciclo de las políticas públicas emanan del tipo de información que utilizan los sistemas, del diseño de los algoritmos que procesan esa información y de la forma en la que se provecha los resultados obtenidos. El hecho de que se genere alguna ventaja o desventaja en algunos de estos momentos depende del marco regulatorio, de las directrices y de los principios éticos bajo el cual se utiliza la IA. Es decir, es fundamental que se establezcan las bases para el despliegue y uso responsable de la IA en la administración pública, como aquellos establecidos por la Iniciativa Global sobre Ética de Sistemas Autónomos e Inteligentes (IEEE, por sus siglas en inglés) o las evaluaciones de impacto algorítmico que se han establecido en países como Canadá y Nueva Zelanda. Este tipo de iniciativas pueden asegurar que los sistemas de IA implementados en la administración pública tomen las decisiones correctas, sean inclusivas, respeten la privacidad de los ciudadanos y sean totalmente transparentes.
En resumen, los hallazgos de esta investigación dan cuenta de que el uso de la IA tiene efectos positivos dentro de la administración pública, tal y como lo han promocionado los principales defensores del uso de esta tecnología en los últimos 20 años. Sin embargo, los hallazgos de esta investigación también dan cuenta de que los efectos adversos del uso de la IA en la administración pública son una realidad inminente y no son simples especulaciones y preocupaciones emitidas por diferentes expertos en el tema y grupos de la sociedad. Las problemáticas éticas y sociales sobre el uso de la IA en la administración pública, como los sesgos, la discriminación y opacidad algorítmica, la exclusión, la vigilancia generalizada, la manipulación de la información y desinformación, la falta de responsabilidad y la vulneración a los derechos humanos se hacen cada día más evidentes y adquieren mayor importancia, opacando así los beneficios que esta tecnología puede genera sobre la eficiencia y eficacia en el quehacer público. Es necesario llevar a cabo más estudios empíricos para conocer con mayor profundidad los efectos positivos y negativos del uso de la IA en la administración pública, esto con el objetivo de contar con suficiente evidencia que contribuya a la construcción de marcos de gobernanza de la IA que permita amplificar los beneficios y mitigar los riesgos de la implementación esta tecnología.
Conflicto de interés
Los autores declaran que no existen conflictos de interés.
