SciELO - Scientific Electronic Library Online

 
vol.27 issue2Impact of external and internal factors on successful grafting of Pinus pseudostrobus var. oaxacana (Mirov) HarrisonInterspecific grafting as an alternative for asexual propagation of Pinus rzedowskii Madrigal & Caball. Del. in danger extinction author indexsubject indexsearch form
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Indicators

Related links

  • Have no similar articlesSimilars in SciELO

Share


Revista Chapingo serie ciencias forestales y del ambiente

On-line version ISSN 2007-4018Print version ISSN 2007-3828

Rev. Chapingo ser. cienc. for. ambient vol.27 n.2 Chapingo May./Aug. 2021  Epub Jan 26, 2024

https://doi.org/10.5154/r.rchscfa.2020.06.043 

Artículo científico

Aplicación de un enfoque multigranular basado en el modelo lingüístico difuso 2-tupla para la evaluación de indicadores de política forestal

José L. Romo-Lozano1 

Rosa M. Rodríguez*  2 

Roberto Rendón-Medel1 

Álvaro Labella2 

1 Universidad Autónoma Chapingo. km 38.5 Carretera México-Texcoco, Chapingo. C. P. 56230. Texcoco, Estado de México, México.

2 Universidad de Jaén, Campus Las Lagunillas. C. P. 23071. Jaén, España.


Resumen

Introducción:

La necesidad de indicadores de calidad es notoriamente reconocida por usuarios y proponentes en el tema de evaluación de políticas públicas. Los indicadores incluyen, de manera recurrente, atributos cualitativos para los cuales hay pocos estudios que evalúen el nivel de cumplimiento.

Objetivo:

Aplicar un enfoque multigranular, basado en el modelo lingüístico difuso 2-tupla, a la evaluación de 13 indicadores del Programa Nacional Forestal, establecidos en el sistema de indicadores de la política social derivados del Plan Nacional de Desarrollo 2012-2018 de México.

Materiales y métodos:

El método utiliza el modelo de representación lingüístico difuso 2-tupla y una extensión llamada jerarquías lingüísticas extendidas, diseñada para resolver problemas con información lingüística multigranular. El nivel de cumplimiento de los indicadores se evaluó con base en cuatro criterios: claridad, relevancia, monitoreo y adecuación.

Resultados y discusión:

La estructura que se define en el proceso de evaluación de indicadores de política social corresponde de manera apropiada a la utilizada con el modelo lingüístico difuso 2-tupla. La evaluación resultó en una lista ordenada en la que el indicador “Tasa de variación de la producción forestal maderable” obtuvo la mejor calificación con un nivel de cumplimiento “muy alto”; otros 10 indicadores tuvieron el nivel de cumplimiento “alto” y los dos indicadores restantes se calificaron con un cumplimiento “medio”.

Conclusiones:

El modelo lingüístico difuso 2-tupla permitió la evaluación apropiada del nivel de cumplimiento de los atributos deseables en los indicadores.

Palabras clave: Programa Nacional Forestal; evaluación cualitativa; conjuntos difusos; jerarquías lingüísticas; paneles de expertos.

Abstract

Introduction:

The need for quality indicators is well recognized by users and proponents of public policy evaluation. Indicators recurrently include qualitative attributes for which there are few studies assessing the level of compliance.

Objective:

To apply a multigranular approach, based on the 2-tuple fuzzy linguistic model, to evaluate 13 indicators of the National Forestry Program, established in the system of social policy indicators derived from the National Development Plan 2012-2018 of Mexico.

Materials and methods:

The method uses the 2-tuple fuzzy linguistic representation model and an extension called extended linguistic hierarchies, designed to solve problems with multigranular linguistic information. The indicators' level of compliance was evaluated based on four criteria: clarity, relevance, monitoring, and adequacy.

Results and discussion:

The structure defined in evaluating social policy indicators corresponds appropriately to that used with the 2-tuple fuzzy linguistic model. The evaluation resulted in a sorted list in which the indicator “Rate of change of timber forest production” had the best rating with a “very high” level of compliance; 10 other indicators had the “high” level of compliance, and the remaining two indicators were rated with “moderate” compliance.

Conclusions:

The 2-tuple fuzzy linguistic model allowed the appropriate evaluation of the level of compliance with the desirable attributes of indicators.

Keywords: National Forest Program; qualitative assessment; fuzzy sets; linguistic hierarchies; expert panels

Ideas destacadas:

  • Trece indicadores del Programa Nacional Forestal (2012-2018) se evaluaron cualitativamente.

  • Se evaluó el nivel de cumplimiento de los criterios: claridad, relevancia, monitoreo y adecuación.

  • El cumplimiento de los criterios en los indicadores se evaluó apropiadamente usando lógica difusa.

  • El indicador “Tasa de variación de la producción forestal maderable” tuvo la mejor evaluación.

Introducción

En el ámbito de las políticas públicas existe una variedad de indicadores utilizados para la evaluación de distintas etapas y resultados de interés (De la Cuesta, Pardo, & Paredes, 2015; Guayanlema, Fernández, & Arias, 2017; Guillen, Badi, Garza, & Acuña, 2015). La necesidad de indicadores de calidad es notoriamente reconocida por usuarios y proponentes. En México, la literatura reporta muy pocos estudios que aborden los niveles de cumplimiento que los criterios deben satisfacer. Dos de estos estudios son el realizado por el Consejo Nacional de Evaluación de Política de Desarrollo Social (CONEVAL, 2014) y otro aplicado por el Banco Mundial (2016).

La propuesta de evaluación del CONEVAL consta básicamente de dos etapas: valoración integral y valoración específica de indicadores de resultados. Este proceso involucra la participación de servidores públicos, responsables de los programas a los cuales corresponden los indicadores, y representantes del sector público federal. La primera etapa consiste en determinar si los indicadores cumplen con los criterios mínimos de diseño: claridad, relevancia, monitoreo y adecuación. Para ello, se utilizan dos fichas de apoyo metodológico: ficha de la matriz de indicadores para resultados y ficha de evaluación de indicadores. Todas las preguntas utilizadas en los apartados de estas fichas son de carácter binario (sí/no). La segunda etapa (valoración específica) tiene la finalidad de determinar el cumplimiento de los criterios mínimos de consistencia en los indicadores. Las preguntas que se incluyen en la valoración de los participantes también son de carácter binario y se pide al evaluador que agregue la razón de por qué sí o por qué no. Adicionalmente, el CONEVAL hace una validación estadística mediante la aplicación de un modelo métrico de Rasch, el cual se usa en una gama amplia de situaciones para medir valoración subjetiva. Finalmente, basado en los resultados de estas dos etapas y las observaciones derivadas de la validación estadística, se emite un dictamen de aprobación, en su caso, del conjunto de indicadores del programa correspondiente.

Por otra parte, el instrumento propuesto por un grupo del Banco Mundial, “Herramienta para evaluar la calidad de los indicadores”, al igual que el proceso de evaluación del CONEVAL, involucra a un grupo amplio de invitados con experiencia suficiente en el sector al cual corresponden los programas que se evalúan con los indicadores en cuestión. El proceso incluye tres partes: (a) evaluación de la calidad de los indicadores, (b) evaluación de la calidad de las metas de los indicadores, y (c) evaluación de la calidad de las fuentes de información. Las preguntas de las fichas de recolección de la información, en su mayoría, contemplan cuatro opciones de respuesta: 0 cuando no se satisface el supuesto de la pregunta, 3 cuando hay un nivel intermedio de satisfacción, 5 cuando el nivel de satisfacción es nulo y 99 cuando no aplica. En la parte final de la metodología se calculan promedios y se convierten a porcentajes con los cuales se califica la calidad de los indicadores analizados.

A nivel general, se han realizado evaluaciones y análisis de indicadores en varias áreas del conocimiento. Por ejemplo, Kühnen y Hahn (2017) revisaron tendencias, coherencias, inconsistencias y vacíos en la investigación de indicadores de evaluación del ciclo de vida social. Whitehead (2017) analizó y priorizó una lista de indicadores de sustentabilidad. Vignesh et al. (2017) evaluaron un conjunto de indicadores de contaminación. La lista de este tipo de evaluación de indicadores incluye a Evans, Strezov, y Evans (2009) y Chenoweth (2008).

Los procesos de evaluación que frecuentemente usan información cuantitativa y cualitativa corresponden comúnmente a un marco complejo con un alto grado de incertidumbre, la cual ha sido abordada tradicionalmente a partir de modelos probabilísticos en la teoría clásica de decisiones; sin embargo, la incertidumbre conlleva aspectos con carácter no probabilístico, debido a que están relacionados con imprecisión y vaguedad del significado percibido por quienes realizan la evaluación (Martínez, Rodríguez, & Herrera, 2015; Torres & Tranchita, 2014). Cuando la información utilizada en el proceso de evaluación es cualitativa, el uso de variables lingüísticas representa una buena opción para modelarla (Herrera & Martínez, 2001a). En este sentido, “Los seres humanos poseen dos capacidades notables; la primera es la capacidad de comunicarse, razonar y tomar decisiones racionales en un ambiente de imprecisión, incertidumbre e información incompleta. La segunda es la capacidad de ejecutar una variedad amplia de tareas físicas y mentales sin ninguna medición y ningún cálculo” (Mendel et al., 2010). Asimismo, existen ejemplos de aplicaciones exitosas en varios campos donde se han realizado evaluaciones usando lógica difusa (Gothwal & Raj, 2019; Montignac et al., 2015; Pirlot, Teghem, Ulungu, Bulens, & Goffin, 2015; Wang, Yang, & Cheng, 2019).

El objetivo de la presente investigación fue aplicar un enfoque multigranular, basado en el modelo lingüístico difuso 2-tupla, a la evaluación de 13 indicadores del Programa Nacional Forestal, establecidos en el sistema de indicadores de la política social derivados del Plan Nacional de Desarrollo 2012-2018 de México.

Materiales y métodos

El método propuesto en este estudio para la evaluación de indicadores difiere de los ya mencionados, debido a que usa herramientas desarrolladas en el marco de la lógica difusa, específicamente, el modelo de representación lingüístico difuso 2-tupla propuesto por Herrera y Martínez (2000) y el enfoque de jerarquía lingüística extendida (JLE) desarrollado por Espinilla, Liu, y Martínez (2011).

La evaluación de indicadores se enmarca en un proceso de toma de decisiones. En este sentido, Martínez et al. (2015) consideran que dicho proceso se compone de al menos las cinco fases siguientes: inteligencia, modelado, obtención de la información, análisis y selección. La Figura 1 describe el proceso propuesto para la evaluación de los indicadores de política forestal, basado fundamentalmente en las fases mencionadas con algunas modificaciones.

Figura 1 Proceso de evaluación de indicadores de política forestal utilizado en este estudio. Fuente: Modificado a partir de Martínez et al. (2015). 

Proceso de evaluación de los indicadores forestales

Definición de indicadores

La definición debe ser clara e incluir mínimamente el objetivo en el cual se agrupa el indicador dentro de la política pública a la que corresponde, el método de cálculo, las unidades claramente especificadas y la fuente de información. Los indicadores objeto de evaluación en este estudio se muestran en la Figura 2.

Figura 2 Objetivos e indicadores del Programa Nacional Forestal de México, establecidos en el Plan Nacional de Desarrollo 2012-2018. Fuente: CONEVAL (2017). 

Modelo de evaluación

El desarrollo considera el modelo de representación lingüístico difuso 2-tupla y el enfoque JLE, diseñado para resolver problemas con información lingüística multigranular.

El modelo de representación lingüístico difuso 2-tupla propuesto por Herrera y Martínez (2000) es simbólico y está definido bajo un enfoque de computación con palabras donde se obtienen resultados lingüísticos partiendo de premisas también lingüísticas. Mientras otros enfoques lingüísticos llevan a cabo procesos de aproximación para obtener los resultados, lo que implica una pérdida de información y precisión en los mismos, el modelo lingüístico difuso 2-tupla proporciona una representación difusa continua para los valores lingüísticos, superando las limitaciones de precisión de modelos anteriores (Pei, Ruan, Liu, & Xu, 2009). El modelo representa la información lingüística usando un par de valores conocidos como 2-tupla (s, α), donde s es un término lingüístico y α es un valor numérico que representa la traslación simbólica (Herrera & Martínez, 2001a).

Definición 1 (Herrera & Martínez, 2000): Sea β el resultado de una agregación de los índices de un conjunto de etiquetas evaluadas en un conjunto de términos lingüísticos S; es decir, el resultado de una operación de agregación simbólica. β0, g, siendo g + 1 la cardinalidad de S. Sea i = round(β) y α = β ─ i dos valores tales que i0, g y α-0.5, 0.5 luego α es llamada traslación simbólica.

El modelo también define un conjunto de funciones para hacer transformaciones entre valores 2-tupla y numéricos.

Definición 2 (Herrera & Martínez, 2000): Sea S=s0, , sg un conjunto de términos lingüísticos y β0, g un valor que soporta el resultado de una operación de agregación simbólica. Luego, la 2-tupla que expresa la información equivalente a β se obtiene mediante la siguiente función  =0,gS×-0.5, 0.5; β={si round β; α=β-i     α-0.5, 0.5,donde “round” es la operación usual de redondeo, s i tiene el índice de la etiqueta más cercana a β, y α es el valor de la traslación simbólica.

La literatura indica varias ventajas en el marco del cómputo con palabras, en favor del método de representación lingüístico difuso 2-tupla (Martínez et al., 2015; Rodríguez & Martínez, 2013). Entre las más importantes se mencionan que el dominio lingüístico puede ser tratado como continuo, mientras que en los modelos clásicos es tratado como discreto; el modelo lingüístico computacional basado en la 2-tupla realiza fácilmente procesos de cómputo con palabras y sin pérdida de información; los resultados de procesos de cómputo con palabras siempre son expuestos en la expresión de dominio inicial; y que es posible la agregación de información lingüística multigranular de manera fácil.

Por otra parte, el enfoque JLE surge en el contexto de procesos de evaluación en los cuales los expertos participantes tienen niveles diferentes de conocimiento de la variable de interés, lo cual justifica el uso de distintos conjuntos de términos lingüísticos; es decir, un enfoque multigranular. Además del enfoque JLE, entre los métodos de enfoque multigranular basados en el modelo lingüístico difuso 2-tupla destacan el enfoque de fusión para el manejo de información lingüística multigranular (Herrera, Herrera-Viedma, & Martínez, 2000) y jerarquías lingüísticas (JL) (Herrera & Martínez, 2001b).

El enfoque JLE resuelve la limitación presente en la granularidad del conjunto básico de términos lingüísticos propuesto por el enfoque de fusión en la fase de unificación, el cual sería más grande que los otros conjuntos de términos; asimismo, soluciona las desventajas relacionadas con la precisión y la expresión de dominio para los resultados computados.

Siguiendo la metodología propuesta por Espinilla et al. (2011), el enfoque JLE está basado en JL, las cuales se entienden como la unión de todos los niveles; es decir, t: JL = U t l(t,n(t)), donde cada nivel t de la JL se corresponde con el conjunto de términos lingüísticos con una granularidad de incertidumbre de n(t) denotado como: Snt=s0nt, , snt-1nt. No obstante, el enfoque JLE incluye varios aspectos que lo hacen diferente y más eficiente:

  1. Define el conjunto de puntos nodales previos del nivel t como FPt=fpt0, , fpti, , fpt2δt,donde cada punto nodal previo fpti0, 1 se localiza en fpti=i2δt0,1,siendo δt=nt-1N.

  2. Remplaza las dos reglas básicas del enfoque JL obligando a mantener los puntos nodales anteriores de un nivel t al siguiente, t + 1. De acuerdo con Espinilla et al. (2011), las reglas jerárquicas extendidas son: a) construir una JLE con un número finito de niveles l(t,n(t)) con t = 1,…, m que define la estructura multigranular F MS requerida por los expertos para expresar su conocimiento (es necesario mantener los puntos nodales anteriores entre ellos); y b) obtener una JLE, donde un nuevo nivel l(t*,n(t*)) con t* = m + 1 debe ser añadido para mantener todos los puntos nodales de todos los niveles previos l(t,n(t)), t = 1,…, m dentro de este nuevo nivel.

  3. Para construir una JLE, las m escalas lingüísticas son dadas a los expertos para que expresen su información. Luego el conjunto de términos l(t*,n(t*)) con t* = m + 1 será agregado de acuerdo con el teorema siguiente (Espinilla et al., 2011): Sea {Sn1, , Snm} el conjunto de m conjuntos de términos lingüísticos, donde la granularidad n(t) con t = 1, …,m es un valor impar. Un nuevo conjunto de términos Sn(t*) con t*=m+1, que mantiene todos los puntos nodales anteriores de los m conjuntos de términos puede tener la siguiente granularidad: nt*=t=1t=mδt+1,donde δt=nt-1N.

  4. Propone una estructura optimizada minimizando la granularidad de t*, la cual puede aún mantener todos los puntos nodales anteriores, usando el mínimo común múltiplo (MCM) como sigue: nt*=MCMδ1,, δm+1,  t=1, ,m.

  5. Dentro de la fase de unificación, el enfoque JLE utiliza las funciones de transformación definidas en el enfoque de JL, TFt´t, esto es TFt´tsint, αnt=-1(sint,αnt)(nt´-1nt-1, donde t y pueden ser cualquier par de conjuntos de términos en la JL. Luego el enfoque JLE unifica la información en el nivel t*, que mantiene todos los puntos nodales usando la función de transformación TFt*t, siendo t cualquier nivel en {1…, m} y t* = m + 1. Usando este proceso, se desarrolla una nueva función de transformación entre cualquier par de conjuntos de términos, t y , en la JLE sin pérdida de información. De este modo, asumiendo t y como cualquier par de conjuntos de términos en la JLE y t* como el nivel l(tm+1, n(tm+1)) en la JLE, la nueva función de transformación extendida ETFt´t se define como: ETFt´t:lt, ntlt´, nt´; ETFt´t=TFt*t o TFt´t*,donde TFt*t y TFt´t*son las funciones de transformación definidas de la misma manera que en JL.

Dado que la transformación es unificada por medio de valores lingüísticos 2-tupla, la fase computacional es ejecutada usando el modelo de representación lingüística 2-tupla. Los resultados obtenidos son expresados mediante valores lingüísticos 2-tupla en un Snt´ unificado; sin embargo, también pueden ser expresados (trasladados) en una de las escalas de la JLE sin pérdida de información.

Marco de trabajo

En este paso se establece la estructura del problema, preferencias e incertidumbre. Los componentes son: los criterios C=c1, , cn que califican a los indicadores I={i1, ..., in}; el conjunto de expertos participantes que expresarán sus valoraciones en cada criterio del indicador, E=e1,,  en; la estructura de granularidad; y la semántica de los componentes de la granularidad establecida.

Los criterios evaluados son los utilizados por CONEVAL (2014):

Claridad (c1). Se refiere a si existen dudas sobre lo que se pretende medir; es decir, si el indicador tiene algún término o aspecto técnico ambiguo que pueda ser interpretado de manera distinta.

Relevancia (c2). Se debe verificar que los elementos más importantes del indicador estén directamente relacionados con algún aspecto fundamental del objetivo (factores relevantes).

Monitoreo (c3). Se analiza la claridad de los medios de verificación y del método de cálculo del indicador, para determinar si este puede ser sujeto a una comprobación independiente.

Adecuación (c4). Se refiere a si el indicador da una base suficiente para emitir un juicio respecto al desempeño del programa y si la información que el indicador proporciona es relevante y apropiada para describir los logros del programa en un periodo.

Expertos: Teniendo en cuenta el carácter multigranular de la evaluación, se considera la participación de seis expertos agrupados en dos conjuntos: sector administrativo forestal, E1={e1,e2,e3}, y sector académico forestal, E1={e4,e5,e6}. Aun cuando la muestra de expertos es pequeña, se puede considerar como aceptable dado que los participantes seleccionados son de amplia y reconocida experiencia en sus sectores respectivos.

Estructura de granularidad. Dada la participación de dos grupos de expertos con nivel distinto de conocimiento, se utiliza una jerarquía lingüística compuesta por dos conjuntos con granularidad de cinco y siete términos. El grupo de expertos del sector administrativo forestal expresa su valoración de la variable lingüística cumplimiento en S 5 , y el grupo de expertos del sector académico en S 7 ; es decir, E1=S5={S05,  S15, S25,  S35, S45} que corresponde al conjunto de términos lingüísticos {muy bajo, bajo, medio, alto, muy alto} y E2=S7={S07,  S17, S27,  S37,  S47,  S57,  S67} que corresponden al conjunto de términos lingüísticos {nulo, muy bajo, bajo, medio, alto, muy alto, excelente}.

Semántica. Los términos lingüísticos se definieron a partir de una función de pertenencia triangular µ A (u), la cual es representada mediante una 3-tupla (a, b, c) donde b indica el punto en el cual el valor de pertenencia es igual a 1, y a y c indican los límites izquierdo y derecho, respectivamente, del dominio de la función de pertenencia, donde, μA~u0 si ua;  u-ab-a si ua. b, c-uc-b si ub, c;0 si uc. 

De este modo, para cada conjunto se tienen conjuntos de términos lingüísticos finitos y ordenados con una cardinalidad impar (g + 1), donde cada término es igualmente informativo. El término lingüístico medio es el término intermedio y representa una valoración aproximada de 0.5 (Figura 3).

Figura 3 Semántica de los conjuntos de términos lingüísticos de las jerarquías lingüísticas con granularidad de cinco (S 5 ) y siete términos (S 7 ). 

Una vez obtenidas todas las valoraciones, y haciendo uso de las dos reglas extendidas del enfoque JLE, se agrega el nuevo conjunto (nivel) l(t*, n(t*)) con t* = m + 1 a la jerarquía lingüística, esto es: n(t*,n(t*)) = n(t 3 ,n(t 3 )), donde la granularidad de (n(t 3 )) se define aplicando el teorema 1 nt3=t=1t=2δt+1,y su optimización mediante nt3=MCMδ1, δ2+1; n(t 3) = MCM (2, 6) + 1 = 12 + 1 = 13; es decir, el conjunto de términos agregado a la JLE es S 13 (Figura 4).

Figura 4 Conjunto de términos lingüísticos agregado a la jerarquía lingüística extendida l(t * , n(t * )) = S 13

Asumiendo que, dentro de cada grupo, los expertos tienen la misma importancia en el proceso de decisión, el operador de agregación que se utiliza es la media aritmética 2-tupla definida como x-=i=1n-1si,αin.

Las evaluaciones se colectaron utilizando formatos diseñados (cuestionarios de cinco [Apéndice 1 https://cloud.chapingo-cori.mx/index.php/s/5ItNUZhvgpTWbGh/download] y siete términos [Apéndice 2 https://cloud.chapingo-cori.mx/index.php/s/nzAOeE943Zm5mt1/download]) y cada entrevistado e i contó con toda la información relevante: 1) objetivo, 2) nombre del indicador, 3) descripción del indicador, 4) método de cálculo, 4) fuentes de información y 5) definición de los criterios.

Todos los cálculos se hicieron mediante las ecuaciones de transformación definidas en el método de resolución, utilizando para ello el software FLINTSTONES (Estrella, Espinilla, Herrera, & Martínez, 2014), un sistema de soporte de decisiones desarrollado en el seno del grupo de investigación de Sistemas Inteligentes Basados en Análisis de Decisión Difuso (SINBAD) de la Universidad de Jaén, España. El acrónimo FLINTSTONES proviene de sus siglas en inglés (Fuzzy LINguisTic deciSion TOols eNhacemEnt Suite). El programa fue diseñado para resolver problemas de toma de decisiones bajo incertidumbre, siguiendo un enfoque de computación con palabras, lo que permite obtener, partiendo de premisas lingüísticas, resultados también representados lingüísticamente, lo cual facilita su interpretación. Por lo tanto, a través de FLINTSTONES se pueden modelar problemas de toma de decisión de cualquier índole, especificando expertos involucrados, alternativas o posibles soluciones del problema, y los criterios usados para evaluar dichas alternativas; además, la herramienta permite definir dominios de expresión de naturaleza distinta que los expertos pueden usar para exponer sus opiniones, de manera que puedan ser modeladas por valores numéricos o lingüísticos. Una vez definido el problema, FLINTSTONES incluye modelos de decisión ampliamente usados en la literatura de toma decisión que permiten obtener la solución. En este trabajo, se seleccionó el modelo lingüístico 2-tupla bajo un marco complejo de incertidumbre de multigranularidad. FLINTSTONES se encuentra disponible para su descarga en https://sinbad2.ujaen.es/flintstones/eshttp://sinbad2.ujaen.es/es

Análisis

La información colectada se analiza y agrega de acuerdo con los objetivos y restricciones, y se reportan los resultados a ser considerados en la fase de selección.

Selección o priorización

De acuerdo con los resultados de la fase del análisis, se desarrolla un proceso de selección en el cual los tomadores de decisiones pueden elegir las alternativas de solución al problema.

Resultados

Las valoraciones expresadas por el grupo de expertos del sector oficial administrativo se presentan en el Cuadro 1. El Cuadro 2 muestra la misma información, pero en este caso las valoraciones corresponden al grupo de expertos del sector académico y son expresadas en el conjunto de siete términos lingüísticos (S 7 ).

Cuadro 1 Valoraciones expresadas por los expertos del sector oficial administrativo, proporcionadas en el conjunto de términos lingüísticos S 5 , para la evaluación de los criterios de los indicadores del Programa Nacional Forestal 2012-2018. 

Indicador Criterios
Experto 1 Experto 2 Experto 3
C1 C2 C3 C4 C1 C2 C3 C4 C1 C2 C3 C4
i1 (s4 5) (s3 5) (s3 5) (s3 5) (s3 5) (s4 5) (s4 5) (s3 5) (s4 5) (s4 5) (s4 5) (s3 5)
i2 (s0 5) (s3 5) (s3 5) (s3 5) (s2 5) (s4 5) (s4 5) (s3 5) (s2 5) (s3 5) (s4 5) (s3 5)
i3 (s0 5) (s2 5) (s3 5) (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s4 5) (s4 5) (s4 5) (s3 5)
i4 (s3 5) (s2 5) (s3 5) (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s2 5) (s3 5) (s4 5) (s3 5)
i5 (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s4 5) (s4 5) (s3 5) (s1 5) (s2 5) (s2 5) (s3 5)
i6 (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s3 5) (s3 5) (s3 5) (s4 5) (s4 5) (s3 5) (s3 5)
i7 (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s4 5) (s4 5) (s3 5) (s3 5) (s3 5) (s4 5) (s3 5)
i8 (s3 5) (s2 5) (s3 5) (s3 5) (s2 5) (s2 5) (s2 5) (s3 5) (s2 5) (s1 5) (s3 5) (s3 5)
i9 (s3 5) (s2 5) (s3 5) (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s3 5) (s4 5) (s3 5) (s3 5)
i10 (s2 5) (s1 5) (s2 5) (s2 5) (s2 5) (s2 5) (s2 5) (s2 5) (s2 5) (s3 5) (s2 5) (s3 5)
i11 (s2 5) (s1 5) (s2 5) (s2 5) (s2 5) (s2 5) (s2 5) (s2 5) (s2 5) (s1 5) (s2 5) (s3 5)
i12 (s3 5) (s2 5) (s3 5) (s3 5) (s3 5) (s3 5) (s4 5) (s4 5) (s1 5) (s1 5) (s2 5) (s3 5)
i13 (s3 5) (s2 5) (s3 5) (s3 5) (s1 5) (s2 5) (s2 5) (s1 5) (s3 5) (s1 5) (s3 5) (s3 5)

Los indicadores corresponden a los señalados en la Figura 2. S5=S05,  S15,  S25,  S35, S45 corresponden al conjunto de términos lingüísticos {muy bajo, bajo, medio, alto, muy alto}. Criterios: c1 = claridad, c2 = relevancia, c3 = monitoreo y c4 = adecuación.

Cuadro 2 Valoraciones expresadas por los expertos del sector académico, proporcionadas en el conjunto de términos lingüísticos S 7 , para la evaluación de los criterios de los indicadores del Programa Nacional Forestal 2012-2018. 

Indicador Criterios
Experto 1 Experto 2 Experto 3
C1 C2 C3 C4 C1 C2 C3 C4 C1 C2 C3 C4
i1 (s3 7) (s4 7) (s3 7) (s4 7) (s6 7) (s5 7) (s5 7) (s4 7) (s6 7) (s6 7) (s6 7) (s6 7)
i2 (s3 7) (s4 7) (s3 7) (s2 7) (s6 7) (s6 7) (s5 7) (s4 7) (s5 7) (s6 7) (s4 7) (s6 7)
i3 (s2 7) (s4 7) (s2 7) (s4 7) (s6 7) (s5 7) (s6 7) (s5 7) (s4 7) (s6 7) (s5 7) (s6 7)
i4 (s3 7) (s4 7) (s2 7) (s4 7) (s3 7) (s6 7) (s6 7) (s4 7) (s5 7) (s5 7) (s6 7) (s6 7)
i5 (s4 7) (s4 7) (s2 7) (s4 7) (s6 7) (s6 7) (s6 7) (s3 7) (s5 7) (s5 7) (s6 7) (s6 7)
i6 (s2 7) (s3 7) (s3 7) (s3 7) (s4 7) (s4 7) (s5 7) (s3 7) (s5 7) (s5 7) (s6 7) (s5 7)
i7 (s4 7) (s3 7) (s2 7) (s2 7) (s6 7) (s6 7) (s4 7) (s3 7) (s4 7) (s6 7) (s3 7) (s5 7)
i8 (s2 7) (s2 7) (s3 7) (s2 7) (s6 7) (s5 7) (s2 7) (s2 7) (s5 7) (s6 7) (s3 7) (s5 7)
i9 (s2 7) (s4 7) (s2 7) (s4 7) (s6 7) (s6 7) (s6 7) (s6 7) (s5 7) (s5 7) (s4 7) (s4 7)
i10 (s2 7) (s3 7) (s1 7) (s3 7) (s5 7) (s5 7) (s5 7) (s5 7) (s3 7) (s4 7) (s4 7) (s4 7)
i11 (s2 7) (s3 7) (s2 7) (s3 7) (s4 7) (s5 7) (s5 7) (s5 7) (s3 7) (s4 7) (s3 7) (s4 7)
i12 (s2 7) (s2 7) (s2 7) (s3 7) (s6 7) (s6 7) (s5 7) (s2 7) (s4 7) (s5 7) (s3 7) (s4 7)
i13 (s4 7) (s4 7) (s4 7) (s4 7) (s6 7) (s6 7) (s6 7) (s6 7) (s5 7) (s4 7) (s6 7) (s4 7)

Los indicadores corresponden a los señalados en la Figura 2. S7={S07,  S17, S27,  S37,  S47,  S57,  S67} corresponden al conjunto de términos lingüísticos {nulo, muy bajo, bajo, medio, alto, muy alto, excelente}. Criterios: c1 = claridad, c2 = relevancia, c3 = monitoreo y c4 = adecuación.

Continuando con lo establecido por la JLE, se procedió a la unificación (traslado) de los valores expresados por los expertos en los dos conjuntos lingüísticos (S 5 y S 7) al conjunto de términos agregado a la jerarquía lingüística (S 13). El Cuadro 3 muestra los resultados del traslado para los expertos del sector académico. El mismo procedimiento se utilizó para las valoraciones de los expertos del sector administrativo forestal.

Cuadro 3 Valores expresados por los expertos del sector académico forestal, trasladados al conjunto de términos lingüísticos agregados S 13 y representados mediante valores 2-tupla, para la evaluación de los criterios de los indicadores del Programa Nacional Forestal 2012-2018. 

Indicador Criterios
Experto 4 Experto 5 Experto 6
C1 C2 C3 C4 C1 C2 C3 C4 C1 C2 C3 C4
i1 (s6 13,0) (s8 13,0) (s6 13,0) (s8 13,0) (s12 13,0) (s12 13,0) (s10 13,0) (s8 13,0) (s12 13,0) (s12 13,0) (s12 13,0) (s12 13,0)
i2 (s6 13,0) (s8 13,0) (s6 13,0) (s4 13,0) (s12 13,0) (s12 13,0) (s10 13,0) (s8 13,0) (s10 13,0) (s12 13,0) (s8 13,0) (s12 13,0)
i3 (s4 13,0) (s8 13,0) (s4 13,0) (s8 13,0) (s12 13,0) (s10 13,0) (s12 13,0) (s10 13,0) (s8 13,0) (s12 13,0) (s10 13,0) (s12 13,0)
i4 (s6 13,0) (s8 13,0) (s4 13,0) (s8 13,0) (s6 13,0) (s12 13,0) (s12 13,0) (s8 13,0) (s10 13,0) (s10 13,0) (s12 13,0) (s12 13,0)
i5 (s8 13,0) (s8 13,0) (s4 13,0) (s8 13,0) (s12 13,0) (s12 13,0) (s12 13,0) (s6 13,0) (s10 13,0) (s10 13,0) (s10 13,0) (s12 13,0)
i6 (s4 13,0) (s8 13,0) (s6 13,0) (s6 13,0) (s8 13,0) (s8 13,0) (s10 13,0) (s6 13,0) (s10 13,0) (s10 13,0) (s10 13,0) (s10 13,0)
i7 (s8 13,0) (s6 13,0) (s4 13,0) (s4 13,0) (s12 13,0) (s12 13,0) (s8 13,0) (s6 13,0) (s8 13,0) (s12 13,0) (s6 13,0) (s10 13,0)
i8 (s4 13,0) (s4 13,0) (s6 13,0) (s4 13,0) (s12 13,0) (s10 13,0) (s4 13,0) (s4 13,0) (s10 13,0) (s12 13,0) (s6 13,0) (s10 13,0)
i9 (s4 13,0) (s8 13,0) (s4 13,0) (s8 13,0) (s12 13,0) (s12 13,0) (s12 13,0) (s12 13,0) (s10 13,0) (s10 13,0) (s8 13,0) (s8 13,0)
i10 (s4 13,0) (s6 13,0) (s2 13,0) (s6 13,0) (s10 13,0) (s10 13,0) (s10 13,0) (s10 13,0) (s6 13,0) (s8 13,0) (s8 13,0) (s8 13,0)
i11 (s4 13,0) (s6 13,0) (s4 13,0) (s6 13,0) (s8 13,0) (s10 13,0) (s10 13,0) (s10 13,0) (s6 13,0) (s8 13,0) (s6 13,0) (s8 13,0)
i12 (s4 13,0) (s4 13,0) (s4 13,0) (s6 13,0) (s12 13,0) (s12 13,0) (s10 13,0) (s4 13,0) (s8 13,0) (s10 13,0) (s6 13,0) (s8 13,0)
i13 (s8 13,0) (s6 13,0) (s8 13,0) (s8 13,0) (s12 13,0) (s12 13,0) (s12 13,0) (s12 13,0) (s10 13,0) (s8 13,0) (s12 13,0) (s8 13,0)

Los indicadores corresponden a los señalados en la Figura 2. Criterios: c1 = claridad, c2 = relevancia, c3 = monitoreo y c4 = adecuación).

Dado que las valoraciones colectivas se calcularon utilizando el modelo lingüístico difuso 2-tupla, estas se expresaron en el conjunto lingüístico agregado S 13, incluyendo el orden de clasificación de los indicadores de acuerdo con las valoraciones de los expertos (Cuadro 4).

Cuadro 4 Valoraciones colectivas expresadas en el conjunto de términos lingüísticos S 13, para la evaluación de los criterios de los indicadores del Programa Nacional Forestal 2012-2018. 

Indicador Nombre Clasificación Valoración colectiva
i1 Tasa de variación de la producción forestal maderable 1 (s10 13, 0.083)
i9 Porcentaje de ejidos y comunidades que pasan a una tipología superior de productores incrementando sus capacidades organizativas 2 (s9 13, -0.125)
i3 Tasa de variación de la superficie certificada en las prácticas de buen manejo forestal 3 (s9 13, -0.166)
i5 Porcentaje de cobertura de la superficie forestal rehabilitada o restaurada 4 (s9 13, -0.208)
i4 Tasa de variación de la superficie conservada a través de pago por servicios ambientales 5 (s9 13, -0.25)
i5 Porcentaje del valor de la producción obtenida a partir del aprovechamiento sustentable de los recursos naturales 5 (s9 13, -0.25)
i7 Tasa de variación de la superficie promedio anual de arbolado adulto y renuevo afectada por incendios forestales 6 (s9 13, -0.375)
i6 Tasa de deforestación neta anual de bosques y selvas 7 (s9 13, -0.458)
i13 Tasa de variación de los recursos financieros otorgados al sector forestal por la banca de desarrollo 8 (s8 13, 0.333)
i12 Emisiones de CO2e evitadas por reducción de la deforestación y degradación forestal 9 (s8 13, -0.208)
i8 Proporción de productos forestales maderables pertenecientes al mercado legal 10 (s7 13, 0.333)
i10 Índice de participación social en el sector forestal 11 (s7 13, -0.333)
i11 Índice de la Estrategia Nacional REDD+ operando 12 (s6 13, 0.458)

Como último paso, los valores colectivos estimados se retrasladaron a uno de los dos conjuntos utilizados (Cuadro 5); en este caso, se utilizó el conjunto de términos lingüísticos S 7. Como puede verificarse, este proceso de retraslación no modificó el orden de la clasificación de los indicadores, y fue necesario debido a que generalmente el conjunto t * agregado a la jerarquía lingüística corresponde a un alto grado de granularidad, lo cual dificulta su interpretación. La expresión de los valores es más interpretable porque los términos lingüísticos son más cercanos a las escalas usuales de valoración y los expertos obtienen los resultados representados en cualquiera de los conjuntos que se usaron.

Cuadro 5 Valoraciones colectivas expresadas en el conjunto de términos lingüísticos S 7, para la evaluación de los criterios de los indicadores del Programa Nacional Forestal 2012-2018. 

Indicador Nombre Clasificación Valoración colectiva
i1 Tasa de variación de la producción forestal maderable 1 (muy alto, 0.042)
i9 Porcentaje de ejidos y comunidades que pasan a una tipología superior de productores incrementando sus capacidades organizativas 2 (alto, 0.438)
i3 Tasa de variación de la superficie certificada en las prácticas de buen manejo forestal 3 (alto, 0.417)
i5 Porcentaje de cobertura de la superficie forestal rehabilitada o restaurada 4 (alto, 0.396)
i4 Tasa de variación de la superficie conservada a través de pago por servicios ambientales 5 (alto, 0.375)
i2 Porcentaje del valor de la producción obtenida a partir del aprovechamiento sustentable de los recursos naturales 5 (alto, 0.375)
i7 Tasa de variación de la superficie promedio anual de arbolado adulto y renuevo afectada por incendios forestales 6 (alto, 0.313)
i6 Tasa de deforestación neta anual de bosques y selvas 7 (alto, 0.270)
i13 Tasa de variación de los recursos financieros otorgados al sector forestal por la banca de desarrollo 8 (alto, 0.167)
i12 Emisiones de CO2e evitadas por reducción de la deforestación y degradación forestal 9 (alto, -0.104)
i8 Proporción de productos forestales maderables pertenecientes al mercado legal 10 (alto, -0.333)
i10 Índice de participación social en el sector forestal 11 (medio, 0.333)
i11 Índice de la Estrategia Nacional REDD+ operando 12 (medio, 0.223)

Aun cuando el modelo lingüístico difuso 2-tupla tiene un amplio respaldo en los resultados obtenidos por investigadores que han abordado y resuelto varios problemas teóricos y reales (Carmona, González, Gacto, & del Jesus, 2012; Doukas, Tsiousi, Marinakis, & Psarras, 2014; Herrera-Viedma, López-Herrera, Luque, & Porcel, 2007; Montes, Sánchez, Villar, & Herrera, 2015), no se conocen hasta ahora aplicaciones en la evaluación de indicadores de política pública que nos permitan contrastar los resultados aquí obtenidos. No obstante, hay confianza de la solidez de las herramientas utilizadas y el carácter apropiado de la estructura de la información generada en el proceso de evaluación de los indicadores; por lo tanto, se puede decir que, de acuerdo al término lingüístico y valor de la traslación simbólica α estimados para cada uno de los indicadores, el indicador i 1 “Tasa de variación de la producción forestal maderable” es el que tuvo las mejores valoraciones de los expertos con el nivel de cumplimiento “muy alto” en los criterios considerados. Después de este, los indicadores i 1 a i 9, incluyendo los indicadores i 12 e i 13, tuvieron un nivel de cumplimiento “alto” con diferencias en el valor de la traslación simbólica que, en este caso, determinó las diferencias en el orden de clasificación (Cuadro 5). Solo i 10 e i 11 tuvieron la valoración colectiva correspondiente al término lingüístico “medio”.

Conclusiones

La estructura que se define en el proceso de evaluación de indicadores de política social corresponde de manera apropiada a la utilizada con el modelo lingüístico difuso 2-tupla, lo cual es relevante debido a que permite una evaluación adecuada de los indicadores considerados. Adicionalmente, el enfoque multigranular considera las evaluaciones más allá de los valores binarios tradicionales (sí, no) y, mediante la participación de expertos con distinto nivel de conocimiento, enriquece las valoraciones expresadas con mayor precisión. CONEVAL y Banco Mundial representan aportaciones valiosas a la valoración de indicadores y evalúan aspectos que van más allá de los cuatro criterios considerados en este estudio; sin embargo, tales aspectos también son susceptibles de ser evaluados mediante el enfoque aquí utilizado. Como trabajo futuro se pretende extender el estudio a la evaluación de todos los aspectos cualitativos que se consideran en los atributos de los indicadores.

Agradecimientos

Este trabajo está parcialmente financiado por el Ministerio de Economía y Competitividad (España), a través del proyecto de investigación (PGC2018- 099402-B-I00) y el contrato posdoctoral Ramón y Cajal (RYC- 2017-21978). Por otra parte, también se recibió financiación del Consejo Nacional de Ciencia y Tecnología (CONACyT-México) mediante la estancia sabática 2018-2019 con referencia CVU núm. 64236.

REFERENCIAS

Banco Mundial. (2016). Evaluación de la calidad de indicadores de proyectos prioritarios. Retrieved from https://www.hacienda.morelos.gob.mx/images/docu_planeacion/evaluacion/EvaluacionesBancoMundial/Herramienta_para_Evaluar_la_Calidad_de_los_Indicadores.pdfLinks ]

Carmona, C. J., González, P., Gacto, M. J., & del Jesus, M. J. (2012). Genetic lateral tuning for subgroup discovery with fuzzy rules using the algorithm NMEEF-SD. International Journal of Computational Intelligence Systems, 5(2), 355-367. doi: 10.1080/18756891.2012.685323 [ Links ]

Chenoweth, J. (2008). A re-assessment of indicators of national water scarcity. Water International, 33(1), 5-18. doi: 10.1080/02508060801927994 [ Links ]

Consejo Nacional de Evaluación de la Política Pública (CONEVAL). (2014). Metodología para la aprobación de indicadores de los programas sociales. Retrieved from https://www.coneval.org.mx/coordinacion/Documents/monitoreo/metodologia/Metodología para Aprobación de Indicadores 2014.pdfLinks ]

De la Cuesta, G. M., Pardo, H. E., & Paredes, G. J. D. (2015). Identificación de indicadores relevantes del desempeño RSE mediante la utilización de técnicas multicriterio. INNOVAR, 25(55), 75-88. doi: 10.15446/innovar.v25n55.47197 [ Links ]

Doukas, H., Tsiousi, A., Marinakis, V., & Psarras, J. (2014). Linguistic multi-criteria decision making for energy and environmental corporate policy. Information Sciences, 258, 328-338. doi: 10.1016/j.ins.2013.08.027 [ Links ]

Espinilla, M., Liu, J., & Martínez, L. (2011). An extended hierarchical linguistic model for decision-making problems. Computational Intelligence, 27(3), 489-512. doi: 10.1111/j.1467-8640.2011.00385.x [ Links ]

Estrella, F. J., Espinilla, M., Herrera, F., & Martínez, L. (2014). FLINTSTONES: A fuzzy linguistic decision tools enhancement suite based on the 2-tuple linguistic model and extensions. Information Sciences, 280, 152-170. doi: 10.1016/j.ins.2014.04.049 [ Links ]

Evans, A., Strezov, V., & Evans, T. J. (2009). Assessment of sustainability indicators for renewable energy technologies. Renewable and Sustainable Energy Reviews, 13(5), 1082-1088. doi: 10.1016/j.rser.2008.03.008 [ Links ]

Gothwal, S., & Raj, T. (2019). A comparative study of multi-criteria decision-making approaches for prioritising the manufacturing systems. International Journal of Process Management and Benchmarking, 9(3), 277-299. doi: 10.1504/IJPMB.2019.100962 [ Links ]

Guayanlema, V., Fernández, L., & Arias, K. (2017). Análisis de indicadores de desempeño energético del Ecuador. Enerlac, 1(2), 121-139. Retrieved from http://biblioteca.olade.org/opac-tmpl/Documentos/hm000684.pdfLinks ]

Guillen, A., Badii, M. H., Garza, F., & Acuña, M. (2015). Descripción y uso de indicadores de crecimiento económico. International Journal of Good Conscience, 10(1), 138-156. Retrieved from http://www.spentamexico.org/v10-n1/A10.10(1)138-156.pdfLinks ]

Herrera-Viedma, E., López-Herrera, A. G., Luque, M., & Porcel, C. (2007). A fuzzy linguistic IRS model based on a 2-tuple fuzzy linguistic approach. International Journal of Uncertainty, Fuzziness and Knowlege-Based Systems, 15(2), 225-250. doi: 10.1142/S0218488507004534 [ Links ]

Herrera, F., Herrera-Viedma, E., & Martínez, L. (2000). A fusion approach for managing multi-granularity linguistic term sets in decision making. Fuzzy Sets and Systems, 114(1), 43-58. doi: 10.1016/S0165-0114(98)00093-1 [ Links ]

Herrera, F., & Martínez, L. (2000). A 2-tuple fuzzy linguistic representation model for computing with words. IEEE Transactions on Fuzzy Systems, 8(6), 746-752. doi: 10.1109/91.890332 [ Links ]

Herrera, F., & Martínez, L. (2001a). The 2-tuple linguistic computational model. advantages of its linguistic consistency. International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems, 9(1), 33-48. doi: 10.1142/S0218488501000971 [ Links ]

Herrera, F., & Martínez, L. (2001b). A model based on linguistic 2-tuples for dealing with multigranular hierarchical linguistic contexts in multi-expert decision-making. IEEE Transactions on Systems, Man, and Cybernetics, Part B: Cybernetics, 31(2), 227-234. doi: 10.1109/3477.915345 [ Links ]

Kühnen, M., & Hahn, R. (2017). Indicators in social life cycle assessment: a review of frameworks, theories, and empirical experience. Journal of Industrial Ecology, 21(6), 1547-1565. doi: 10.1111/jiec.12663 [ Links ]

Martínez, L., Rodríguez, R. M., & Herrera, F. (2015). The 2-tuple linguistic model. Computing with words in decision making. New York, USA: Springer. doi: 10.1007/978-3-319-24714-4 [ Links ]

Mendel, J. M., Zadeh, L. A., Trillas, E., Yager, R., Lawry, J., Hagras, H., & Guadarrama, S. (2010). What computing with words means to me: Discussion forum. IEEE Computational Intelligence Magazine, 5(1), 20-26. doi: 10.1109/MCI.2009.934561 [ Links ]

Montes, R., Sánchez, A. M., Villar, P., & Herrera, F. (2015). A web tool to support decision making in the housing market using hesitant fuzzy linguistic term sets. Applied Soft Computing Journal, 35, 949-957. doi: 10.1016/j.asoc.2015.01.030 [ Links ]

Montignac, F., Mousseau, V., Bouyssou, D., Aloulou, M. A., Rousval, B., & Damart, S. (2015). An MCDA approach for evaluating hydrogen storage systems for future vehicles. In R. Bisdorff, L. C. Dias, P. Meyer, V. Mousseau, & M. Pirlot (Eds.), Evaluation and decision models with multiple criteria (pp. 501-532). Switzerland: Springer. doi: 10.1007/978-3-662-46816-6 [ Links ]

Pei, Z., Ruan, D., Liu, J., & Xu, Y. (2009). Linguistic based intelligent information processing: Theory, mehtods, and applications. Amsterdam - Paris: Atlantis Press. [ Links ]

Pirlot, M., Teghem, J., Ulungu, D., Bulens, P., & Goffin, C. (2015). Choosing a cooling system for a power plant in Belgium. In R. Bisdorff , L. C. Dias , P. Meyer , V. Mousseau, & M. Pirlot (Eds.), Evaluation and decision models with multiple criteria (pp. 221-258). Switzerland: Springer . doi: 10.1007/978-3-662-46816-6 [ Links ]

Rodríguez, R. M., & Martínez, L. (2013). An analysis of symbolic linguistic computing models in decision making. International Journal of General Systems, 42(1), 121-136. doi: 10.1080/03081079.2012.710442 [ Links ]

Torres, A., & Tranchita, C. (2014). ¿Inferencia y razonamiento probabilístico o difuso? Revista de Ingeniería, 19, 158-166. Retrieved from https://ojsrevistaing.uniandes.edu.co/ojs/index.php/revista/article/view/450Links ]

Vignesh, S., Ali Elibaid, O. B., Mera, B., Arokiadoss, A. P., Muthukumar, K., Santhosh, M., & James, R. A. (2017). Assessment of pollution indicators and antibiotic resistant pattern on contaminated canned juice. In S. Vignesh & A. P. Arokiadoss (Eds.), Statistical approaches on multidisciplinary research (pp. 110-117). Surragh Publishers. doi: 10.5281/zenodo.262976 [ Links ]

Wang, C. N., Yang, C.-Y., & Cheng, H.-C. (2019). A Fuzzy Multicriteria Decision-Making (MCDM) model for sustainable supplier evaluation and selection based on triple bottom line approaches in the garment industry. Processes, 7(7), 1-13. doi: 10.3390/pr7070400 [ Links ]

Whitehead, J. (2017). Prioritizing sustainability indicators: Using materiality analysis to guide sustainability assessment and strategy. Bussiness Strategy and the Environment, 26(3), 399-412. doi: 10.1002/bse.1928 [ Links ]

Recibido: 17 de Junio de 2020; Aprobado: 11 de Marzo de 2021

Creative Commons License This is an open-access article distributed under the terms of the Creative Commons Attribution License