Introducción
La educación superior (ES) es considerada motor fundamental para el desarrollo sostenible. Asimismo, se reconoce como un bien público y como un derecho fundamental (UNESCO, 1998; UNESCO, 2015). En México, la matrícula de ES ha crecido de manera acelerada, transitó de tener 935 mil estudiantes en 1980 a poco más de 4 millones registrados en licenciatura en 2017 (Mendoza, 2018). En este contexto, la evaluación se ha configurado como una estrategia privilegiada para apoyar el cumplimiento de las metas para garantizar una educación inclusiva, equitativa y de calidad.
Los diversos programas que una institución de educación superior (IES) pone a disposición de los estudiantes para su tránsito en la universidad se concretan en el modelo educativo. Un modelo educativo: “es un esquema teórico que presenta de manera sintética el enfoque educativo de una institución y permite visualizar sus fundamentos, estructura y métodos, y con ello establece las bases para su instrumentación” (Fresán, Moreno, Hernández, Fabre et al., 2017:16). Además, sirve de referencia para todas las funciones que cumple la IES (docencia, investigación, extensión, vinculación y servicios), con el fin de hacer realidad su proyecto educativo (Tünnerman, 2008). Por tanto, el constructo modelo educativo articula, por un lado, el conjunto de programas dirigidos a la atención de los estudiantes y, por otro, los destinados al profesorado que orientan su actividad docente.
En México, la concreción de los modelos educativos se generalizó a partir de 2006, año en que distintas IES publicaron sus modelos (Fresán et al., 2017). Después de más de una década de su implementación, poco se conoce sobre: a) en qué medida se han implementado de acuerdo con su diseño original; b) sobre su entorno, su funcionamiento, sus efectos y la coherencia entre sus partes; y c) la comparación entre los efectos previstos y sus objetivos y finalidades. Es decir, sobre ejercicios de evaluación sistemática que orienten medidas para la mejora del funcionamiento de los distintos programas que integran a los modelos educativos. Desde esta perspectiva, el propósito de este estudio es presentar la aproximación metodológica de una evaluación formativa del modelo educativo de una universidad pública en México.
Fundamentación teórica
Las dos funciones críticas de la evaluación son ampliamente aceptadas. La función formativa (denominada también evaluación intermedia o de proceso) es realizada durante el desarrollo de un programa, evento o persona con el fin de mejora y, generalmente, conducida más de una vez; y la función sumativa (también llamada de resultado, final o de producto) se efectúa al finalizar el programa o evento, la cual proporciona información de los resultados obtenidos, con el propósito de determinar el valor del producto final (Scriven, 1991; Jornet, Leyva y Sánchez, 2009). Aunque pareciera obvio que en las IES se realicen tanto evaluaciones de tipo formativo como sumativo, lo que es un hecho es la dominancia de las evaluaciones sumativas sobre las orientadas a conocer el funcionamiento de los procesos para retroalimentar y mejorar el sistema.
En la actualidad existe una variedad de enfoques de evaluación de programas, también denominados modelos o aproximaciones, que pueden agruparse con base en sus características básicas (House, 2000). Si bien estos aluden a una elaboración ideal sujeta a las contingencias propias de cada evaluación, los modelos proporcionan marcos de referencia a seguir en función de los objetivos de evaluación, los evaluadores, y los procedimientos y diseños de evaluación (Darwin, 2012; Ramzan, 2015; Stufflebeam y Shinkfield, 2007).
Entre los enfoques de evaluación se encuentra el de evaluación comprensiva, de acuerdo con Stake (2006), es una forma de buscar y documentar la calidad de un programa. El rasgo que le distingue es la “comprensividad (receptividad o sensibilidad) de cuestiones o problemas clave” (p. 144), en especial los experimentados por los usuarios del programa. Además, corresponde a una evaluación flexible en la medida que adapta los propósitos de la evaluación a las características del programa y el contexto; también se propone la interacción con las distintas audiencias. Asimismo, suscribe el punto de vista posmoderno, donde no existen respuestas verdaderas o mejores, ni valores preferibles (Stufflebeam, 2001). En este sentido no hay una verdad absoluta, el papel del evaluador es el de mediador entre las diferentes perspectivas.
Desde la perspectiva de la aproximación comprensiva, el Modelo para la Evaluación de las Condiciones Contextuales (MECC), de Canales, Leyva, Luna y Rueda (2014), tiene el propósito de orientar una indagación sistemática y ordenada de los factores de contexto, con el fin de identificar las acciones que guíen la mejora de la enseñanza. El MECC clasifica los factores y variables contextuales en los que se desarrolla la actividad docente y el aprendizaje en tres niveles: macro, meso y micro. El macro corresponde al entorno de las políticas nacionales e internacionales que orientan los propósitos, planes y programas generales de las IES en relación con la actividad docente; el meso considera las condiciones institucionales bajo las cuales se desarrolla el trabajo docente, como los planes y programas institucionales, condiciones laborales de los docentes, organización académica, características del trabajo docente e infraestructura y equipamiento de la institución; el nivel micro se circunscribe a las condiciones del aula que afectan la práctica docente en términos de infraestructura y equipamiento, características del profesor y características del alumno. De esta manera permite organizar la diversidad de iniciativas dirigidas a maestros y estudiantes.
La aproximación general del MECC, de clasificar y analizar los factores y variables contextuales en niveles macro, meso y micro, ha sido probada en distintas universidades de Iberoamérica (México, Argentina, Venezuela y España) tanto en instituciones públicas como privadas; una constante en estos ejercicios ha sido el uso de distintas estrategias para obtener información, tales como: análisis de documentos, grupos focales, entrevistas y cuestionarios dirigidos a directivos, docentes y estudiantes -como una manera de evidenciar la calidad de la enseñanza y el aprendizaje desde la perspectiva de los distintos actores (Cisneros, Contreras y López, 2016; Fernández Lamarra, Mundt, Tommasi, Martinchuk et al., 2016; González-Such, Sancho-Álvarez y Bakieva, 2016; Rueda, Canales y Leyva, 2016).
En México, la experiencia documentada sobre evaluación de programas se concentra en el marco de la acreditación de programas educativos y data de 1991, con la creación de los Comités Interinstitucionales para la Evaluación de la Educación Superior (CIEES), las funciones asignadas a los CIEES son apoyar a las IES para mejorar la calidad de la institución en su conjunto, y en particular de sus programas educativos; entre los indicadores que se evalúan se encuentran: plan de estudios, personal académico y actividades, infraestructura y equipamiento, alumnos, aspectos académico-administrativos y actividades de vinculación (De la Garza, 2013). Los beneficios para las IES públicas, asociados a este tipo de evaluación, por un lado se relacionan con la asignación de recursos extraordinarios a través del Programa de Fortalecimiento de la Calidad Educativa (PFCE), y por otro, con el prestigio y reconocimiento social que se obtiene al contar con un mayor número de programas integrados al padrón de programas de calidad de los CIEES. En consecuencia, este tipo de evaluación tiene primordialmente funciones sumativas.
Desde otra perspectiva, el trabajo de Fresán et al. (2017) tuvo el propósito de estudiar la apropiación de los modelos educativos de seis IES públicas del país (universidades autónomas de Baja California, de la Ciudad de México, Benemérita de Puebla, de Aguascalientes, y Metropolitana en sus unidades Xochimilco y Cuajimalpa). A través de entrevistas a informantes clave, como funcionarios de la administración central y académicos, se cuestionó acerca del impacto del modelo educativo en las trayectorias escolares. Se indagó su percepción sobre alguna mejora en los indicadores de retención, rezago, eficiencia terminal y eficiencia en la obtención del grado atribuible al modelo educativo. Además, se preguntó sobre la homogeneidad en la operación del modelo de forma institucional y por áreas del conocimiento. Se encontró que prevalece el interés institucional por mantener una identidad propia al tiempo que se busca cumplir con las demandas impulsadas por las políticas educativas, se observaron problemas no resueltos en los procesos de socialización y apropiación de los modelos educativos por parte de los docentes.
En la consideración de que la calidad de la enseñanza involucra no solo la interacción entre el profesor y el alumno, también comprende el conjunto de programas dirigidos al profesorado, a la atención del estudiante, así como la infraestructura y el equipamiento que la institución pone a disposición de ellos para el desarrollo de la formación profesional. Al mismo tiempo, desde la perspectiva de una regulación pedagógica que se dirige a mejorar el funcionamiento y los resultados de los distintos programas y actividades que integran un sistema educativo (D’Hainaut, 1988), se desarrolló el presente trabajo, de acuerdo con los siguientes objetivos.
El objetivo general fue presentar la aproximación metodológica de una evaluación formativa del modelo educativo de una universidad pública. Los objetivos específicos fueron:
Identificar los componentes esenciales del modelo educativo de la Universidad Autónoma de Baja California (UABC) dirigidos a la formación integral de los estudiantes, su permanencia, tránsito y egreso.
Desarrollar instrumentos de evaluación formativa del modelo educativo de la universidad.
Evaluar el modelo educativo con base en la opinión de los estudiantes.
Características del contexto
La UABC es la institución de educación superior pública más importante de Baja California. Se caracteriza por ser descentralizada en cuanto a su oferta educativa. En el segundo periodo de 2017 ofertó 132 programas de licenciatura y 46 de posgrado, con una matrícula de estudiantes de 63 mil 495 y mil 719, respectivamente; en total 65 mil 214 estudiantes. Asimismo, cuenta con mil 631 profesores de tiempo completo (26.5% de la planta docente), 72 de medio tiempo (1.1%), 4 mil 471 profesores de asignatura (72.4%) y 3 mil 508 empleados administrativos (UABC, 2018a). El presupuesto de 2018 provino del subsidio federal (40%), subsidio estatal (40%) e ingresos propios (20%) (UABC, 2018b).
A partir de la gestión rectoral 2002-2006, la UABC realizó una profunda reestructuración académica y administrativa, y se establecieron políticas en torno a la atención del estudiante mediante iniciativas de servicios de apoyo durante su estancia en la institución. Se implementó el sistema integral de tutorías, la promoción de la movilidad estudiantil y de actividades deportivas y culturales. Asimismo, en 2006 la UABC adoptó un modelo educativo con la modalidad de enseñanza por competencias. Desde esa fecha se ha impulsado la consolidación de los programas y del propio modelo, el cual fue reestructurado en 2013 (UABC, 2013).
Los problemas que enfrenta la institución, relacionados con el rendimiento académico de los estudiantes, se ven reflejados en la tasa de rezago por reprobación, en el primer semestre de 2016 fue de 58.9%, de la cual 35.6% corresponde a estudiantes en nivel 3 (UABC, 2018a). Al respecto, cabe precisar que el nivel de rezago se encuentra sujeto al número de asignaturas reprobadas en ordinario y extraordinario en el mismo periodo semestral; de esta manera, el nivel 1 indica una asignatura reprobada; el 2 corresponde a dos reprobadas y el 3 implica tres o más asignaturas reprobadas. Además, en este periodo la tasa de retención de alumnos de una cohorte de ingreso que permanece inscrita en el programa educativo al inicio del tercer semestre posterior a su ingreso fue de 78%, lo que indica que al concluir el primer año universitario se va el 22% del total de estudiantes que ingresaron (UABC, 2018a).
En este contexto se hace necesario evaluar los programas y las acciones que integran el modelo educativo de la UABC con el fin de mejorar su funcionamiento.
Método general
La presente investigación se ubica en el campo de la evaluación educativa y corresponde a un estudio de caso realizado a partir del enfoque de la evaluación comprensiva, se utilizaron técnicas de análisis de contenido desde la perspectiva de Holsti (1969) y grupos de discusión en los que se buscó el acuerdo intersubjetivo de los participantes (Jornet, Such, Suárez y Perales, 2011; Krueger y Casey, 2015), así como técnicas psicométricas para el desarrollo de los cuestionarios.
Los materiales utilizados fueron: Curso de inducción a los alumnos de nuevo ingreso, Manual del instructor y Cuadernillo de ejercicios, Lineamientos del Programa de Servicio Social Comunitario, Lineamientos del Programa de Tutorías, Modelo educativo (2013), Plan de Desarrollo Institucional UABC (2015-2019), Programa de Actividades Optativas de Formación Integral con Valor en Créditos, Programa de Formación Profesional y Vinculación, Programa de Intercambio Estudiantil, Programa de Orientación Educativa y Psicopedagógica, Programa Institucional de Valores, Reglamento General de Bibliotecas, Reglamento de Becas y Programa Universitario de Becas.
El trabajo se desarrolló a través de tres estudios: el primero presenta el método para la identificación de los componentes esenciales del modelo educativo orientados a la atención y formación de los estudiantes en la universidad; el segundo muestra el desarrollo de los instrumentos de evaluación formativa del modelo, y el tercero describe la experiencia de evaluación del modelo educativo.
Estudio 1. Identificación de los componentes del modelo educativo orientados a la atención y formación de los estudiantes
El objetivo específico de este estudio fue identificar los componentes esenciales del modelo educativo dirigidos a la formación integral de los estudiantes, su permanencia, tránsito y egreso.
Participantes
Participaron en este estudio tres funcionarios de la administración central responsables de la coordinación de Planeación Institucional y de las coordinaciones de Etapa Básica, y Formación Profesional y Vinculación. Se incluyeron en virtud de que son los responsables institucionales de la implementación de los programas de atención al estudiante.
Procedimiento
La estructuración del trabajo de investigación se hizo de acuerdo con la propuesta de Canales et al. (2014), quienes postulan niveles meso y micro para el análisis del contexto institucional. En el nivel meso se abordaron las condiciones institucionales que configuran la actividad de los estudiantes y en el micro las condiciones del aula que influyen de manera directa en el proceso enseñanza y aprendizaje (Rueda, Canales, Leyva y Luna, 2014). De acuerdo con esta lógica se procedió de la manera que se describe a continuación.
Fase 1. Determinación de los componentes que integran el modelo educativo
Se realizó a través de dos vías, por un lado, se analizó el modelo educativo con el propósito de ubicar los programas y elementos que lo integran; y por otro, se efectuó una búsqueda exhaustiva en la página de Internet de la universidad para identificar los programas y elementos que promueven la formación integral de los estudiantes, su permanencia, tránsito y egreso, así como los documentos que norman dichos componentes.
Fase 2. Caracterización de los componentes
Con el propósito de delimitar la finalidad de los componentes esenciales, los documentos fueron analizados con base en la estrategia de análisis de contenido inductivo. De manera general, el procedimiento se desarrolló con la siguiente secuencia: a) identificación de las secciones del material a analizar: en cada uno se registraron secciones específicas en relación con el tema objeto de estudio, la formación y atención de los estudiantes; b) separación de las unidades de análisis: se consideraron los fragmentos del texto que aluden a los temas objeto de estudio; c) identificación de las dimensiones, subdimensiones, categorías y subcategorías de acuerdo con los criterios establecidos por Holsti (1969); esto es, cumplir con los requisitos de exhaustividad (cubrir todas las unidades de análisis), exclusión mutua (un segmento de texto no puede pertenecer simultáneamente a más de una categoría) y único principio clasificatorio (las categorías deben elaborarse de acuerdo con un solo criterio de ordenación y clasificación). Así, las unidades de análisis se ubicaron en diferentes dimensiones, subdimensiones, categorías y subcategorías dependiendo de su significado.
Además, se entrevistó a los responsables institucionales de los programas con el fin de corroborar la relación de programas y elementos, así como los documentos a revisar.
Resultados
Se encontró que el modelo educativo de la UABC organiza la formación profesional en tres etapas: básica, disciplinaria y terminal. De manera general, la básica corresponde a los tres primeros semestres (una excepción es el plan de Medicina que integra cinco semestres), además, se conforma por el tronco común que es de uno o dos semestres; la etapa disciplinaria involucra tres semestres y la terminal, dos. Respecto de los componentes del modelo educativo dirigidos a los estudiantes se encontraron dos momentos definidos en función de las etapas curriculares; por un lado, los que corresponden a la básica, y por otro, los correspondientes a la disciplinaria y la terminal. Se identificaron tres tipos de componentes: a) programas institucionales de atención a los estudiantes; b) elementos curriculares y extracurriculares; y c) servicios y equipamiento (la clasificación de cada componente se describe en la Tabla 1). Así, los dos momentos delimitados por las etapas curriculares definen una serie de programas, elementos curriculares y no curriculares, así como servicios propios de la etapa curricular en la que se encuentran los estudiantes, como es el caso del curso de inducción a la universidad y el servicio social comunitario correspondientes a la básica, o el programa de intercambio estudiantil propio de las etapas disciplinaria y terminal; además, se identificaron programas que se mantienen a lo largo de toda la formación, identificados como transversales a las etapas, por ejemplo, el programa de tutorías y el de orientación educativa; así como los servicios y equipamiento.
Componentes | Descripción | Dimensión | Momento |
---|---|---|---|
Programas Institucionales de Atención al Estudiante | Integra los programas de atención y acompañamiento a los estudiantes |
1) Programa de tutorías | T |
2) Programa de orientación educativa y psicopedagógica | T | ||
3) Programa de becas | T | ||
4) Programa de asesorías académicas | T | ||
5) Programa de intercambio académico | EDyT | ||
6) Programa institucional de valores | T | ||
Elementos curriculares y extracurriculares | Incluye elementos curriculares y extracurriculares que apoyan la formación de los estudiantes |
7) Curso de inducción | EB |
8) Atención a estudiantes con capacidades diferentes | T | ||
9) Modalidades de aprendizaje con valor curricular | EDyT | ||
10) Actividades culturales y deportivas | T | ||
11) Promoción del aprendizaje de una lengua extranjera | T | ||
12) Servicio social comunitario | EB | ||
13) Servicio social profesional | EDyT | ||
14) Prácticas profesionales | EDyT | ||
15) Proyectos de vinculación con valor en créditos | EDyT | ||
16) Bolsa de trabajo | EDyT | ||
17) Emprendimiento | EDyT | ||
Servicios y Equipamiento | Integra los elementos relacionados con los servicios y
equipo que inciden en la formación de los estudiantes |
18) Servicios bibliotecarios | T |
19) Servicio de cómputo y equipo | T | ||
20) Laboratorios | T |
T= transversal; EB= etapa básica; EDyT= etapas disciplinar y terminal.
Fuente: Elaboración propia.
En relación con el nivel micro, la Tabla 2 presenta los aspectos a ser considerados.
Descripción | Dimensión |
---|---|
Esta dimensión integra los aspectos institucionales que atañen a los estudiantes e inciden de forma directa en el proceso de enseñanza y aprendizaje, tales como: programa o plan de estudios, características de los docentes de acuerdo con su perfil y experiencia docente, características de los grupos en relación con su tamaño, nivel académico e intereses profesionales; condiciones materiales del aula y clima del aula | Elementos que repercuten en el proceso de enseñanza y aprendizaje |
Fuente: Adaptada de Canales et al. (2014).
Comentarios
Este estudio permitió identificar y clasificar los componentes del modelo educativo de la universidad, los cuales se encuentran dispersos en el complejo entramado administrativo.
Los resultados revelaron dos momentos definidos en la formación de los estudiantes: por un lado, la etapa básica, y por otro el conformado por las etapas disciplinaria y terminal (en estas últimas se accede a los componentes del modelo de manera indistinta). En virtud de estos resultados, se concluyó que una evaluación del modelo educativo debe considerar esta diferenciación.
Estudio 2. Desarrollo de los cuestionarios de evaluación del modelo educativo con base en la opinión de los estudiantes
El objetivo específico del estudio 2 fue desarrollar instrumentos de evaluación del modelo educativo con base en la opinión de los estudiantes.
Con base en los resultados derivados del estudio 1 se optó por desarrollar un cuestionario de evaluación del modelo educativo de los componentes propios de la etapa básica y otro para las etapas disciplinaria y terminal.
A continuación se describe el procedimiento seguido para cada uno de estos instrumentos.
Participantes
A lo largo del trabajo se contó con la participación de dos grupos de informantes: jueces expertos y usuarios.
Jueces expertos, integrado por cuatro funcionarios de la administración central responsables del diseño e implementación de los programas de atención al estudiante. Se contó con la colaboración de los coordinadores de Planeación Institucional, etapas básica, disciplinaria y terminal; así como del director de la Facultad de Pedagogía e Innovación Educativa de la UABC. El criterio de invitación obedeció a que son los responsables institucionales de la operación de los programas.
Usuarios, conformado por dos tipos de usuarios: especializados y de base. El grupo de los primeros estuvo integrado por seis jefes de departamento, tres correspondientes a la etapa básica, y tres de la disciplinaria y la terminal, quienes coordinaron la implementación de los programas en cada uno de los tres campus de la universidad; y 20 usuarios de base, docentes responsables de implementar dichos programas en las facultades de Ciencias Administrativas, Ciencias Químicas, Ciencias Humanas, Enología y Gastronomía, Ingeniería, Idiomas, Medicina y Turismo.
En la integración de los grupos de participantes se propuso incluir informantes con diferentes niveles de responsabilidad institucional y diversidad del conocimiento respecto del objeto de estudio (Cabero y Llorente, 2013; Lynn, 1986); y dado que no existe acuerdo respecto del número de participantes (Hyrkäs, Appelqvist-Schmidlechner y Oksa, 2003) se optó por incluir diversidad de experiencias prácticas en función del contexto universitario.
Instrumentos de recogida de información
Se desarrollaron dos formularios de validación, el primero correspondió a la matriz de planeación del instrumento que incluye la valoración de cada dimensión, categoría, indicadores y reactivos en función de su relevancia (grado en que la información contenida en el indicador es importante para evaluar la dimensión correspondiente); claridad (grado en que el indicador comunica de manera clara y directa la información; es decir, que no admite más de una interpretación posible); y suficiencia (grado en que se incluyen los indicadores necesarios para evaluar cada dimensión) (Sireci y Faulkner-Bond, 2014); en una escala de 4 a 1, en la que 4 representa la máxima valoración y 1 la mínima. El formulario dos se utilizó para el cuestionario, por lo que incluyó los reactivos correspondientes a cada dimensión, de acuerdo con los criterios de relevancia, claridad y suficiencia; además de un sistema de captura electrónico de la información derivada de cada formulario.
Materiales
Se utilizaron los productos derivados en el estudio anterior: 1) la clasificación de los componentes del nivel meso (ver Tabla 1) y 2) la clasificación de los aspectos del nivel micro, así como los documentos que norman cada dimensión (enunciados en el apartado de método general). Además, se emplearon grabadoras de audio para registrar las sesiones de trabajo.
Procedimiento
Primero se trabajó el cuestionario correspondiente a la etapa básica y posteriormente se replicó el procedimiento en el desarrollo del cuestionario de las etapas disciplinaria y terminal.
Desarrollo del cuestionario de la etapa básica
Fase 1. Desarrollo de la matriz de planeación del cuestionario. La matriz se estructuró a partir de cada componente y dimensión (producto del estudio 1), se derivaron categorías e indicadores y se desarrollaron los reactivos en forma de proposiciones. El contenido integrado en las categorías e indicadores procedió del análisis inductivo de los documentos normativos de cada programa. El análisis privilegió identificar las unidades esenciales que definen a cada dimensión (ver, más adelante, Tabla 3), en la consideración de que cada dimensión se encuentra estructurada por un número finito de unidades, de las cuales unas son esenciales y otras colaterales (Gresham, 1989).
Componentes | Dimensión |
---|---|
Programas institucionales de atención al estudiante | 1) Programa de tutorías, 2) Programa de orientación educativa y psicopedagógica, 3) Programa de becas, 4) Programa de asesorías académicas, 5) Programa institucional de valores |
Elementos | 6) Curso de inducción, 7) Atención a estudiantes con capacidades diferentes, 8) Actividades culturales y deportivas, 9) Promoción del aprendizaje de una lengua extranjera, y 10) Servicio social comunitario |
Servicios y equipamiento | 11) Servicios bibliotecarios, 12) Servicio de cómputo y equipo, 13) Laboratorios |
Condiciones del aula | 14) Elementos que repercuten en el proceso enseñanza y aprendizaje |
Fuente: elaboración propia.
De acuerdo con esta lógica, se realizó la primera versión de la matriz de planeación del instrumento.
Fase 2. Validación de contenido. El proceso de validación de contenido de la matriz de planeación se desarrolló en dos etapas: en la primera, el comité de expertos valoró la matriz de planeación, se les pidió que revisaran cada elemento de la planeación (dimensiones, categorías, indicadores y reactivos) de acuerdo con los criterios de relevancia, claridad y suficiencia. Se llevaron a cabo sesiones de trabajo colegiado donde el procedimiento general consistió en proporcionar una explicación de la tarea a realizar y del formulario de trabajo; capturar y procesar en un documento electrónico Excel diseñado ex profeso las respuestas de los jueces, a partir del cual se calcularon los promedios de calificación proporcionados a cada elemento (escala de 4 a 1). Los elementos cuestionados por los jueces fueron sometidos a discusión grupal, donde se privilegió llegar a consensos sobre las modificaciones a realizar. Cada dimensión se validó de manera secuencial. Así, se elaboró la segunda versión de la matriz de planeación a partir de la cual se estructuró el cuestionario.
La segunda etapa fue de validación por los usuarios especializados y de base de la segunda versión del cuestionario, el formulario de validación incluyó los componentes del cuestionario; es decir, dimensiones y reactivos. La valoración siguió la misma dinámica descrita con anterioridad. El cuestionario se modificó en función de las observaciones acordadas por consenso, el producto de esta etapa es la tercera versión del cuestionario.
Fase 3. Análisis de consistencia interna. Se obtuvo el coeficiente alfa de Cronbach para medir la confiabilidad de los puntajes con el programa SPSS (versión 17). Los puntajes corresponden a la aplicación de la prueba descrita en el estudio 3.
Desarrollo del cuestionario de las etapas disciplinaria y terminal
De manera general, se siguió el mismo procedimiento descrito en las fases 1 y 2 con los materiales de las dimensiones correspondientes a las etapas disciplinaria y terminal. Los participantes que integraron el comité de expertos y usuarios fueron los vinculados con el funcionamiento de estas etapas.
En virtud de que los documentos que describen los propósitos y características de los programas transversales no hacen distinción alguna en función de las etapas curriculares, se optó por utilizar los reactivos desarrollados para la etapa básica en este cuestionario, asimismo, fueron incluidos para su validación.
Resultados
Cuestionario de evaluación del modelo educativo con base en la opinión de los alumnos de la etapa básica
De acuerdo con la organización de los componentes de la etapa básica (ver Tabla 1), la clasificación de las dimensiones de este cuestionario se presenta en la Tabla 3.
La Tabla 4 presenta, a manera de ejemplo, la matriz de planeación correspondiente a la dimensión Programa de tutorías, cada dimensión incluye una breve descripción de la misma, las categorías con sus respectivos indicadores y reactivos (se presenta la última versión). Cabe mencionar que el conjunto de reactivos agrupados por dimensión son los que integraron el Cuestionario de Evaluación del Modelo Educativo dirigido a los estudiantes de etapa básica.
Descripción: tiene por propósito orientar y auxiliar a los alumnos para que diseñen un programa de actividades académicas curriculares y extracurriculares que favorezca su formación integral y logre el perfil profesional deseado | ||
Categoría | Indicador | Reactivo |
Actividades del tutor | Brinda información de tipo académico-administrativo relevante | En el transcurso del semestre me reúno con mi tutor al menos dos veces |
Mi tutor me facilitó información sobre los procesos administrativos que debo realizar (reinscripción, pasos para acreditar el servicio social comunitario, registro en el IMSS, entre otros) | ||
Mi tutor me ha brindado información sobre el estatuto escolar | ||
Presenta información sobre la estructura y organización del plan de estudios | Mi tutor me ha brindado información acerca del plan de estudios | |
Mi tutor me ha brindado información acerca de las diversas modalidades y formas para obtener créditos (deportivas y culturales, aprendizaje de una lengua extranjera, optativas de etapa básica, movilidad dentro de la UABC) | ||
Mi tutor me ha brindado información sobre reglamentos universitarios (servicio social comunitario, tribunal universitario, etc.) | ||
Atiende la actividad de tutoría acorde a las necesidades de los tutorados | Mi tutor habilita en tiempo y forma las unidades de aprendizaje en el sistema para que pueda reinscribirme | |
Si solicitara tutorías adicionales mi tutor me atendería | ||
Mi tutor me motiva a continuar con mis estudios | ||
Actividad de la unidad académica | Proporciona capacitación en el uso del SIT | He recibido capacitación para el uso del Sistema Institucional de Tutorías (SIT) |
Actividades del alumno | Participa el alumno en la tutoría | He actualizado oportunamente la información solicitada en el SIT |
Atiendo las sesiones de tutorías que me son requeridas | ||
Si mi tutor me canalizara a alguna área universitaria acudiría a esta | ||
Valoración del programa | Incluye la evaluación del alumno a actividad de tutoría y el programa | Participo en los procesos de evaluación de las tutorías |
Las tutorías han favorecido mi permanencia en la carrera | ||
Estoy satisfecho con el trabajo de mi tutor | ||
Estoy satisfecho con el SIT | ||
Estoy satisfecho con el programa de tutorías |
Fuente: Adaptada de Rosales (2015).
En el proceso de construcción de los acuerdos con los usuarios sobre las unidades esenciales a incluir en el cuestionario se convinieron modificaciones de fondo relativas a la inclusión u omisión de unidades, como se puede observar en la Tabla 5, donde se presenta el número de reactivos por dimensión correspondiente a cada una de las versiones del Cuestionario de Evaluación de Modelo Educativo.
Dimensión | Reactivos | ||
---|---|---|---|
V1 | V2 | V3 | |
1) Curso de inducción | 5 | 10 | 9 |
2) Programa de tutorías | 18 | 19 | 18 |
3) Programa de orientación educativa y psicopedagógica | 5 | 6 | 5 |
4) Programa de becas | 7 | 8 | 7 |
5) Programa de asesorías académicas | 2 | 3 | 3 |
6) Atención a estudiantes con capacidades diferentes | 4 | 4 | 2 |
7) Actividades culturales y deportivas | 5 | 6 | 6 |
8) Promoción del aprendizaje de una lengua extranjera | 2 | 3 | 3 |
9) Programa institucional de valores | 5 | 7 | 7 |
10) Servicio social comunitario | 5 | 8 | 7 |
11) Servicios bibliotecarios | 10 | 11 | 11 |
12) Servicio de cómputo y equipo | 9 | 10 | 11 |
13) Laboratorios | 11 | 11 | 9 |
14) Elementos que repercuten en el proceso enseñanza y aprendizaje | 20 | 22 | 17 |
Totales | 108 | 128 | 115 |
Nota: V1= versión 1; V2= versión 2 y V3= versión 3.
Fuente: Elaboración propia.
Así, el cuestionario quedó integrado por 14 dimensiones y 115 reactivos, además de una sección de datos generales que permite identificar el programa de estudio clasificado por área de conocimiento y características personales de los estudiantes (Tabla 6). La consistencia interna alfa de Cronbach del cuestionario registró un índice de .997. De manera general, las dimensiones reportaron índices de .95 o más, con excepción de la correspondiente a Programa de asesorías académicas, con .751.
Característica | Definición |
---|---|
Nombre | Cuestionario de evaluación del modelo educativo de la UABC. Etapa básica |
Población objetivo | Estudiantes de etapa básica |
Uso | Evaluación formativa |
Forma de administrar | Plataforma en línea |
Usuarios | Directivos de la IES |
Integración | |
Dimensiones | Ítems |
1) Curso de inducción | 9 |
2) Programa de tutorías | 18 |
3) Programa de orientación educativa y psicopedagógica | 5 |
4) Programa de becas | 7 |
5) Programa de asesorías académicas | 3 |
6) Atención a estudiantes con capacidades diferentes | 2 |
7) Actividades culturales y deportivas | 6 |
8) Promoción del aprendizaje de una lengua extranjera | 3 |
9) Programa institucional de valores | 7 |
10) Servicio social comunitario | 7 |
11) Servicios bibliotecarios | 11 |
12) Servicio de cómputo y equipo | 11 |
13) Laboratorios | 9 |
14) Elementos que repercuten en el proceso enseñanza y aprendizaje | 17 |
Total | 115 |
Tipo de respuesta: |
|
Fuente: Elaboración propia.
Cuestionario de las etapas disciplinaria y terminal
Las dimensiones que integran el cuestionario de las etapas disciplinaria y terminal corresponden, por un lado, a las dimensiones transversales, de servicios y equipamiento, y elementos que repercuten en el proceso de enseñanza y aprendizaje; y por otro, a las propias de estas etapas (ver Tabla 1).
La Tabla 7 presenta las dimensiones particulares de las etapas disciplinaria y terminal y el número de reactivos incluidos en cada versión del cuestionario. Las principales modificaciones fueron producto de las observaciones realizadas por los jueces expertos, quienes argumentaron inclusión de cinco reactivos más en las dimensiones de prácticas profesionales y servicio social profesional, más dos en proyectos de vinculación con valor en créditos y uno en intercambio estudiantil. Las observaciones de los usuarios se concentraron en proponer mejoras a la redacción de algunos reactivos.
Dimensión | Reactivos | ||
---|---|---|---|
V1 | V2 | V3 | |
1) Bolsa de trabajo | 2 | 2 | 2 |
2) Emprendimiento | 2 | 2 | 2 |
3) Modalidades de aprendizaje con valor curricular | 2 | 3 | 3 |
4) Prácticas profesionales | 3 | 8 | 8 |
5) Programa de intercambio estudiantil | 4 | 5 | 5 |
6) Proyectos de vinculación con valor en créditos | 4 | 6 | 6 |
7) Servicio social profesional | 3 | 8 | 8 |
Totales | 20 | 34 | 34 |
Nota: V1= versión 1; V2= versión 2 y V3= versión 3.
Fuente: Elaboración propia.
De esta manera, el cuestionario quedó integrado por 19 dimensiones y 133 reactivos, tal como se muestra en la Tabla 8.
Característica | Definición |
---|---|
Nombre | Cuestionario de evaluación del modelo tducativo de la UABC. Etapas disciplinaria y terminal |
Población objetivo | Estudiantes de las etapas disciplinaria y terminal |
Uso | Evaluación formativa |
Forma de administrar | Plataforma en línea |
Usuarios | Directivos de las IES |
Integración | |
Dimensiones | Ítems |
1) Programa de tutorías | 18 |
2) Programa de orientación educativa y psicopedagógica | 5 |
3) Programa de becas | 7 |
4) Programa de asesorías académicas | 3 |
5) Actividades culturales y deportivas | 6 |
6) Promoción del aprendizaje de una lengua extranjera | 3 |
7) Programa institucional de valores | 7 |
8) Servicios bibliotecarios | 11 |
9) Servicio de cómputo y equipo | 11 |
10) Laboratorios | 9 |
11) Atención a estudiantes con capacidades diferentes | 2 |
12) Elementos que repercuten en el proceso enseñanza y aprendizaje | 17 |
13) Bolsa de trabajo | 2 |
14) Emprendimiento | 2 |
15) Modalidades de aprendizaje con valor curricular | 3 |
16) Prácticas profesionales | 8 |
17) Programa de intercambio estudiantil | 5 |
18) Proyectos de vinculación con valor en créditos | 6 |
19) Servicio social profesional | 8 |
Total | 133 |
Tipo de respuesta |
|
Fuente: Elaboración propia.
El coeficiente alfa de Cronbach del cuestionario registró un índice de .996. En lo general, las dimensiones reportaron índices mayores a .95.
Comentarios
El método mostró el proceso seguido en la operacionalización de los constructos que integran cada una de las dimensiones del modelo educativo, así como el diseño de dos instrumentos para su evaluación. La identificación de las unidades críticas se derivó de lo estipulado en los documentos normativos de las dimensiones y la incorporación de la visión de los diversos actores. De esta manera, el método se orientó a identificar las unidades críticas para el funcionamiento de cada dimensión desde las perspectivas de los diversos usuarios, en este caso quienes forman parte de la administración central y los responsables de su implementación en las diversas facultades y escuelas de la universidad (así se buscó reunir la experiencia de los distintos tipos de usuarios).
Estudio 3. Evaluación del modelo educativo con base en la opinión de los estudiantes
El objetivo específico del estudio 3 fue evaluar el modelo educativo con base en la opinión de los estudiantes.
Participantes
Con el fin de conocer los resultados en contexto, se buscó representatividad de la población de estudiantes de las etapas básica así como disciplinaria y terminal, agrupados por área de conocimiento. Así, se trabajaron dos muestras, ambas autoseleccionada: por un lado, la de etapa básica, que correspondió a 7 mil 951 estudiantes, equivalente a 31.80% de la población inscrita en el segundo periodo semestral de 2015; por otro lado, la muestra de las etapas disciplinaria y terminal, de 8 mil 018 estudiantes, equivalente a 20.71% de la población inscrita en el primer periodo semestral de 2016.
Además, con el propósito de inferir la opinión de los estudiantes sobre el funcionamiento de las dimensiones que conforman el modelo educativo por área de conocimiento, unidad académica y programa educativo se establecieron cuotas al 20%, respectivamente. Al mismo tiempo, se consideró el hecho de que las unidades académicas ofertan varios programas educativos, a manera de ejemplo, la Facultad de Ciencias incluye los programas educativos de: Biólogo, Físico, licenciado en Matemáticas aplicadas y licenciado en Ciencias computacionales.
Procedimiento
La aplicación de cada cuestionario fue de tipo censal en formato electrónico de escritorio. La convocatoria la realizó la Coordinación de Formación Básica a través de los directores de las unidades académicas de la UABC. El periodo de aplicación fue en promedio de un mes para cada uno. En el procesamiento de la información se calculó el porcentaje de acuerdo por dimensión y reactivos de las muestras y submuestras; así como el correspondiente a la sección de datos generales.
Resultados
En cada muestra los resultados se organizaron en tres secciones, que corresponden a los estratos objeto de estudio: a) sección I: la muestra, b) sección II: la agrupación de los programas por área de conocimiento, y c) sección III: unidad académica y programa educativo. Esta lógica tiene el propósito de presentar la información global de la UABC, las particularidades de cada área de conocimiento y unidad académica hasta llegar a cada programa de estudios.
Los reportes que se generaron por sección fueron las siguientes. Sección I: resultados de la muestra UABC incluye: a) datos generales de la muestra b) resultados globales por dimensiones y c) resultados por reactivo de cada dimensión. Sección II: resultados de las submuestras por área de conocimiento contiene: a) datos generales de cada submuestra, b) resultados globales de cada submuestra, c) resultados por dimensión entre áreas de conocimiento y d) resultados por reactivo de cada dimensión. Sección III: resultados por unidad académica y programas de estudios: desglosa los resultados por unidad académica y programas de estudios de la unidad con base en: a) datos generales de la unidad académica, b) resultados globales de la unidad académica, c) resultados de cada dimensión, d) resultados por reactivo. Además, datos generales por programa, resultados globales de cada programa y resultados por dimensión y reactivo de cada programa.
A manera de ejemplo, se muestran los resultados derivados de la aplicación del cuestionario de etapa básica a los estudiantes del área de Ingeniería y tecnología. La Tabla 9 presenta los porcentajes de acuerdo respecto del funcionamiento de cada uno de los programas, donde de 0 a 59 se consideró deficiente, de 50 a 69 regular, de 70 a 79 aceptable y de 80 a 95 bueno.
Programas de atención al estudiante (etapa básica) | Valoración (%) |
---|---|
Elementos que repercuten en el proceso de enseñanza-aprendizaje | 81 |
Promoción del aprendizaje de una lengua extranjera | 78 |
Servicios bibliotecarios | 76 |
Programa Institucional de Valores (PIV) | 75 |
Programa de asesorías académicas | 74 |
Servicios de cómputo y equipo | 74 |
Laboratorios científicos | 74 |
Curso de inducción | 72 |
Atención a estudiantes con capacidades diferentes | 71 |
Servicio social comunitario | 67 |
Programa de orientación educativa y psicopedagógica | 62 |
Actividades culturales y deportivas | 62 |
Programa de becas | 49 |
Programas de tutorías | 40 |
Fuente: Elaboración propia.
Comentarios
La experiencia mostró la utilidad de contar con información sobre el funcionamiento de cada una de las dimensiones que conforman el modelo educativo en los diferentes estratos que integran a la institución. La evaluación global derivada de las muestras (estudiantes de etapa básica, y de las etapas disciplinaria y terminal) proporcionó la evaluación de cada dimensión para la institución en su conjunto; la derivada de las submuestras por área de conocimiento, unidad académica y programa proporcionó información particular de los diferentes contextos de aplicación. Así, la evaluación global aportó información a nivel de la institución de las dimensiones que funcionan de manera adecuada, aceptable, regular y deficiente; así como de las unidades críticas que lo integran. Esta información facilitó la toma de medidas remediales a nivel institucional. De igual modo, los resultados por área, por unidad académica o programa educativo permitieron acceder a las particularidades de cada contexto y tomar las medidas remediales de acuerdo con el mismo. Cabe comentar que en el caso de la UABC se encontró un comportamiento diferencial del funcionamiento de las dimensiones por área de conocimiento y unidad académica.
Los resultados fueron entregados a los distintos usuarios para su consideración en el diseño e implementación de medidas remediales.
Discusión y conclusiones
Este trabajo reconoce a la evaluación educativa como necesaria en la medida en que hace posible incrementar la comprensión sobre los estudiantes, el profesorado, los programas y servicios que se ofrecen; así como identificar los resultados y actuar en consecuencia para optimizar el funcionamiento del sistema (Phillips, 2018; Stufflebeam, 2001).
La evaluación formativa se caracteriza porque su objetivo es facilitar el mejoramiento de un programa (Scriven,1991). Desde esta perspectiva, una evaluación es formativa cuando los resultados se utilizan únicamente para retroalimentar el funcionamiento del objeto de evaluación con fines de mejora. En consecuencia, la calidad de la retroalimentación es un componente central, dado que no toda retroalimentación es efectiva, pues se requiere que oriente el tipo de respuestas esperadas, y no solo señale lo inadecuado (Martínez Rizo, 2012).
En México, desafortunadamente, existen escasas evidencias de trabajos de evaluación sistemática, dirigidos a la mejora del funcionamiento de los componentes que integran el modelo educativo de las IES. Se ha privilegiado la evaluación de los programas con una orientación eminentemente sumativa, asociada tanto a bolsas económicas como a prestigio y reconocimiento social (De la Garza, 2013). Esta dominancia ha limitado la incursión en evaluaciones formativas.
La aproximación metodológica de evaluación desarrollada en este trabajo se fundamentó en los principios de la evaluación formativa. Asimismo, parte de una visión de regulación pedagógica, donde el mejoramiento se logra a partir de acoplar los actos a sus fines y la armonización de cada parte del sistema con el sistema en su conjunto (D’Hainaut, 1988). Al mismo tiempo, reconoce la existencia de diferentes visiones en la implementación de un programa, por lo que se retomaron los planteamientos de Stake (2006) sobre evaluación comprensiva; en particular, la articulación de las diversas perspectivas se buscó a través del acuerdo intersubjetivo de los actores respecto de los elementos esenciales de cada dimensión que integra el modelo. Además, se reconoció la diversidad del contexto universitario en función de las áreas del conocimiento y las unidades académicas. Por último, la clasificación de los niveles meso y micro del MECC (Canales et al., 2014) orientó la indagación sobre los elementos contextuales que integran al modelo educativo.
Los productos de los tres estudios integran una estrategia de evaluación formativa del modelo educativo de la UABC. Esta se compone, en primer lugar, por la delimitación de los componentes del modelo; los resultados revelaron las particularidades del contexto de enseñanza de la institución, lo cual determinó la toma de decisiones tanto para el diseño de los instrumentos como para la aplicación de los mismos. En segundo término, por el desarrollo de los instrumentos de evaluación, en los que se enfatizó la integración de los lineamientos presentes en los documentos normativos con la perspectiva de los distintos tipos de usuarios. Conciliar ambas aproximaciones fue posible gracias al trabajo colegiado, donde se buscó el acuerdo intersubjetivo de los participantes (Jornet et al., 2011). En tercer lugar, la determinación de la población objeto de estudio y, en consecuencia, las muestras y submuestras de los diferentes estratos de la población, con el fin de acceder a la diversidad del contexto universitario. En cuarto lugar, la evaluación del modelo involucró el procesamiento de la información tanto para las muestras como submuestras, así como la entrega de los resultados a los diferentes usuarios (responsables institucionales y directores de unidad académica).
Este trabajo demostró la complejidad del constructo modelo educativo; trabajos anteriores dan cuenta de la diversidad de modelos existentes en el país y en Centroamérica (Tünnerman, 2008) y de acercamientos a su caracterización (Fresán et al., 2017). Al mismo tiempo, desde una perspectiva sistémica, hizo evidente que aproximarse a su evaluación se logró a través de la evaluación de cada una de sus partes (en este caso identificadas como dimensiones). De esta manera, se encontraron resultados diferenciales entre las dimensiones a nivel global (la universidad) y por dimensión entre áreas de conocimiento. Así, se demostró que el funcionamiento de cada una no es homogéneo en ninguno de los estratos estudiados. Por lo tanto, acceder a los contextos particulares se hace necesario para definir medidas remediales acordes a cada situación particular.
La estrategia de evaluación derivada de este estudio mostró que es factible la evaluación de los componentes importantes del modelo educativo. Sus resultados formaron parte de la retroalimentación que se proporcionó a los distintos usuarios a través de los reportes que se les entregaron. En este sentido, se generó retroalimentación de calidad que fundamentó la toma de medidas remediales a diferentes niveles de toma de decisiones (coordinadores de la administración central, directores de facultad y responsables de programas). Así, los resultados de la evaluación se utilizaron solo para identificar las fortalezas, debilidades y acciones de mejora para el funcionamiento de los programas.
Un cuestionamiento que surge es la periodicidad con que debe realizarse este tipo de trabajos de evaluación, en el caso particular de la UABC se propuso cada dos o cuatro años. La decisión depende de los programas de mejora a implementar a partir de la retroalimentación; es decir, las características del contexto determinan la frecuencia.
Si bien esta estrategia obtiene información de los estudiantes -destinatarios centrales del modelo educativo-, como en toda evaluación es necesario incorporar diferentes fuentes de información. En este sentido, incluir la visión de los docentes y directivos es una asignatura pendiente.
A 12 años de la implementación generalizada de los modelos educativos en las IES del país, una demanda es evaluar su pertinencia, fortalezas y debilidades con el fin de mejorar su funcionamiento. Atenderla desde la perspectiva de la evaluación formativa y una visión sistémica que identifica e integra a las diversas dimensiones que conforman el modelo, así como las particularidades de los contextos académicos hará posible articular esfuerzos para mejorar la calidad de la formación integral de los estudiantes durante su tránsito por la universidad.