SciELO - Scientific Electronic Library Online

 
vol.78 issue1Experience in the conservative and surgical treatment in children with sequels and emphysematous complications secondary to mechanical ventilation: series of cases and review of the literature author indexsubject indexsearch form
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Indicators

Related links

  • Have no similar articlesSimilars in SciELO

Share


Neumología y cirugía de tórax

Print version ISSN 0028-3746

Neumol. cir. torax vol.78 n.1 México Jan./Mar. 2019  Epub Nov 09, 2020

 

Trabajos originales

Evaluación de competencias en residentes de neumología pediátrica: uso del portafolio electrónico

Assessment of competencies in pediatric pneumology residents: Use of an electronic portfolio

Gabriel Gutiérrez-Morales1 

Yazmín Lara-Gutiérrez2 

Amilcar Alpuche-Hernández3 

Andrés Trejo-Mejía3 

Melchor Sánchez-Mendiola2  * 

1Instituto Nacional de Pediatría, Ciudad de México, México.

2Coordinación de Desarrollo Educativo e Innovación Curricular, UNAM, Ciudad de México, México.

3Facultad de Medicina, UNAM. Ciudad de México, México.


Resumen:

Introducción:

La educación en las residencias médicas requiere un sistema de evaluación sólido, basado en criterios objetivos. Es fundamental establecer la adquisición de un nivel adecuado de competencia clínica, lo que puede evaluarse con el portafolio electrónico.

Material y métodos:

Diseño pre y postest de un grupo. Se incluyeron residentes de neumología pediátrica del Instituto Nacional de Pediatría, Ciudad de México. Se diseñó un portafolio electrónico en Google Sites, que incluyó las competencias: elaboración de historia clínica, elaboración de nota médica, interpretación de estudios de imagen y profesionalismo. Se evaluaron con rúbricas diseñadas por la Facultad de Medicina de la Universidad Nacional Autónoma de México, antes y cuatro meses después de la implementación del portafolios.

Resultados:

Participaron 11 estudiantes, todos los residentes de la especialidad. Cuatro mujeres y siete hombres, con edad promedio de 34 años; seis de primero y cinco de segundo año. El alfa de Cronbach de las rúbricas fue de 0.71 a 0.91. Hubo un incremento estadísticamente significativo en las cuatro competencias evaluadas.

Conclusiones:

El portafolio electrónico es un instrumento capaz de evaluar objetivamente las competencias clínicas de los residentes, que puede contribuir a determinar el nivel de competencia adquirido y proveer información para evaluación formativa.

Palabras clave: Portafolios electrónico; competencia clínica; evaluación; educación en las residencias

Abstract:

Introduction:

Education in medical residencies requires a solid assessment system, based on objective criteria. It is fundamental to establish the acquisition of adequate levels of competence in the students, which can be assessed with an electronic portfolio.

Material and methods:

One-group pre-post test study design. Pediatric pneumology residents from the National Institute of Pediatrics in Mexico City were included. An electronic portfolio was designed in Google Sites, that included these competencies: elaboration of clinical history, medical notes, interpretation of imaging studies and professionalism. These were assessed with rubrics developed by UNAM Faculty of Medicine, before and after four months of the portfolio implementation. Wilcoxon rank test was used for analysis.

Results:

11 Students participated, the total population of specialty residents in the hospital. Four women and seven men, average age of 34 years; 6 first-year and 5 second-year residents. Cronbach’s alpha of the rubrics ranged from 0.71 to 0.91. An statistically significant increase was found in the four assessed competencies, when comparing the pre with the post-test levels.

Conclusions:

The electronic portfolio is an instrument capable of objectively assessing clinical competencies in medical residents, can help determine their acquired competency level and also provide information useful for formative assessment.

Key words: Electronic portfolio; clinical competence; assessment; residency education

Introducción

La educación en las residencias médicas requiere un sistema de evaluación sólido y multifacético, en el que los procesos sean continuos, frecuentes y basados en criterios objetivos. Conforme surgen cambios en las perspectivas de la educación superior, se ha vuelto indispensable modificar las herramientas de evaluación en congruencia con los nuevos paradigmas educacionales.1,2 Uno de los paradigmas predominantes actualmente en educación médica es el de la educación basada en competencias. Epstein definió la competencia clínica como «el uso juicioso y habitual de la comunicación, conocimientos, habilidades técnicas, razonamiento clínico, valores y la reflexión en la práctica diaria, en beneficio de los individuos y las comunidades que se atienden». Esto implica la necesidad de contar con instrumentos adecuados para la evaluación de los diferentes dominios de la competencia, y poder establecer el nivel de la misma que posee el estudiante evaluado.3

La División de Estudios de Posgrado de la Facultad de Medicina de la Universidad Nacional Autónoma de México (UNAM), recién diseñó rúbricas de evaluación de competencias generales y específicas con el fin de ser más precisos y minimizar la subjetividad de los evaluadores, para hacer el proceso de evaluación más sencillo, transparente y justo,4 ya que las citadas competencias representan las habilidades más frecuentemente utilizadas para enfrentar los retos cotidianos en su labor como residentes. El nivel de competencias adquirido por los residentes puede afectar positiva o negativamente su rendimiento y la atención del paciente, por lo que es importante identificar sus áreas de oportunidad para el desarrollo de estas habilidades.

El portafolio electrónico es una herramienta útil para evaluar las competencias.5 En el caso de la educación en las residencias médicas, esta herramienta permite que el alumno plasme sus logros de aprendizaje y experiencia de manera organizada, más allá del mero registro de hechos; permite al estudiante valorar los logros de aprendizaje alcanzados durante sus cursos, lo que puede facilitar al residente la adopción de una actitud más activa sobre sus necesidades de aprendizaje. El uso del portafolio puede incrementar la participación cognitiva del alumno en su propia formación, facilitando la práctica reflexiva durante el proceso de enseñanza-aprendizaje.6,7

El presente estudio presenta la evaluación de cuatro competencias con un portafolio electrónico en residentes de neumología pediátrica: 1) elaboración de historia clínica, 2) elaboración de nota médica, 3) interpretación de estudios de imagen y 4) desempeño médico con profesionalismo.

Material y métodos

Se realizó un estudio observacional, prospectivo, con diseño de investigación pre-postest de un solo grupo. La muestra fue por conveniencia, con residentes del curso de neumología pediátrica del Instituto Nacional de Pediatría en la Ciudad de México. Los residentes son alumnos de la División de Estudios de Posgrado de la Facultad de Medicina de la UNAM. Previamente se diseñó y desarrolló un portafolio electrónico, personalizado para cada uno de los residentes, en la plataforma de Google Sites (https://sites.google.com/), la que fue elegida por ser gratuita, de fácil acceso y uso intuitivo. Se incluyeron los apartados: datos generales del alumno y las cuatro competencias evaluadas: 1) elaboración de historia clínica, 2) elaboración de nota médica, 3) interpretación de estudios de imagen y 4) desempeño médico con profesionalismo.

En cada uno de los apartados los alumnos incorporaron una historia clínica, una nota médica y un estudio de imagen; la evaluación del profesionalismo se basó en el desempeño mostrado en el trabajo día a día en el servicio. Las competencias fueron evaluadas por el Jefe del Servicio de Neumología basándose en las rúbricas propuestas por el posgrado de la Facultad de Medicina de la UNAM (http://www.fmposgrado.unam.mx/wordpress/?page_id=54), cada una de éstas con una puntuación ad hoc adaptada para las necesidades de la especialidad de neumología pediátrica. El nivel de puntuación de cada competencia específica considerado como mínimo aceptable fue determinado por consenso de expertos, con profesores de la especialidad de las diferentes sedes clínicas de neumología pediátrica, utilizando una escala de evaluación específica para cada competencia (estos niveles mínimos fueron de 20 para historia clínica, 12 para nota médica, 10 para estudio de imagen y 24 para profesionalismo).

Al final de un período de cuatro meses, los alumnos incorporaron nuevamente al portafolio, en sus distintos apartados, lo correspondiente a cada competencia y fueron evaluados otra vez por el mismo juez. Se realizó un análisis pretest-postest, utilizando la prueba de rangos de Wilcoxon, no paramétrica, con el programa Statistical Package for the Social Sciences (SPSS) versión 24, tomando como nivel de significancia estadística un valor de p < 0.05.

El estudio fue aprobado por el Comité de Investigación del Instituto Nacional de Pediatría de la Ciudad de México, con el número de registro 029-2017. Se cuidaron los aspectos éticos del estudio, con consentimiento informado verbal de los participantes y confidencialidad de los datos.

Resultados

Se evaluaron 11 residentes, seis de primer año y cinco de segundo año de la generación 2017-2018, los cuales representaron el 100% de alumnos de la especialidad en la sede hospitalaria. Cuatro mujeres (36%) y siete hombres (64%), con promedio de edad de 34 años. La confiabilidad de las rúbricas medida con alfa de Cronbach fue de 0.71 a 0.91. Al no encontrar diferencias estadísticamente significativas entre los residentes por año de especialidad, se decidió analizar los resultados de manera combinada. De las cuatro competencias evaluadas, en la de elaboración de historia clínica, la evaluación pretest mostró que cinco alumnos (45%) obtuvieron una puntuación < 20, y en la evaluación postest los 11 alumnos lograron puntajes > 20 (Figura 1).

Figura 1: Puntuaciones obtenidas en la elaboración de historia clínica en los estudiantes de neumología pediátrica en el Instituto Nacional de Pediatría (n = 11). 

En la evaluación pretest correspondiente a la nota médica, dos alumnos obtuvieron una calificación < 12, y en la evaluación postest todos lograron una puntuación de nivel mayor (Figura 2). En la interpretación de estudios de imagen fue donde se encontraron las menores puntuaciones en la evaluación pretest, ya que seis alumnos (54%) obtuvieron < 10 puntos, nivel superado en la evaluación postest (Figura 3). En la de profesionalismo todos los alumnos obtuvieron desde la evaluación pretest puntuaciones > 24 (Figura 4). Se realizó el análisis pretest-postest con prueba de rangos de Wilcoxon, obteniendo valores de p < 0.05 en las cuatro comparaciones (Tabla 1).

Figura 2: Puntuaciones obtenidas en la elaboración de nota médica en los estudiantes de neumología pediátrica en el Instituto Nacional de Pediatría (n = 11). 

Figura 3: Puntuaciones obtenidas en la interpretación de estudios de imagen en los estudiantes de neumología pediátrica en el Instituto Nacional de Pediatría (n = 11). 

Figura 4: Puntuaciones obtenidas en el desempeño médico con profesionalismo en los estudiantes de neumología pediátrica en el Instituto Nacional de Pediatría (n = 11). 

Tabla 1: Puntuaciones obtenidas en las rúbricas, antes y después del empleo del portafolio electrónico, en estudiantes de neumología pediátrica del Instituto Nacional de Pediatría (n = 11). 

Competencia Evaluación pretest (mediana) Evaluación postest (mediana) Prueba de rangos de Wilcoxon
Elaboración de historia clínica 20 24 p = 0.003
Elaboración de nota médica 14 17 p = 0.003
Interpretación de estudios de imagen 9 12 p = 0.003
Desempeño médico con profesionalismo 31 34 p = 0.011

Discusión

Este estudio presenta una descripción del uso de un portafolio electrónico en la evaluación de competencias clínicas en alumnos de posgrado de la Facultad de Medicina de la UNAM. Las competencias clínicas requieren la aplicación del conocimiento en la realización de tareas auténticas, en lugar de solamente la adquisición de conocimientos y su aplicación en exámenes escritos. Hasta donde tienen conocimiento los autores, se trata del primer estudio de este tipo en residentes de neumología pediátrica. Los portafolios permiten al alumno documentar estos logros en colaboración con sus profesores, al fomentar el aprendizaje reflexivo a través de la realimentación directa.

En algunos países el portafolio es utilizado de manera sistemática como parte de las evaluaciones de estudiantes de medicina, residentes y profesionales en la práctica, ya que logra identificar a médicos con bajo desempeño y garantiza un sistema en el que éstos participan activamente en la identificación y el cumplimiento de sus propias necesidades de aprendizaje. La evaluación del desempeño tiene dos propósitos: mejorar la calidad de la práctica de la medicina y asegurar que se haya cumplido un estándar mínimo de desempeño.8,9 Nuestro estudio mostró resultados interesantes, utilizando la herramienta del portafolio electrónico en conjunto con rúbricas para competencias específicas, con evidencia de validez de contenido y confiabilidad adecuada para una evaluación formativa (alfa de Cronbach > 0.7). Los alumnos obtuvieron mejores puntuaciones en la evaluación a través del portafolio, ya que probablemente identificaron sus errores convirtiéndolos en necesidades de aprendizaje y mejora en su desempeño. Algunos autores como Swallow señalan que el portafolio electrónico estimula al alumno a que se responsabilice en el desarrollo de sus competencias y adopte una actitud más activa sobre su aprendizaje.10 De la misma manera Mathers comprobó que con el uso del portafolio, los alumnos dedican más horas a la reflexión con lo que pueden mejorar la resolución de los problemas clínicos.11

En las rúbricas de elaboración de historia clínica y nota médica encontramos puntuaciones bajas en la primera evaluación, a pesar de tratarse de competencias generales que se enseñan desde la carrera de medicina y de que existe una normatividad nacional del expediente clínico, que establece los lineamientos a cumplir. El nivel de conocimiento de residentes de posgrado sobre la norma oficial del expediente clínico fue reportado por Rillo, con una evaluación numérica del 0-10, en la que el promedio fue 7.8, catalogado como regular.12 Estos autores destacaron la importancia de promover la difusión de la citada norma oficial desde los estudios de licenciatura, ya que la historia clínica y la nota médica convergen en un conjunto de conocimientos, habilidades, actitudes y valores que permiten mejorar la calidad de la atención médica que se proporciona al paciente.13

Con respecto a la evaluación de interpretación de estudios de imagen, la mayoría de ellos basaron su interpretación en radiografías simples de tórax a las cuales se han enfrentado durante su formación como estudiantes de medicina; sin embargo, se considera como uno de los estudios más difíciles de interpretar con certeza, ya que está sujeta a variaciones entre observadores, a la calidad de la radiografía y a la experiencia del lector. Mehrotra evaluó las habilidades de médicos de diferentes grados y especialidades en la lectura de radiografía de tórax demostrando que los médicos que no son radiólogos o neumólogos, como los médicos residentes, cometen errores significativos cuando interpretan una radiografía de tórax con un rango de anormalidades comunes, sugiriendo que la enseñanza sobre la interpretación de radiografías debe ser estructurada y estar disponible para los médicos.14 El obtener puntuaciones aceptables después del uso del portafolio comprueba las ventajas de su uso, como lo publicado por Thomas en su guía para desarrollar portafolios en radiólogos, donde se refiere al instrumento como un excelente medio en el que se puede delinear el crecimiento de los alumnos y transmitir una amplia variedad de oportunidades de enseñanza en radiología.15

En cuanto a la evaluación del profesionalismo a través del portafolio, existen ya publicaciones donde se comprueba su eficacia, como lo señalado por el Consejo de Acreditación de Educación Médica de Graduados (ACGME), quienes a través de evaluaciones de 360 grados en la que participan pacientes, profesores, enfermeras, compañeros, supervisores de residentes y otros miembros del equipo médico, evalúan el desempeño del alumno de acuerdo con los rubros implícitos en profesionalismo. En nuestro estudio participó como evaluador el jefe del Servicio de Neumología Pediátrica del hospital y profesor titular del curso, a través de observación directa del alumno, lo cual podría ser una limitación del estudio. Sin embargo, los resultados obtenidos por nuestros residentes en la competencia de profesionalismo son adecuados, catalogados como competentes desde la primera evaluación, lo cual puede reflejar el efecto de su proceso formativo de pre y posgrado.16,17

En cuanto al uso del portafolio para la evaluación de competencias en médicos residentes, podemos contrastar nuestros resultados con algunos reportes como lo publicado por Miranda, quienes evaluaron competencias en residentes de anestesiología de la Pontificia Universidad Católica de Chile.18 Ellos concluyen, de manera similar a nuestro estudio, que el portafolio electrónico permite un registro de actividades sistemático, así como un análisis del proceso de formación y la capacidad de enfocar el aprendizaje a las áreas en que las evaluaciones arrojan resultados insuficientes. Arnau por otra parte, refiere que a través del uso del portafolio en residentes de medicina interna, se le permite al profesor evidenciar algunos elementos clave en el proceso formativo y en el proceso profesional del residente, estimulando la utilización de estrategias de reflexión y autoaprendizaje con el fin de lograr las competencias evaluadas.19

Algunas limitaciones del estudio son el pequeño tamaño de la muestra, el diseño de pre-pos test con un solo grupo, y el hecho de que se trata sólo de una institución hospitalaria. Estas características podrían contribuir a algunas amenazas, a la validez interna de las conclusiones, así como a su generalidad. Sin embargo, se trata de un primer estudio exploratorio que demostró la factibilidad de utilizar un portafolio electrónico diseñado con sólidos principios educativos, en uno de los principales hospitales pediátricos de Latinoamérica, en la totalidad de residentes de una especialidad. El diseño detallado del portafolio electrónico se reportará en una publicación separada, ya que requiere una descripción rica y técnica de todo el proceso y el instrumento, para servir como ejemplo de diseño e implementación a las demás especialidades de las instituciones hospitalarias y educativas nacionales. Por otra parte, la rúbrica fue diseñada en consenso con algunos de los principales académicos de la especialidad en el país, asesorados por expertos en educación médica, y tiene evidencia de validez de contenido y de estructura interna.

El evaluar competencias a través del portafolio conlleva a un vínculo más cercano con el alumno, que puede mejorar la comunicación y la confianza, y en consecuencia verse reflejado en sus actividades cotidianas y en la atención de los pacientes.

Conclusiones

El empleo del portafolio electrónico como herramienta en el proceso de enseñanza y evaluación de competencias de los médicos residentes, permite dar seguimiento a los avances de los alumnos. También permite que los alumnos visualicen y reflexionen sobre su propio avance en el logro de las competencias.

Es necesario fortalecer las competencias de historia clínica e interpretación de estudios de imagen desde el ingreso a la subespecialidad y no dar por hecho que, aunque se encuentren en niveles de posgrado, su nivel de competencia se haya logrado en la carrera de medicina o en la especialidad troncal.

El portafolios representa una forma amplia y objetiva para evaluar a los médicos residentes, que puede ayudar a determinar si el estudiante posee o no las competencias necesarias para ejercer su profesión.

Agradecimientos

Al jefe del Servicio de Neumología Pediátrica del Instituto Nacional de Pediatría de la Ciudad de México, por su apoyo para la realización de este estudio y llenar las rúbricas de evaluación, así como a los residentes de la especialidad de neumología pediátrica del Instituto, por su colaboración y por cumplir con sus tareas asignadas.

Referencias bibliográficas

1. Carranza R. La evaluación del conocimiento en medicina. Rev Educ Sup 2008;37(147):31-42. [ Links ]

2. Matus BO, Torres AG, Parra PP. Utilización del portafolio en educación médica. Rev Educ Cienc Salud 2009;6(1):10-19. [ Links ]

3. Epstein RM, Hundert EM. Defining and assessing professional competence. JAMA 2002;287(2):226-235. [ Links ]

4. Morán-Barrios J. La evaluación del desempeño o de las competencias en la práctica clínica. 2a parte: tipos de formularios, diseño, errores en su uso, principios y planificación de la evaluación. Educ Med 2017;18(1):2-12. [ Links ]

5. Subdivisión de Estudios de Postgrado. Especializaciones. Facultad de Medicina. Programa Único de Especialidades Médicas. Neumología pediátrica. 2008. Fecha de acceso: 10 de julio de 2018. Accesible en: http://www.fmposgrado.unam.mxLinks ]

6. Driessen E, van Tartwijk J, van der Vleuten C, Wass V. Portfolios in medical education: Why do they meet with mixed success? A systematic review. Med Educ 2007;41(12):1224-1233. [ Links ]

7. Van Tartwijk J, Driessen EW. Portfolios for assessment and learning: AMEE Guide no. 45. Med Teach 2009;31(9):790-801. [ Links ]

8. Webb C, Endacott R, Gray M, et al. Models of portfolios. Med Educ 2002;36(10):897-898. [ Links ]

9. Wilkinson TJ, Challis M, Hobma SO, et al. The use of portfolios for assessment of the competence and performance of doctors in practice. Med Educ 2002;36(10):918-924. [ Links ]

10. Swallow V. Learning in practice: But who learns from who? Nurse Educ Pract 2006;6(1):1-2. doi: 10.1016/j.nepr.2005.11.001. [ Links ]

11. Mathers NJ, Challis MC, Howe AC, Field NJ. Portfolios in continuing medical education-effective and efficient? Med Educ 1999;33(7):521-530. [ Links ]

12. Rillo AG, Palomares PP, Arceo GME. Nivel de conocimiento que poseen m é dicos residentes sobre Norma Oficial Mexicana del Expediente Clínico. Rev Hum Med 2008;8(2-3):1-19. [ Links ]

13. Ciudadano EL, Sergio L, Martinez A, Interino G, Estado DEL, Soberano LY. Marco normativo CNDH. 2015:1-28. [ Links ]

14. Mehrotra P, Bosemani V, Cox J. Do radiologists still need to report chest x rays? Postgrad Med J 2009;85(1005):339-341. doi: 10.1136/pgmj.2007.066712. [ Links ]

15. Thomas JV, Sanyal R, O’Malley JP, Singh SP, Morgan DE, Canon CL. A Guide to writing academic portfolios for radiologists. Acad Radiol 2016;23(12):1595-1603. doi: 10.1016/j.acra.2016.08.015. [ Links ]

16. Jarvis RM, O’Sullivan PS, McClain T, Clardy JA. Can one portfolio measure the six ACGME general competencies? Acad Psychiatry 2004;28(3):190-196. [ Links ]

17. Dannefer EF, Henson LC. The portfolio approach to competency-based assessment at the Cleveland Clinic Lerner College of Medicine. Acad Med 2007;82(5):493-502. [ Links ]

18. Miranda P, de la Fuente R, de la Cuadra JC, Corvetto M, Altermatt F. Portafolio electrónico en residencia de subespecialidad en anestesia regional y analgesia perioperatoria. Inv Ed Med 2015;4(14):e7. [ Links ]

19. Arnau i Figueras J, Torán Monserrat P, Martínez-Carretero JM, Forteza-Rey J, Pinilla Llorente B, Brailovsky CA. Introducción del portafolio formativo como instrumento de tutorización de residentes de Medicina Interna: Revisión de una experiencia piloto, 2005-2006. Rev Clin Esp 2008;208(9):447-454. [ Links ]

1Fuentes de financiamiento: Ninguna.

2Conflicto de intereses: Los autores manifiestan no tener conflicto de intereses en el presente estudio.

Recibido: 11 de Julio de 2018; Aprobado: 26 de Septiembre de 2018

*Autor para correspondencia: Dr. Melchor Sánchez-Mendiola, Coordinación de Desarrollo Educativo e Innovación Curricular, UNAM. Correo electrónico: melchorsm@unam.mx; melchorsm@gmail.com.

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons