nueva página del texto (beta)
Español (pdf)
Artículo en XML
Referencias del artículo
Traducción automática
Enviar artículo por email
Citado por SciELO 
Similares en
SciELO 
Permalink
Introducción
Debido al incremento en la generación de inteligencia artificial (IA) a nivel mundial, surge la iniciativa de analizar la utilización que estudiantes y docentes de la Licenciatura en Administración del Centro Universitario del Norte (CUNorte) de la Universidad de Guadalajara le están dando en el proceso educativo. En respuesta a ello se realizó un cuestionario que permite obtener datos sobre el uso y conocimiento de las herramientas de Inteligencia Artificial Generativa (IAGen), así como otras inquietudes identificadas en la práctica docente.
Por medio de esta investigación se busca comprender cómo la IAGen está siendo utilizada en la educación superior, específicamente en la Licenciatura en Administración, y cómo puede influir en la formación de profesionales competentes. En este sentido, se espera que los resultados arrojen datos valiosos para la creación de una propuesta de integración de la IAGen en la enseñanza-aprendizaje de manera responsable, que incluya capacitación para su uso y conocimiento de las implicaciones éticas. Al obtener resultados, se espera estar en condiciones de identificar el impacto que tiene la utilización de la IAGen en la calidad educativa.
Antecedentes de lA IAGen
Históricamente, la ia tiene sus antecedentes en décadas atrás. Según la definición de Rouhiainen (2018), es la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano (p. 17). En este contexto, la ia adquirió mayor impacto a partir del proyecto conocido como Test Turing, escrito por Alan M. Turing en 1950 en su artículo Computing Machinery and Intelligence (Máquinas de computadoras e inteligencia), publicado en la revista Mind (Turing, 2010). Álvarez Cruz (2008) menciona que este proyecto se planteó principalmente con la finalidad de demostrar la capacidad de las máquinas y si estas eran capaces de pensar como humanos; es decir, comprobar la capacidad de respuesta de una máquina en relación con la similitud en las respuestas de los seres humanos. La prueba se consideraba aprobada una vez que el evaluador o juez no identificara si las respuestas fueron generadas por una máquina o por un humano. Cabe mencionar que dicho proyecto ha causado debate con relación en la veracidad de los resultados en las respuestas generadas.
Asimismo, según Ibarra Sánchez (2022) el término inteligencia artificial aparece hasta 1956 por John McCarthy en la Conferencia de Dartmouth, en Estados Unidos. El mismo autor expresa que la ia se puede entender como el área de conocimiento asociado con el diseño de máquinas o la disciplina de crear algoritmos con la capacidad de aprender y razonar (Ibarra Sánchez, 2022, p. 95).
Los antecedentes antes mencionados muestran un avance significativo en relación con el tema analizado, pues por otro lado, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco, 2023) define la IAGen como la tecnología de inteligencia artificial (ia) que genera contenidos de forma automática en respuesta a instrucciones escritas en interfaces conversacionales de lenguaje natural (prompts) (Miao y Holmes, 2024, p. 11). Así, la IAGen es una rama de inteligencia artificial que utiliza tecnologías de aprendizaje para crear algoritmos, los cuales están basados en tres aprendizajes automáticos: el primero se considera supervisado, donde la información utilizada ha sido clasificada anteriormente y esta se controla por humanos, con la finalidad de obtener resultados con mayor veracidad; el segundo, se considera no supervisado, pues hace uso de una cantidad muy amplia de información para generar respuestas, además de que la información no está clasificada y este aprendizaje no se controla por humanos; el tercero es el aprendizaje por refuerzo, donde la información se genera por la práctica y la recompensa (Rouhiainen, 2018, p. 21).
En las últimas décadas la IAGen, se ha convertido en un tema de estudio gracias a la capacidad de generar contenido por medio de una instrucción de búsqueda y generación de información (prompt) y lograr personalizar el aprendizaje, generar apoyo en tutorías, evaluación
y retroalimentación. Es por ello que esta investigación busca indagar su potencial en el contexto educativo. La IAGen revolucionó al mundo con el lanzamiento de Chatgpt en noviembre de 2022, aplicación capaz de generar texto, imágenes, videos, música y códigos de programación. Partiendo de este lanzamiento la IAGen generó un tema de análisis en relación con el impacto que tendrá en la educación y en la investigación. Tomando en cuenta el acelerado crecimiento y utilización de Chatgpt en la educación, la Unesco advierte la necesidad de generar políticas para su uso (Williamson, 2023, p. 8), las cuales deberán ser claras manifestando su utilización ética y responsable. Asimismo, la Universidad Nacional Autónoma de México (UNAM, 2023, p. 6) señala que estas aplicaciones y herramientas llevan años de desarrollo, pero ninguna había revolucionado la industria de las tecnologías como lo hizo el Chatgpt.
(…); Se generó una versión que superó por mucho el número de parámetros utilizados anteriormente, lo que trajo consigo la posibilidad de entrenar estos modelos con datos extraídos de fuentes de internet, como páginas web, libros, artículos de investigación y otro tipo de documentos (UNAM, 2023, p. 6).
La generación de esta iagen, permite interacción y respuesta inmediata, creada a partir de algoritmos utilizando los datos contenidos en Internet. En respuesta a la tendencia en el uso de ella, la Unesco publicó en 2023 un número de El Correo de la Unesco titulado La escuela en la era de la Inteligencia Artificial, el cual busca promover el uso ético y responsable de la IAGen en la educación, con la finalidad de proteger la privacidad de los estudiantes, docentes, investigadores y usuarios externos, lo cual garantizaría la transparencia en la toma de decisiones en el uso de ella. En general, la Unesco sugiere que la IAGen tiene un gran potencial para mejorar la educación, siempre y cuando se consideren los desafíos, implicaciones éticas y limitaciones de su uso en el ámbito educativo.
Al respecto también publicó una Guía para el uso de ia generativa en educación e investigación (Miao y Holmes, 2024), misma que contempla los siguientes temas:
¿Qué es la IA generativa y cómo funciona?.
Controversias en torno a la ia generativa y sus implicancias para la educación.
Regulación del uso de la IA generativa en la educación.
Hacia un marco de políticas para el uso de la ia generativa en la educación y la investigación.
Facilitar el uso creativo de la IAGen en la educación y la investigación.
iagen y el futuro de la educación y la investigación.
Lo anterior tenía el objetivo de actuar como directriz y proteger los procesos de enseñanza-aprendizaje y los sistemas educativos.
En 2023, la Unesco publicó la obra titulada Recomendaciones para el uso de la inteligencia artificial generativa en docencia, y otra publicación relacionada, publicada asimismo en 2023 fue La IA generativa y el futuro de la educación, donde menciona el ritmo tan acelerado de la revolución digital, la importancia de conocer el lenguaje que utiliza la ia; asimismo, hace hincapié en el riesgo para la adquisición del conocimientos de no utilizarse de manera ética y responsable y enmarca las implicaciones para el futuro de la educación.
En 2021, la Unesco publicó el informe La inteligencia artificial y educación: Guía para las personas a cargo de formular políticas, donde enfatiza los desafíos que la educación afronta gracias a la creciente tendencia en la generación y actualización en la IA. Además, menciona que es necesario ajustar las políticas de los sistemas educativos, supervisión ética y el involucramiento de todos los profesionales e investigadores (Miao et al., 2021).
Metodología
Para la elaboración de la presente investigación se utilizó una metodología mixta, iniciando con un enfoque cualitativo, el cual busca comprender a profundidad un fenómeno y explorarlo desde la perspectiva de la población de estudio. Según Sampieri (2010), (…); es recomendable seleccionar el enfoque cualitativo cuando el tema de estudio ha sido poco explorado, o no se ha hecho investigación al respecto en algún grupo social específico (p. 364).
Asimismo, el enfoque cuantitativo permite obtener un análisis estadístico de la investigación. Desde esta perspectiva, se busca comprender el fenómeno analizado por medio de las características y datos numéricos resultantes de las respuestas de los estudiantes y docentes de la Licenciatura en Administración del CUNorte. Para iniciar, se identificó la población de estudio: fueron 72 académicos los que impartían asignaturas en la Licenciatura en Administración, de los cuales 17 eran profesores de tiempo completo; 52, profesores de asignaturas, y 3, profesores con definitividad en horas. La matrícula activa de estudiantes de la Licenciatura en Administración para el ciclo escolar 2024-B era de 327 estudiantes: 11 de ellos pertenecían a pueblos originarios, y del total de la matrícula 211 eran mujeres, y 116, hombres.
Tomando como referencia la población de estudio y las características de la investigación, se determinó que la muestra será no probabilística por conveniencia, la cual, según Sampieri (2014), se define como (…); un subgrupo de la población en la que la elección de los elementos no depende de la probabilidad sino de las características de la investigación (p. 176). Por lo tanto, no se elegirán a los participantes. La población total tuvo la oportunidad de participar.
La técnica e instrumento de recolección de datos fue la encuesta, aplicada por medio de un cuestionario o conjunto de preguntas respecto de una o más variables a medir (Sampieri, 2010, p. 217), mismo que se realizó en Google Forms. El total de la población recibió el cuestionario. A los estudiantes se les compartió por medio de la Coordinación del Programa Educativo. En relación con los docentes, se les solicito la respuesta por medio del WhatsApp oficial del Departamento de Productividad y Desarrollo Tecnológico.
La intención de esta investigación fue realizar una prueba piloto, misma que se pueda aplicar en todos los programas educativos del Centro, para conocer la percepción y uso de la IAGen en la comunidad universitaria. Se tuvo la finalidad de obtener un análisis y estar en condiciones de generar una propuesta de mejora con relación al uso e implicaciones éticas de la IAGen en el proceso de enseñanza-aprendizaje.
Esta investigación inició con un enfoque exploratorio, entendido este como un tipo de estudios que son la base para realizar un estudio con alcance descriptivo (Sampieri, 2010), el cual permitió identificar los beneficios y desafíos del uso de la IAGen en el proceso de enseñanza-aprendizaje. Partiendo de ello, se determinó realizar posteriormente un estudio descriptivo, el cual, según Sampieri (2010), permite especificar propiedades, características y rasgos importantes de cualquier fenómeno que se analice; describe tendencias de un grupo o población (p. 78). La finalidad principal de esta investigación fue la recolección de información y sus análisis.
Considerando lo anterior, la problematización se desarrolló en la hipótesis de que los estudiantes y docentes de CUNorte utilizan las herramientas de IAGen en el proceso de enseñanza-aprendizaje, pero desconocen las inquietudes de su impacto ético y responsabilidades.
En el CUNorte, la Licenciatura en Administración es un programa educativo que busca formar profesionales que desarrollen y apliquen los conocimientos y metodologías obtenidas en su formación académica, en la gestión eficiente y responsable de las organizaciones. Asimismo, se busca que funjan como líderes capaces de incursionar en el ámbito internacional, siendo gestores de cambio en las organizaciones, gracias a la innovación y mejoras en los procesos, generando nuevas oportunidades de negocio. Por lo anterior, se busca que los estudiantes sean analíticos, críticos y reflexivos en su proceso de aprendizaje (Centro Universitario del Norte, 2024).
Beneficios del uso de la IAGen en la educación superior
La IAGen ha sido utilizada en la educación para mejorar la personalización del aprendizaje, pues permite a los estudiantes aprender a su propio ritmo y estilo (Bolaño-García y Duarte-Acosta, 2024). Asimismo, los sistemas de tutoría inteligentes cada vez son más eficientes; pueden adaptar el contenido y la dificultad de las lecciones según las necesidades individuales de cada estudiante (Parra-Taboada et al., 2024). Además, la IAGen ha logrado mejorar la evaluación y retroalimentación, y permite a los docentes enfocarse en la enseñanza.
La personalización del aprendizaje
Uno de los antecedentes más relevantes es el estudio de Pérez Ahedo y Guerrero Ruiz (2020), quien realizó una revisión sistemática de la literatura sobre el uso de la IAGen en la educación. García encontró que la IAGen ha sido utilizada para mejorar la personalización del aprendizaje, pues permitió que los estudiantes sean proactivos y elijan el desarrollo de su aprendizaje. Por su parte, Bolaño-García y Duarte-Acosta (2024) mencionan que la personalización del aprendizaje permite la adaptación en el material educativo, identificar las habilidades, necesidades e intereses de cada estudiante; fomenta el aprendizaje significativo y avance académico, tomando en consideración la diversidad en los estudiantes, habilidades y desafíos personales. La personalización del aprendizaje reconoce y abraza esta diversidad al permitir que cada estudiante tenga una experiencia educativa adaptada a sus necesidades individuales (Bolaño-García y Duarte-Acosta, 2024, p. 53). En este sentido, la personalización permite que los estudiantes logren la adquisición del conocimiento de una forma más sencilla, lo que conlleva que tengan participación en su proceso de aprendizaje, estén motivados y comprometidos en adquirir nuevos conocimientos de su interés.
Trabajo colaborativo
La IAGen permite la integración de actividades colaborativas entre los estudiantes y el docente por medio de la utilización de IAGen de uso compartido, donde se integran los saberes previos, las habilidades tecnológicas y los nuevos conocimientos.
Optimización de tiempo para Los docentes
Uno de los beneficios que más se destacan es la optimización de tiempo en la preparación de recursos didácticos para la práctica docente, donde los asistentes virtuales ayudan a los docentes en actividades como la realización de sus tareas diarias, automatizando las tareas administrativas y de evaluación, como la corrección automática de pruebas, la organización de horarios y la generación de informes de progreso de los estudiantes (Bolaño-García y Duarte-Acosta, 2024, p. 54). En este sentido, los docentes aprovechan el tiempo en el proceso de enseñanza-aprendizaje con los estudiantes de manera activa.
Acceso y creación de recursos educativos
García Martínez y Pujol (2024) refieren que la IAGen ha facilitado el acceso y creación de recursos educativos de alta calidad, especialmente para estudiantes y docentes, siempre que la búsqueda se realice con indicaciones (prompts) adecuados y se analicen críticamente los resultados. Con la redacción correcta de un prompts interactivo el estudiante puede obtener retroalimentación instantánea, puesto que, la IAGen concentra conocimientos de diversas áreas de estudio, por lo que se puede pedir que se comporte como revisor, asesor o emisor de recomendaciones al instante (UNAM, 2023, p. 23).
La eficiencia en la evaluación y retroalimentación
Otro antecedente importante es el estudio de Parra-Taboada et al. (2024), quienes indagaron en el impacto de la ia en la educación. Refieren que esta ha aumentado la eficiencia en la evaluación y retroalimentación, lo que les permite a los docentes enfocarse en la enseñanza. Por ejemplo, los sistemas de evaluación automatizados pueden proporcionar retroalimentación instantánea y personalizada a los estudiantes, lo que mejora el desempeño académico y la agilidad en las respuestas.
Inclusión dentro y fuera del aula a estudiantes con discapacidad
Según la Unesco (Miao et al., 2021) la IAGen ha apoyado en la atención de estudiantes con alguna discapacidad. Por ejemplo, por medio de robots inteligentes busca la posibilidad de atender en términos educativos a estudiantes con espectro autista. Asimismo, los sistemas de lectura automatizados han permitido que estudiantes con discapacidad visual tengan acceso a más información. Estos sistemas mitigan en gran medida la discapacidad y logran incluir a los estudiantes en las actividades dentro del aula.
La realidad virtual (RV) y la realidad aumentada (RA) son dos innovaciones relacionadas que se han aplicado en contextos educativos y que con frecuencia se combinan con el aprendizaje automático y otras técnicas de ia para mejorar la experiencia del usuario (Miao et al., 2021, p. 21).
La incorporación de la IAGen en la educación es una actividad que si bien genera beneficios en los procesos de enseñanza-aprendizaje, también presenta desafíos y limitaciones a considerar. A continuación, se presentan algunos de los desafíos y limitaciones identificados, los cuales se deben atender para minimizar riesgos en el proceso educativo.
Desafíos y limitaciones de la IAGen en la educación sesgos en Los algoritmos
Sesgos de los algoritmos
La IAGen utiliza algoritmos y modelos de lenguajes para generar la información de fuentes existentes; sin embargo, estos datos pueden no ser tan precisos y generar información con sesgos, es decir, información que carece de veracidad y precisión. Ray (2023, citado por la UNAM, 2023) señala los siguientes riesgos:
Limitaciones en la confiabilidad y precisión de la información; sesgos de los modelos; exceso de confianza en las herramientas, que puede reducir el pensamiento crítico y la solución independiente de problemas; control de calidad inestable; sesgos en las bases de datos; problemas de generalización y explicabilidad (no es claro cómo toma decisiones); costo energético en el medio ambiente; asuntos de seguridad (generar contenido perjudicial, como discurso de odio y noticias falsas); asuntos de privacidad; errores factuales y alucinaciones; así como sesgos culturales y lingüísticos (p. 8).
Desafortunadamente, la rápida adopción de la IAGen hace difícil eliminar este tipo de sesgos, en virtud de la limitada regulación que existe a nivel global y nacional sobre estos temas (UNAM, 2023, p. 10). Con referente a lo anterior, es importante que tanto estudiantes como docentes que utilizan la IAGen lo hagan de forma responsable y crítica, analizando las respuestas obtenidas, verificando las fuentes y discriminando información inexacta.
Integridad académica
Según Sullivan et al. (2023, citado por Gallent-Torres et al., 2023), se reconoce que el uso de herramientas de IAG IAGen; en las evaluaciones universitarias genera cierta preocupación en lo que respecta a la integridad académica (p. 6). Los estudiantes utilizan la ia en las tareas y actividades de evaluación, lo que dificulta al docente reconocer el aprendizaje real de los estudiantes. En este sentido, algunos docentes e instituciones educativas han prohibido su uso.
Gallent-Torres et al. (2023) explican una limitación más, la cual se relaciona con el creciente desarrollo y actualización de IAGen mientras las distintas partes implicadas en el proceso educativo debaten sobre su uso, el alumnado y el profesorado ya han empezado a utilizar la iag en su quehacer académico sin disponer de un marco regulatorio institucional (p. 6). En este sentido, dichos autores mencionan las principales preocupaciones del uso de la IAGen y la integridad académica:
i) el plagio y la generación de contenidos no originales (Ellis & Slade, 2023); ii) el uso de herramientas que detecten textos generados por iag (gpt Zero, AI Text Classifier, Originality ai o Crossplag) (Weber-Wulff et al., 2023); iii) la implementación de planes de evaluación alternativos; iv) la dependencia a estos sistemas (lo que conllevaría un debilitamiento de la capacidad de pensamiento crítico en algunos usuarios y la dificultad de detectar información falsa o incorrecta en las respuestas); y v) la posibilidad de propagar sesgos en los resultados generados (Wach et al., 2023) (p. 6).
Desde este punto de vista, la generación de políticas de uso de la IAGen es fundamental, con la finalidad de proteger el derecho de autor, la autenticidad de los trabajos académicos, evitar el plagio, fomentar la responsabilidad y ética educativa.
Veracidad de la información
La Unesco (Williamson, 2023, p. 8) hace referencia a que las IAGen de texto más reconocidas, Chatgpt y Google Bard, regularmente generan información inexacta. Por la utilización de algoritmos, son herramientas que predicen o trabajan bajo secuencias de redacción, lo que conlleva que se obtenga textos falsos. Asimismo, (Bolaño-García y Duarte-Acosta 2024) refieren que uno de los principales desafíos es la calidad de los datos:
Para que la ia proporcione recomendaciones personalizadas y precisas los datos deben ser recopilados de manera adecuada (…). Si los datos no son precisos o relevantes, la ia puede proporcionar retroalimentación incorrecta o inefectiva, lo que puede afectar negativamente la educación de los estudiantes (p. 55).
Es este sentido, es importante capacitar en el uso correcto de búsquedas generando prompts adecuados a la información que se desea obtener y discriminar entre las respuestas generadas. En ese contexto, Kadaruddin (2023, citado por la UNAM, 2023, pp. 8-9) subraya la importancia de que desarrolladores de iagen, educadores, investigadores y responsables de políticas públicas trabajen conjuntamente.
Dependencia tecnológica
Otros de los riesgos es la dependencia tecnológica que se puede generar por el uso de la iagen. Las escuelas corren el riesgo de crear un grado de dependencia de las empresas tecnológicas y perder así su autonomía (Williamson, 2023, p. 8). En este sentido, no solo es un riesgo por la dependencia de su aplicación y uso, si no también por los costos e implicaciones que a nivel energético está generando.
Resultados
Para la recuperación de datos se realizaron dos cuestionarios. Se eligió la muestra por conveniencia, que es un tipo de muestreo que se utiliza cuando se elige una población y no se sabe cuántos sujetos pueden tener el fenómeno de interés. Aquí se recurre a los sujetos que se encuentren. También se utiliza en fenómenos muy frecuentes, pero no visibles. Según Mendieta Izquierdo (2015) este tipo de muestreo tiene como características establecer diferentes etapas de selección de muestra e identificar sujetos que cuenten con el fenómeno en general. La muestra se obtuvo de la participación de 80 estudiantes y 23 profesores, los cuales dieron respuesta al cuestionario. Las interrogantes refieren temas sobre el conocimiento y utilización de la IAGen en el proceso de enseñanza-aprendizaje e implicaciones éticas de su uso en el programa educativo. Para el análisis del instrumento se planteó un comparativo donde se clasifican las respuestas por afinidad, mostrando un análisis textual y algunas gráficas comparativas.
Las principales IAGen utilizadas por los estudiantes fueron Chatgpt, Copilot, Dall-e, Synthesia, Leonardo, Google Bard, Gamma, Meta de WhatsApp y Gemini. Asimismo, las IAGen que más utilizan los docentes fueron Chatgpt, Copilot, dall-e, Synthesia, Leonardo, Google Bard, Perplexity y Gamma (Tabla 1).
Tabla 1 Resultados cuantitativos del cuestionario
| Elementos de medición | Estudiantes | Docentes |
| Uso | 8 % de estudiantes reconoce utilizarla IAGen con frecuencia; 43 %, algunas veces; mientras que 17 % solo una vez, y 32 %, nunca (2). 11 % siente que el uso de la IAGen aumenta su motivación para aprender; 38 % se siente algo motivado; 36 %, poco motivado; mientras que 15 % no encuentra motivación con el uso de la IAGen (8). 7 % ha tenido grandes dificultades al utilizar la IAgen; 29 % solo ha tenido algunas dificultades, y 48 % pocas; mientras que 16 % no encuentran dificultades en su uso (14). | 43.5 % de los docentes han utilizado alguna herramienta de IAGen en su práctica docente; otro 43.5 % no la ha utilizado, pero tienen interés en hacerlo; mientras que a 13 % no le interesa utilizarla (2). Solo 9 % de los docentes se siente muy preparado para integrar la IAGen en la práctica docente; 43.5 % se considera moderadamente preparado; otro 43.5 %, poco preparado, y 4 % nada preparado (11). 9 % encuentra mayor personalización de los contenidos; 48 % considera que el uso de la IAGen genera acceso a recursos educativos avanzados; 30 % menciona que mejora la eficiencia en relación con el tiempo de enseñanza; mientras que 13 % no ha observado beneficios (5). |
| Personalización | 12 % de los estudiantes afirman que la IAGen ha contribuido en gran medida a la personalización de su aprendizaje; 38 % menciona recibir apoyo, y 29 %, poco; mientras que 21 % no percibe apoyo (7). | 30 % de los docentes están totalmente de acuerdo con que la IAGen permite la personalización del aprendizaje de los estudiantes; 52 % está de acuerdo; mientras que 18 % está en desacuerdo (4). |
| Confianza y veracidad | Solo 16 % de estudiantes consideran que la información generada por la IAGen es veraz; 24 % considera que es igual de precisa a cualquier otra fuente; 15 % manifiesta que es menos precisa; mientras que 45 % no se encuentra seguro de la veracidad de la información generada por IAGen (10). 5 % considera un nivel de confianza muy alto en las respuestas obtenidas por la IAgen; 44 %, nivel alto; 42 %, bajo nivel, y 9 %, muy bajo nivel de confianza (11). | 61 % de los docentes considera que las respuestas generadas por la IAGen son precisas y confiables; 35 % refieren que algunas veces son imprecisas o poco fiables, y 4 %, que son poco precisas y fiables (9). |
| Dependencia | 31 % de los estudiantes están totalmente de acuerdo en que el uso de la IAGen puede crear dependencia tecnológica en el proceso educativo; 49 % está de acuerdo, y 15 %, en desacuerdo; mientras que 5 % está en total desacuerdo (12). | 30 % de los docentes considera que el uso de la IAGen genera significativamente dependencia tecnológica; 57 % lo considera en cierta medida; mientras que 13 % no lo considera (8). |
| Brechas y equidad educativa | 21 % de los estudiantes considera que la IAGen puede mejorar en gran medida la calidad en áreas remotas o marginadas; 58 % lo considera en cierta medida; 16 %, que muy poco; mientras que el 5 % refiere que mejorará el acceso a la educación (16). | 9 % de los docentes considera que en gran medida la IAGen cierra brechas educativas en términos de acceso y calidad; 65 %, que en cierta medida; mientras que 22 % refiere que pueden ampliarse las brechas, y solo 4 % no encuentra impacto (10). 39 % de los docentes se sienten inseguros del impacto que tendrá el uso de la IAGen en relación con la equidad educativa; 22 % piensa que no tendrá un impacto significativo; otro 22 % considera que podría aumentar la desigualdad, y solo 17 % menciona que aumentará la equidad (17). |
| Labor docente | 6 % considera que el uso de la IAGen reemplazará al docente en su labor educativa; 29 % considera que solo en algunos aspectos; 38 % refiere que solo es un complemento; mientras que 27 % manifestó que de ninguna manera reemplazará al docente en el proceso educativo (6). 59 % prefiere la explicación de un docente; mientras que 14 % prefiere las explicaciones que generará una IA, y 28 % hace referencia a que depende del tema (9). | 9 % menciona que muchas funciones del docente podrían sustituirse por la IAgen, y 35 %, que solo algunas funciones; mientas que 43 % considera que la implementación de la IAGen es un complemento, y 13 % refiere que no debería sustituir ninguna función tradicional del docente (16). |
| Preocupaciones y ética | 25 % se preocupan por la privacidad y seguridad de los datos; 30 %, de la calidad de información generada; 26 %, de la dependencia de la tecnología, y 19 %, en la deshumanización del proceso educativo (18). | 22 % de los docentes plantea grandes conflictos éticos; 61 %, algunos conflictos éticos; 17 % menciona que los conflictos son menos (12). 57 % de los docentes consideran que es necesario que el uso de la IAGen sea acompañada de una normativa y regulaciones específicas; 39 % lo recomiendan, y 4 % no lo ve necesario (20). |
| Formación o capacitación | 35 % de los estudiantes consideran que definitivamente requieren formación para el uso de IAg en; 45 % están interesados en recibir formación; 16 % menciona que no lo necesita, y 4 % prefieren capacitación de otros temas (22). | 26 % de los docentes mencionan que han recibido formación básica en IAgen, mientras que 70 % menciona que no ha recibido capacitación, pero le interesa recibirla; sin embargo, 4 % no está interesado en recibirla (15). 52 % definitivamente le gustaría recibir formación específica sobre el uso de la IAGen en los procesos educativo; 39 % está interesado, y 4 % no lo encuentra necesario; otro 4 % prefiere formación de otros temas (21). 44 % está muy interesado en participar en investigaciones sobre el uso de la IAGen en la educación; 52 % está interesado siempre y cuando se analice el enfoque, y solo 4 % prefiere no participar (22). |
Fuente: Elaboración propia.
Nota: Dentro del paréntesis se agrega el número de pregunta del cuestionario.
En relación con las principales implicaciones éticas los docentes refieren que están preocupados por el uso de la IAGen sin un análisis crítico, ya que existen sesgos en los algoritmos al generar la información, además de que se preocupan por la privacidad y seguridad de datos de los estudiantes. Asimismo, los estudiantes refieren que es necesario regulaciones de uso, protección de datos personales, uso responsable y apoyo docente, así como el análisis de la información obtenida y de ser necesario restringir uso y generar políticas. La gráfica (Gráfica 1 muestra las herramientas de IAGen utilizadas en los procesos de enseñanza-aprendizaje usada por los estudiantes:
De igual manera, la y Gráfica 2 muestra las herramientas utilizadas por docentes:
Ética y responsabilidad en el uso de la IAGen en la educación superior
La Unesco (Miao y Holmes, 2024) menciona las responsabilidades de los proveedores de IAGen, instituciones educativas y usuarios para la creación y utilización de las herramientas de IAGen (Tabla 2).
Tabla 2 Responsabilidades en la generación y uso de la IAgen
| Proveedores de IAgen | Instituciones educativas | Usuarios individuales |
| Responsabilidad humana Datos y modelos confiables Generación de contenidos no discriminatorios. Explicabilidad y transparencia de los modelos de IAg en. Etiquetado de los contenidos de IA gen. Principios de seguridad y protección. Especificaciones sobre la conveniencia de acceso y uso Reconocer las limitaciones y prevenir los riesgos predecibles. Mecanismos de reclamación y reparación. Supervisión y notificación de uso ilegal. | Auditoría institucional de los algoritmos, datos y resultados de IA gen. Validar la proporcionalidad y proteger el bienestar de los usuarios. Revisar y abordar los impactos a largo plazo. Adecuación a la edad. | Conocimiento de los términos de referencia sobre el uso de la IA gen. Uso ético de las aplicaciones de IA gen. Supervisión y notificación de aplicaciones de IAg en ilegales. |
Fuente: Elaboración propia a partir de la Unesco (Miao y Holmes, 2024, pp. 20-22).
Las instituciones educativas -en este caso, el CUNorte- podrían implementar medidas que favorezcan el uso adecuado de las herramientas de IAGen en el proceso de enseñanza-aprendizaje de los estudiantes de la Licenciatura en Administración, iniciando con auditorias institucionales de los algoritmos, datos y resultados de IAGen (Miao y Holmes, 2024, p. 23), evaluando las herramientas utilizadas por la comunidad universitaria. Asimismo, validar la proporcionalidad y proteger el bienestar de los usuarios y evaluar y abordar los impactos a largo plazo (Miao y Holmes, 2024, p. 23) por medio de la elaboración de políticas institucionales acordes. Sin embargo, aun con todas las iniciativas mencionadas y el desarrollo acelerado de la IAGen en el último año no se han establecido políticas puntuales, por lo que las instituciones educativas, incluyendo la
Universidad de Guadalajara, no ha tomado una posición clara respecto a la utilización de estas tecnologías de la información y el aprendizaje, examinada como ia (Gallent-Torres et al., 2023, p. 5). En este sentido, surge la iniciativa de realizar dicho análisis para identificar la percepción de la utilización por parte de los estudiantes y docentes del CUNorte. Como lo menciona Gallent-Torres et al. (2023), en general, no hay indicios de que
se estén adoptando estrategias distintas para encarar los retos que plantea en educación superior: desde prohibir cualquier forma de ia en la universidad, explorar cómo el alumnado y el profesorado aprovechan su potencial para mejorar el proceso de enseñanza-aprendizaje, hasta incluir una mención expresa sobre su uso en las guías docentes o establecer directrices y pautas de comportamiento en esta materia (p. 5).
Pese a todo lo presentado por la Unesco, algunas otras instituciones educativas no han establecido una directriz específica. Se espera que cada centro educativo analice su contexto y partiendo de ello genere políticas, normas de uso y lo que considere adecuado. De esta forma, se espera que se atienda con profesionalismo el manejo de la información, respetando las fuentes y actuando de forma honesta y responsable con el uso de la información.
El uso malicioso o inadecuado propicia la deshonestidad académica, socava la confianza y compromete la calidad de la enseñanza. (…); Es fundamental promover prácticas responsables y éticas en el manejo de información, asegurando que los datos se utilicen de manera constructiva para el logro del aprendizaje y la generación de conocimiento (UNAM, 2023, p. 12).
Oportunidades y mejoras tras el uso de la IAGen en la educación
La IAGen genera oportunidades de mejora en la enseñanza, pues permite que los docentes incorporen herramientas interactivas para eficientar el proceso educativo. Actualmente, existe una iniciativa por parte de la Unesco por medio de la cual se desarrollan modelos funcionales de herramientas de IAGen enfocados en la educación llamados Edgpt. Estos modelos Edgpt se entrenan con datos específicos para fines educativos (Miao y Holmes, 2024, p. 13). Esta propuesta busca generar herramientas educativas de calidad y con un dominio específico, las cuales serán generadas por académicos especializados en el tema, con menor cantidad de datos (UNAM, 2023, p. 9). Se espera que estos modelos permitan a docentes y estudiantes generar materiales educativos apropiados, como planes de clases, cuestionarios y actividades interactivas estrechamente alineados con un enfoque pedagógico eficaz y con objetivos curriculares y niveles de desafío específicos para determinados estudiantes (Miao y Holmes, 2024, p. 13). Con la creación de estos modelos se espera que se minimicen los sesgos en la obtención de la información; sin embargo, es necesario que tanto docentes como estudiantes actúen de manera crítica y responsable con su utilización. Partiendo de lo anterior, los académicos deben cuestionarse si algunas de las tareas de gestión, enseñanza, aprendizaje o evaluación que realizan, pueden mejorar incorporando herramientas de generación de texto, imágenes o contenidos multimedia (UNAM, 2023, p. 7). Si es el caso, lo pueden utilizar de manera responsable.
Identificación de políticas educativas relacionadas con el uso de la iagen
Actualmente no existen políticas globales. Sin embargo, la Unesco (Miao y Holmes, 2024) propone una serie de pasos para regular la IAGen en la educación:
Adscribirse a regulaciones generales de Protección de Datos internacionales o regionales, o desarrollar normativas nacionales (…)
Adoptar/revisar y financiar estrategias sobre ia para todo el sector gubernamental (…)
Consolidar e implementar normativas específicas sobre la ética de la ia (…)
Adaptar o hacer cumplir las leyes de derechos de autor existentes para regular los contenidos generados por ia (…)
Elaborar marcos regulatorios sobre la ia generativa (…)
Construir capacidades para el uso adecuado de la IAGen en educación e investigación (…)
Reflexionar sobre las implicancias a largo plazo de la IAGen para la educación y la investigación (pp. 18-20).
De esta manera, se plantea que la IAGen requiere una orientación adecuada de regulaciones públicas para su utilización, es decir, llevando a cabo una coordinación intersectorial, en la cual se establezca un organismo nacional encargado de coordinar y liderar las acciones respectivas al uso de la iagen. Se tendrá que realizar un ajuste a la legislación, en el que cada país tendrá que revisar y actualizar su normativa con respecto a la protección de datos, usos de internet y temas de protección de la información, así como realizar evaluación de la adecuación de las reglas y políticas propuestas.
En este sentido, para mejorar las condiciones del uso de la IAGen se requiere el equilibrio entre la regulación de la IAGen y la promoción de la innovación en IA. Para ello es necesario trabajar de manera conjunta entre instituciones educativas, empresas y organismos públicos, mismos que deben promover de manera adecuada el uso de la iagen, generando modelos confiables y contenido de calidad. Asimismo, se debe evaluar y clasificar los riesgos potenciales de la ia, estableciendo normas adecuadas que permitan clasificar y evaluar su implementación, para disminuir los riesgos de uso inadecuado. Se generarán políticas de protección de la privacidad de los datos, entendiendo que para obtener el derecho de uso, los beneficiarios comparten sus datos personales, lo que requiere una legislación adecuada.
Además, la delimitación de edad para el uso de IAGen es una iniciativa urgente, en la cual se debe establecer las restricciones de uso a menores de edad, con la finalidad de proteger los derechos e integridad de estos. En relación con la propiedad nacional de los datos y riesgo de pobreza de datos, la necesidad de políticas es urgente y necesaria para el resguardo de los datos generados por los usuarios de la IAGen y que estos permanezcan en el país y solo sean utilizados para los fines que las políticas de seguridad establezcan (Miao y Holmes, 2024, pp. 20-22).
Medidas de protección
Según la Unesco, las organizaciones internacionales ya han realizado esfuerzos considerables para elaborar cuadros éticos y reglamentarios vinculados a la ia y, del mismo modo, es esencial tratar de proteger el sistema educativo (Williamson, 2023, p. 8). Otro aspecto importante es que los instrumentos regulatorios, los organismos nacionales y los funcionarios deberían también concebir nuevas modalidades de supervisión de la ia en el contexto educativo (Williamson, 2023, p. 8). No es un secreto que las instituciones educativas requieren prepararse para lograr la integración ética y pedagógica de las iagen, que se encuentran en constante actualización.
La Unesco realizó una encuesta mundial a más de 450 instituciones educativas. Se identificó que menos de 10 % dispone de políticas institucionales o de orientaciones formales sobre el uso de aplicaciones generativas de la ia, debido en gran parte a la ausencia de normativas nacionales (Williamson, 2023, p. 8).
Conclusiones
Según el análisis realizado, la IAGen ha revolucionado la forma en que se enseña y se aprende. Tiene la capacidad para la creación de contenidos educativos, lograr la personalización del aprendizaje, apoyar en la evaluación, retroalimentación y tutorías especializadas. En este sentido, surge la necesidad de explorar su potencial en el proceso educativo de la Licenciatura en Administración. Sin embargo, existen desafíos y limitaciones que deben ser considerados, como lo son los sesgos en los algoritmos para generar la información, protección de datos personales y costos de las iagen. Es importante continuar investigando y desarrollando modelos que expliquen cómo la IAGen puede ser utilizada en la educación de manera efectiva y ética.
Partiendo del análisis de los datos recolectados se pretendió realizar una propuesta para la formación y capacitación del uso de la IAGen de manera ética y responsable, tanto para estudiantes como docente de la Licenciatura en Administración del CUNorte, la cual sea acorde a las necesidades identificadas. Por lo tanto, se proponen dos actividades: la primera dirigida a los estudiantes, donde se imparta un taller sobre el uso de las principales IAGen y sus implicaciones éticas. Lo anterior tiene la finalidad de hacer conciencia del uso responsable y análisis crítico de las respuestas obtenidas de la IAGen. La segunda será dirigida a los docentes, donde se imparta un curso de capacitación sobre el uso de la implementación de la IAGen en el proceso enseñanza-aprendizaje, el cual permita que los docentes se apoyen de estas herramientas, para la generación de recursos educativos y actividades interactivas en el aula.
