Introducción

En la última década, el panorama de la educación está experimentando una profunda transformación. El campo de la inteligencia artificial (IA) ha experimentado avances notables y el Transformador Preentrenado Generativo de Chat (ChatGPT - modelo abierto de IA GPT-3) es un ejemplo sorprendente de este progreso. El panorama de la educación no es ajeno al proceso generado, por lo que está experimentando una profunda transformación dinamizada por el advenimiento de la inteligencia artificial (IA). Se espera que esta transformación afecte los objetivos educativos, los procesos metodológicos, los materiales de aprendizaje y, en consecuencia, los resultados del aprendizaje de manera sistemática.

La tecnología en el sector de la educación se ha manifestado histórica y principalmente en forma de sistemas de gestión del aprendizaje, libros de texto electrónicos, etc., que sirven para conducir el progreso del aprendizaje de los estudiantes y proporcionar recursos de aprendizaje (Linn et al., 2014; Pellegrino y Quellmalz, 2010). Sin embargo, dicha tecnología generalmente ha ofrecido un apoyo limitado para abordar problemas relativos a cuestiones educativas muy simplistas, por lo que no logra atender de manera integral las necesidades de aprendizaje personalizadas y diversas de los estudiantes (Linn et al., 2023; Zhai, 2021). En cambio, la IA, que tiene la capacidad de construir una comprensión del lenguaje humano y las imágenes, presenta una oportunidad para un desarrollo y una utilización significativos en la educación, lo que podría revolucionar el patrón de la educación moderna (Zhai et al., 2020). Por ejemplo, ChatGPT tiene la capacidad de crear ensayos bien escritos como si fueran propios de estudiantes, resumir trabajos de investigación, responder preguntas lo suficientemente bien como para aprobar exámenes médicos y generar códigos informáticos útiles (Van Dis et al., 2023). Incluso ha creado resúmenes de investigación que a los científicos les resultó difícil distinguir de los escritos por un humano (Van Dis et al., 2023).

Esta IA es un sofisticado modelo de lenguaje natural preentrenado lanzado por Open AI, una empresa con sede en EE. UU., el 30 de noviembre de 2022 (Assaraf, 2022). Puede comprender la semántica y la sintaxis del lenguaje natural, generar texto en lenguaje natural, responder preguntas y participar en diálogos basados en contextos de conversación específicos. Algunos académicos ya han probado su aplicación en escritura académica, generando completando pruebas profesionales (Kung et al., 2023; Zhai, 2023). Las potentes funciones de interacción, razonamiento, cuestionamiento y retroalimentación mostradas por ChatGPT ofrecen nuevas oportunidades para la transformación educativa. No obstante, resulta que su advenimiento no solo puede mejorar la efectividad y la calidad del aprendizaje de los estudiantes, sino que también puede usarse para que los estudiantes hagan trampas en las pruebas académicas.

En adición, esta tecnología tiene el potencial de producir correo basura, secuestro de datos y otros resultados dañinos, lo que es sustancialmente preocupante para nuestras sociedades (Van Dis et al., 2023) Dado el potencial del Logic Learning Machine (LLM), como ChatGPT, para abarcar varios campos, existe una necesidad urgente de que la comunidad de investigación participe en un debate integral sobre los posibles usos, amenazas y limitaciones de estas herramientas. Por su parte, Anson y Straume (2022) plantean preocupaciones sobre los sistemas de producción de lenguaje natural basados en la IA, puesto que pueden generar texto humano sin que los estudiantes se involucren en el proceso de escritura.

A pesar de que ChatGPT fue puesto a disposición del público por primera vez el 30 de noviembre de 2022, tan pronto como el 4 de diciembre apareció un artículo en El Guardián con el título “El bot de la inteligencia artificial chat GPT sorprende a los académicos con habilidades de escritura de ensayos y usabilidad” (Hern, 2022). Además, el profesor Darren Hudson reportó una incidencia de plagio de estudiantes usando ChatGPT en la Universidad de Furman en Carolina del Sur apenas dos semanas después de este haber salido (Mitchell, 2022). En las escuelas públicas de Nueva York, ChatGPT fue prohibido en enero de 2023 (Yang, 2023). Baltimore y Los Ángeles siguieron rápidamente.

En comparación con los LLM anteriores, ChatGPT es mucho más potente, sorprendentemente fácil de usar y cuenta con una versión gratuita, pero aunque tiene una serie de aplicaciones muy útiles en el mundo académico, la comunidad educativa está preocupada por el potencial para el engaño de los estudiantes. No es difícil entender por qué muchas personas están anticipando la muerte del ensayo como un método de evaluación desde que se constata el aumento extremadamente rápido en el uso del sitio ChatGPT (Stokel-Walker, 2022; Yeadon et al. (2022).

Incluso antes de ChatGPT, un estudio no muy lejano encontró que casi el 22% de los estudiantes de una universidad austriaca admitió plagiarismo (Hopp y Speil, 2021); la mayor prevalencia en comparación con los estudios anteriores se atribuyó a la persuasiva seguridad de que se mantendría el anonimato de los encuestados. En un informe de hace poco tiempo, la Agencia de Garantía de Calidad del Reino Unido (QAA) estimó que uno de cada siete (14%) graduados puede haber pagado a alguien para completar sus tareas, lo que lleva a la media ligeramente más baja a nivel internacional. (QAA, 2020). Los últimos años han visto un “boom” de publicaciones sobre el fraude en la educación superior, en parte debido al aumento del fraude de contratos y el uso de evaluaciones de acceso remoto en lugar de exámenes en persona. (Ahsan et al. 2022). Lo que ya se perfilaba como una solución nada ajena al ámbito estudiantil parece tomar ahora un nuevo impulso, visto que el ChatGPT aumenta los riesgos asociados con el fraude académico al poner estos servicios al alcance de más estudiantes, en particular a los que podrían no ver el uso de la IA como una estafa o a quienes antes no acudían a sitios donde podían hacerle un ensayo por no tener el dinero para pagar este servicio.

Debido a que las posibilidades de fraude de contrato y ChatGPT son comparables, puede ser difícil identificar este tipo de deshonestidad académica, según se ha investigado. En el estudio de Lines (2016) se compararon 26 asignaciones, ninguna de las cuales fue marcada como sospechosa por los marcadores (que no fueron particularmente instruidos para comprobarlo) y solo tres de ellos fueron reportados a Turnitin. Estos artículos sugieren colectivamente que los marcadores pueden detectar hasta cierto punto el fraude contractual. En contraste con las afirmaciones de sitios web de engaño, los marcadores pudieron detectar engaño de contratos el 62% de las veces en Dawson y Sutherland-Smith (2018). El uso del instrumento de investigación de autoridad de Turnitin mejoró la precisión de los marcadores en la detección de engaños contractuales en Dawson et al. (2020), de 48% a 59%. Además, un taller de capacitación para marcadores en Dawson y Sutherland-Smith (2018) dio como resultado un aumento en la sensibilidad del 58% al 82% en la detección de trampas contractuales. Sin embargo, el aumento en la precisión no fue significativo de manera estadística.

Estos hallazgos sugieren que los marcadores a menudo pueden detectar el fraude contractual, así como el uso de software y capacitación pueden mejorar su precisión para identificarlo. Aunque actualmente es bastante desafiante para los humanos decir que un LLM era responsable de partes de la salida de ChatGPT (en cierto sentido porque todavía es nueva para la mayoría de las personas), el detector de salida de GPT-2 de OpenAI parece ser notablemente bueno en ello. A diferencia de los ensayos generados por ChatGPT sobre los mismos temas, todos los cuales obtuvieron puntuaciones cercanas al 100%, diez ensayos estudiantiles presentados por uno de los autores en diciembre de 2022 tenían puntos que indicaban una posibilidad de menos del 1% de que eran fraudulentos. Además, pedir a ChatGPT que use referencias, diferentes transiciones y escriba como un estudiante de pregrado solo redujo el resultado a alrededor del 97%. Esto está en línea con la investigación de Gao et al. (2022), quien encontró que los detectores de salida de IA eran muy eficaces en la identificación de abstracciones científicas fabricadas, mientras que los humanos fueron mucho peores.

Incluso si la consulta se cambia ligeramente o se ejecuta de nuevo, el texto que ChatGPT genera en respuesta a ella a menudo es extremadamente similar. Sería bastante fácil para un ser humano detectar el plagio si varios estudiantes recurrieron a las mismas preguntas para su trabajo de curso. El programa de detección de plagio más utilizado, Turnitin, revelaría niveles extremadamente altos de similitud entre las presentaciones de todos los estudiantes que usan el mismo conjunto de palabras clave como “prompts” si se evaluaran múltiples ejemplos de cursos. Además, Turnitin declaró el 15 de diciembre de 2022 en su blog que ya tienen ciertas capacidades para detectar la escritura de IA e indicaron que incluirán las “últimas capacidades de detección de escritura por IA (...) para uso de instructores en 2023”. Por supuesto, habrá alguna pugna y el resultado está lejos de estar garantizado (Chechitelli, 2023).

El personal de la universidad debe tomar esto como una llamada para despertar y mirar muy cuidadosamente el diseño de sus exámenes y las medidas para garantizar que la deshonestidad académica se detecte en los trabajos de los estudiantes y se minimice, independientemente de lo que ocurra en el lado tecnológico. En tal efecto, a medida que avanza la tecnología de la IA, también se plantean preocupaciones sobre la externalización (outsourcing) de la escritura y las actividades de evaluación. Debido a que ChatGPT puede terminar rápidamente tareas de redacción consultas abiertas, los estudiantes pueden confiar en este software para completar sus asignaciones (Stokel-Walker, C. 2022). La Unesco, CAF y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación de Chile están trabajando juntos para organizar el primer Foro sobre la Ética de la Inteligencia Artificial para América Latina y el Caribe el 23 de octubre. El objetivo es establecer un consejo regional para implementar la Recomendación de la Ética de la Inteligencia Artificial de Unesco. Este consejo será el principal espacio político y técnico con un enfoque ético, inclusivo y garante de derechos, que se adapte a las necesidades.

En vista de la relevancia actual de este tema y de que aún se carece de evidencia sólida sobre las implicaciones de su uso en la educación superior, nos proponemos examinar las potenciales ventajas y desventajas del uso de ChatGPT y otras tecnologías NLP en la escritura académica y su evaluación, según la revisión de la literatura, para llamar la atención sobre las preocupaciones éticas planteadas por su uso. Es decir, procuramos reunir un conjunto de artículos que se han escrito sobre el tema para analizar cuáles son los puntos en común que abordan y cuál podría ser el consenso sobre el tema de acuerdo con la comunidad académica. A continuación, procederemos a plantear la metodología que utilizamos para analizar las fuentes documentales.

Procesos metodológicos

Con el fin de dar una visión general del uso del sistema ChatGPT en la educación y el aprendizaje basados en la inteligencia artificial, mediante la perspectiva cualitativa se abordaron en detalle las categorías, dimensiones, aspectos teóricos emergentes, expresiones, actitudes y aspectos de cohesión social que difícilmente se expresan en un contacto cuantitativo. A través de una revisión documental de los artículos publicados en el portal Google Académico mediante una búsqueda que se relaciona con las palabras claves ChatGPT, Evaluación docente, Fraude académico con filtro en relevancia, más mencionadas durante lo que va del año 2023, se procuró reconocer e interpretar los hallazgos y acciones implementados en la academia referentes al uso del ChatGPT y las evaluaciones educativas.

Usando como fuentes de datos los artículos más citados relativos a esta pesquisa, se aplicó una estrategia de investigación bibliográfica. La estrategia cualitativa implementada para el análisis requirió la lectura y evaluación crítica de las fuentes, así como la búsqueda de datos pertinentes para apoyar los objetivos del estudio, indagación que no dio resultados para artículos producidos en el área de Latinoamérica. La Tabla 1 muestra el conjunto de fuentes que se estudiaron.

Resultados

1. Desafíos para la evaluación académica del uso del ChatGPT por parte de los estudiantes

Tras realizar el análisis documental, se evidenciaron varios ejes temáticos comunes o recurrentes en los planteamientos de las fuentes: 1. preocupaciones sobre el plagio o preocupaciones éticas; 2. la capacidad de las tecnologías IA como ChatGPT de revolucionar y hacer avanzar la educación superior; 3. la necesidad de formación docente y 4) la necesidad de rediseñar las evaluaciones. A continuación, se describirán los planteamientos comunes en cada eje:

De los 12 artículos revisados, 11 artículos plantean preocupaciones sobre el plagio, la autenticación y la integridad académica. Por ejemplo, Shahriar y Hayawi (2023) menciona posibles razones educativas no éticas, problemas de derechos de autor, plagio y privacidad relacionados con el procesamiento no intencionado de la información de los usuarios, mientras que Fergus et al. (2023) resaltan la necesidad de que plataformas de integridad académica como Turnitin detecten texto creado por IA.

Aunque las herramientas de inteligencia artificial tienen el potencial de aumentar el compromiso y la retención de conocimientos entre los estudiantes, también existen problemas con su evaluación y valoración (Firat, 2023), así como dudas sobre la autenticación, el plagio y la integridad académica (Crawford et al., 2023). No obstante, es posible promover el uso eficiente de la herramienta a través de programas de capacitación universitaria, al tiempo que se promueve la ética y la integridad (Hassani y Silva, 2023).

De los 12 artículos revisados, 11 artículos manifiestan la capacidad de las tecnologías IA como ChatGPT de revolucionar y hacer avanzar la educación superior, además de que resaltan amplios beneficios: a) tienen el potencial de cambiar la biblioteca y el mundo académico, impactando en la forma de recopilar información (Lund y Wang (2023); b) pueden fungir como asistentes y tutores virtuales para instructores; c) buscan facilitar la práctica médica, la educación y la investigación en dicha área (Sedeghat, 2023); d) pueden acelerar el aprendizaje y mejorar el rendimiento, incluso tienen el potencial de apoyar la escritura académica, pues mejoran el procesamiento del lenguaje natural (Malinka et al., 2023; Dergaa et al., 2023; Shahriar y Hayawi, 2023); e) brindan resultados más personalizados a los estudiantes, por lo que podrían reemplazar los motores de búsqueda (AlAfnan et al., 2023).

En cuanto a los beneficios para los educadores, Fergus et al. (2023) destacan cómo los docentes pueden usar IA para diseñar evaluaciones que desafíen a los estudiantes o bien mostrar reconocimiento a sus producciones mediante comentarios personalizados. Además, la inteligencia artificial puede adecuar la instrucción a las necesidades particulares de cada uno y transformar los roles de los educadores (Firat, 2023), así como mejorar los flujos de trabajo y resultados (Hassani y Silva, 2023)

De los 12 artículos revisados, 5 artículos plantean que el cuerpo docente debe ser entrenado para que se rediseñen las evaluaciones, de forma tal que no puedan ser elaboradas por el alumno mediante la inteligencia artificial. Lo (2023) pide una actualización inmediata de la política, capacitación de instructores y educación en cuanto a sus limitaciones. El estudio de Dergaa et al. (2023) recomienda a los académicos que sean cautelosos y aseguren que el uso de IA sea transparente. Igualmente, Chaudhry et al. (2023) instan a las instituciones de educación superior a revisar sus prácticas, con el fin de mejorar los programas de aprendizaje. Una práctica recomendable consiste en rediseñar la evaluación más allá de preguntas basadas en el conocimiento, lo que puede ayudar a los educadores a mejorar su enfoque (Fergus et al., 2023). A pesar de estos retos, la IA puede brindar retroalimentación temprana, lo que permite a los estudiantes demostrar comprensión a través de casos complejos y evaluación menos tradicional (Crawford, 2023).

Los efectos negativos de GPTChat en los estudiantes que utilizan este sistema para completar tareas, en particular aquellas que involucran la escritura creativa, son un aspecto de esta discusión (Hutson, 2022). Los estudiantes evitan seguir las direcciones que el profesor les ofrece mientras crean tareas como resultado. Según la teoría de la escritura creativa, las habilidades de escritura deben aprenderse y afinarse a través de la práctica. De hecho, uno de los resultados o subproductos de la creatividad, que también incluye componentes de talento, es la escritura creativa, la cual requiere orientación y método continuos en su ejecución. La ayuda con la escritura creativa puede estimular a los alumnos a ser más originales, desarrollar su imaginación, ampliar sus fantasías y mejorar sus recuerdos. Los objetivos clave son la belleza, la lógica y la diversión.

Para superar este problema, los educadores deben innovar sus procesos de evaluación y concentrarse en las competencias internas. Es posible que las habilidades generales de escritura ya no se consideren habilidades de trabajo cruciales, en cuyo caso el examen debería poner más énfasis en el pensamiento crítico y la originalidad. Por consiguiente, los profesores deben tener en cuenta las actividades de evaluación de vanguardia y los formularios que evalúan y refuerzan estas habilidades, con el fin de satisfacer las demandas cambiantes de la sociedad y los objetivos educativos.

En resumen, de los artículos revisados, vemos que tienen preocupaciones sobre el plagio o preocupaciones éticas Shahriar y Hayawi (2023); Fergus et al. (2023); Firat (2023); Crawford et al. (2023) y Hassani y Silva (2023). De igual forma, observamos que coinciden en que las tecnologías de IA como ChatGPT tienen la capacidad de transformar y avanzar la educación superior, además de destacar amplios beneficios Lund y Wang (2023); Sedaghat (2023) Malinka et al. (2023); Dergaa et al. (2023); Shahriar y Hayawi (2023); AlAfnan et al. (2023); Lund y Wang (2023) al igual que Hassani y Silva (2023). No obstante, se resalta la necesidad de que los profesores reciban capacitación para rediseñar las evaluaciones, de tal manera que los estudiantes no puedan realizarlas con el uso exclusivo de inteligencia artificial (Lo, 2023; Dergaa et al., 2023; Chaudhry et al., 2023; Crawford et al., 2023; Fergus et al., 2023).

Conclusión

Desde los resultados y la discusión, ChatGPT, con su capacidad de proporcionar respuestas según las palabras clave introducidas por el usuario, puede influir positivamente en el mundo de la educación y el aprendizaje. Como se ha indicado antes, la inteligencia artificial puede fungir como tutor personal de los estudiantes, ayudando a mejorar su producción en escritura; además, su uso personaliza la enseñanza y brinda resultados de búsqueda contextualizados a las necesidades de los estudiantes. Sin embargo, también puede servir como vía de escape para eludir la realización de tareas, impactando así negativamente en el desarrollo de habilidades de escritura creativa y académica. Por lo tanto, es necesario formular una estrategia para que los profesores utilicen otros soportes además del aprendizaje basado en Internet.

Una estrategia que se puede implantar es el uso del papel como medio, en intención de establecer una forma de control y evaluación de procesos cuando se compilan tareas relacionadas con la escritura creativa, según afirma Cassidy (2023). También son importantes las recomendaciones de la Unesco (2023) sobre Inteligencia Artificial en la educación superior, organismo que aconseja asignar roles específicos a la IA (tutor personal, evaluador dinámico, etc.) para que la herramienta funcione como apoyo durante la producción de las tareas, lo cual requiere que los docentes especifiquen en las consignas de escritura cómo se usará la herramienta. En este sentido, se ofrecen las siguientes recomendaciones:

Aprender mucho sobre lo que el sistema puede y no puede hacer; comenzar el viaje para descubrir cuán “bot-proof” sus asignaciones realmente son. Una de las situaciones más obvias es que las preguntas de ensayo muy genéricas son extremadamente susceptibles de engañar a través de GPT. Es importante, entonces, reflexionar sobre si las tareas solicitan un nivel básico en la taxonomía de Bloom o Tobón (recordar hechos y conceptos) o si requieren analizar, conectar, juzgar, diseñar y presentar ideas novedosas. Como ha observado Crouch (2023), GPT es bastante hábil en entregar escritura que es básicamente correcta, pero también la mayoría de las veces utiliza expresiones repetitivas y que son un cliché. Una parte del problema es que este es exactamente el tipo de escritura que a menudo se espera de los graduados en, por ejemplo, un curso introductorio de Humanidades.

Lo anterior indica que conviene moverse hacia las tareas de escritura que no solo pidan a los estudiantes demostrar dominio de hechos objetivos y citar fuentes específicas y recientes, sino también integrar sus propias experiencias personales detalladas a la luz del tema. Por otro lado, se recomienda enseñar a los estudiantes a escribir mediante una serie de diseños y pasos junto con un proceso de edición que refleje la forma en que se crea el conocimiento real. Requerir múltiples pasos de escritura, especialmente combinados con reuniones cara a cara con compañeros o el instructor en camino al proyecto final, ayudará a crear una mejor barrera contra las formas más rutinarias de engaño. En definitiva, la evaluación, y con ello el diseño de estrategias didácticas, transitará por un proceso de adecuación para adaptarse a esta nueva tecnología que, si bien abre puerta a un nuevo tipo de plagio, también ofrece diversos beneficios cuya exploración resulta de interés.

Referencias bibliográficas

Fechas de Publicación

Histórico