Guía de buenas prácticas en el uso de IA generativa para la docencia en la Universidad Miguel Hernández de Elche

Septiembre, 2024

Delegación del Rector para la Transformación Digital de la UMH

Descarga la Guía de buenas prácticas en el uso de IA Generativa para la docencia en la UMH (PDF).

Download the Guidelines for good practices in the use of Generative AI for teaching in the MHU (PDF).

Índice

ChatGPT y los modelos de lenguaje grandes.

La IA generativa.

Fiabilidad de las IA generativas.

Uso de la IA Generativa en las Universidades.

• Directrices en el uso de la IA por el estudiantado y por el profesorado de la UMH

Enfoques Alternativos para la Evaluación.

Uso de IA generativas alternativas.

Referencias.

ChatGPT y los modelos de lenguaje grandes

ChatGPT es un modelo de lenguaje grande (LLM, por sus siglas en inglés) de inteligencia artificial desarrollado por la empresa OpenAI. Es un chatbot avanzado diseñado para mantener conversaciones naturales y responder preguntas de forma coherente y verosímil.

El funcionamiento de ChatGPT se basa en algoritmos de IA generativa, entrenados con inmensos conjuntos de datos que incluyen millones de páginas web, libros y artículos. Estos algoritmos analizan patrones y relaciones entre palabras para producir respuestas coherentes. El proceso de generación de texto es iterativo: en cada paso, el modelo determina cuál es la palabra o símbolo más probable que debe seguir, basándose en el contexto proporcionado por el usuario.

El entrenamiento de ChatGPT implica costes significativos debido a la enorme cantidad de datos y potencia computacional requeridos. Se estima que el coste de entrenamiento de modelos como GPT-3 (con 175B parámetros), en el que se basa ChatGPT, estaba entre los 4-5 millones de dólares (ref. Visual Capitalist).

ChatGPT fue lanzado el 30 de noviembre de 2022 por OpenAI, una empresa tecnológica con una considerable inversión de Microsoft. Desde su lanzamiento, ha tenido un impacto notable en diversos campos, incluida la docencia. En el ámbito educativo, ha transformado las metodologías de enseñanza y evaluación, impulsando la necesidad de integrar nuevas tecnologías y adaptarse a las herramientas de IA generativa.

El lanzamiento de ChatGPT ha llevado a una revisión de las prácticas docentes. Los educadores han tenido que desarrollar nuevas estrategias para aprovechar las capacidades de la IA, como generar borradores, ofrecer tutorías personalizadas y fomentar la autorreflexión en los estudiantes. Al mismo tiempo, ha surgido la necesidad de abordar cuestiones éticas y de integridad académica relacionadas con el uso de la IA. Muchos educadores han comenzado a incorporar ChatGPT como herramienta de aprendizaje, mientras que otros expresan preocupación por su potencial uso indebido.

Actualmente, ChatGPT ofrece una versión gratuita que permite a los usuarios interactuar con el modelo básico. También existen versiones de pago, como ChatGPT-4o, que proporcionan acceso a modelos más avanzados y capacidades mejoradas. Se espera que en el futuro se lancen nuevas versiones con funcionalidades adicionales y mayor precisión, adaptándose continuamente a las necesidades de los usuarios y a los avances tecnológicos. Otras empresas han lanzado sus chatbots como Google con su Gemini, que se integra con sus productos de Google Workspace (como Gmail, Google Docs o Google Sheets), o como Anthropic con su chatbot Claude 3.5, que se define a sí mismo como un modelo LLM entrenado para ser un asistente útil, honesto e inofensivo, con un tono conversacional.

La IA generativa

La IA generativa es un tipo de inteligencia artificial capaz de crear contenido nuevo y original a partir de datos de entrenamiento. Sirve para producir diversos tipos de contenido de forma automatizada.

Sus principales funciones incluyen:

1. Generación de texto: Puede escribir artículos, historias, guiones, etc.
2. Creación de imágenes: Produce imágenes originales basadas en descripciones textuales.
3. Composición musical: Crea melodías y piezas musicales completas.
4. Diseño: Genera diseños gráficos, logotipos, o incluso planos arquitectónicos.
5. Programación: Puede escribir código y desarrollar software.
6. Traducción y procesamiento del lenguaje natural: Traduce entre idiomas y entiende el contexto del lenguaje.
7. Predicción y análisis de datos: Genera predicciones basadas en patrones de datos existentes.
8. Creación de video y animación: Produce contenido audiovisual original.

Una IA generativa funciona a través de varios componentes y procesos clave. Comienza con el entrenamiento utilizando grandes conjuntos de datos relevantes para su tarea, como textos, imágenes o sonidos, de los cuales aprende patrones y características. Emplea arquitecturas de redes neuronales complejas, como redes neuronales profundas (DNN), Transformers (GPT) o redes generativas adversativas (GAN), que le permiten capturar relaciones intrincadas en los datos.

El proceso de generación utiliza lo aprendido para crear nuevo contenido similar pero no idéntico al original, pudiendo generar desde cero o completar contenido parcial. Para controlar la aleatoriedad y creatividad de las salidas, se emplean técnicas de muestreo como el muestreo por temperatura o el muestreo de núcleo.

Muchos sistemas utilizan procesos iterativos para mejorar gradualmente la calidad de la salida. Además, estas IAs pueden ajustarse para tareas específicas o estilos particulares mediante técnicas como el fine-tuning. A menudo, permiten entradas del usuario para guiar o modificar el proceso de generación, lo que aumenta su versatilidad y aplicabilidad en diferentes contextos.

Fiabilidad de las IA generativas

La fiabilidad de la IA generativa es un tema complejo y matizado. En general, estas IAs pueden ser muy útiles y producir resultados impresionantes, pero también tienen limitaciones y riesgos que es importante considerar.

Por un lado, la IA generativa puede ser muy fiable para ciertas tareas:

• Generación de contenido creativo como imágenes o texto
• Asistencia en tareas de programación o análisis de datos
• Traducción y procesamiento del lenguaje natural

Sin embargo, existen varios aspectos que pueden afectar su fiabilidad:

1. Sesgo en los datos: Si los datos de entrenamiento contienen sesgos, estos se reflejarán en las salidas.
2. Falta de comprensión real: Aunque pueden generar contenido coherente, no tienen una verdadera comprensión del mundo real.
3. Alucinaciones: Pueden generar información falsa o inexacta, especialmente cuando se les pide algo fuera de su base de conocimientos.
4. Inconsistencia: Las respuestas pueden variar entre diferentes ejecuciones.
5. Falta de contexto actualizado: Su conocimiento se limita a la fecha de su último entrenamiento.
6. Cuestiones éticas y legales: Pueden surgir problemas desde el punto de vista ético, y vulneraciones en las normativas, en particular en materia de protección de datos y propiedad intelectual.

Por lo tanto, es crucial usar la IA generativa con criterio, verificar la información cuando sea necesario y entender sus limitaciones. Su fiabilidad depende en gran medida del contexto de uso y de cómo se implementa y supervisa.

Uso de la IA Generativa en las Universidades

La IA generativa está transformando significativamente el panorama educativo en las universidades, ofreciendo una variedad de aplicaciones que pueden mejorar tanto la enseñanza como el aprendizaje.

Los estudiantes pueden mejorar su aprendizaje mediante el refuerzo con herramientas de IA generativa que les ofrecerá ayuda para responder a preguntas y obtener explicaciones de temas complejos. Los estudiantes podrían usar la IA generativa para reforzar y aprender temas complejos, no solo para obtener respuestas y utilizarlas directamente en sus trabajos. Otros usos de la IA generativa puede ser el apoyo en la redacción de borradores de trabajos académicos o de artículos científicos, o la traducción de materiales en otros idiomas, o la respuesta a exámenes de años anteriores, o elaborar mapas conceptuales. La IA generativa permite la creación de materiales accesibles para estudiantes con alguna discapacidad, como la conversión de texto a voz y viceversa

Los profesores pueden utilizar la IA generativa para el apoyo en la creación de contenidos o la adaptación de materiales científicos a diferentes niveles de comprensión del estudiantado, la automatización de tareas administrativas, como la gestión de calificaciones, o el análisis de datos de rendimiento de estudiantes para identificar áreas de mejora de la enseñanza. También puede ayudar en la creación de contenido interactivo y/o gamificado que motive el aprendizaje del estudiantado.

La IA generativa ha llegado para quedarse entre nosotros, y en lugar de prohibirla, debemos asumir que es una herramienta más que mejorará el aprendizaje y la enseñanza como ya ocurrió con la llegada de otras herramientas como las calculadoras, los ordenadores personales, los teléfonos móviles o el buscador Google.

Por ello debemos tener en cuenta las siguientes consideraciones con el uso de la IA generativa en la UMH:

• Debemos fomentar un uso ético de la IA, evitando el plagio y garantizando la autenticidad de los trabajos académicos.
• La privacidad de los datos es fundamental en cualquier interacción con cualquier IA.
• La brecha tecnológica debería evitarse siempre que se pueda, intentando que los estudiantes tengan acceso igual a las tecnologías de IA, evitando desigualdades en el rendimiento académico.

·         Directrices en el uso de la IA por el estudiantado y por el profesorado de la UMH

1. En el contexto del uso de la IA Generativa, el estudiantado y el profesorado de la UMH tienen estrictamente prohibido compartir cualquier tipo de datos personales con la misma. Asimismo, debe asegurarse de que sus preguntas y contenidos no contengan datos personales ni información que pueda resultar en la inferencia o deducción de datos personales.
2. El estudiantado y el profesorado de la UMH deben ser conscientes de que los datos personales incluyen, entre otros, identificadores personales en texto, fotografías, grabaciones de audio, video, o cualquier documento o archivo que contenga datos personales. Además, se debe considerar que la combinación de diferentes tipos de datos puede llevar a la identificación de personas.
3. Todo lo anterior está categóricamente prohibido en el uso de aplicaciones de IA generativa, y el cumplimiento de estas restricciones es obligatorio para el estudiantado y el profesorado de la UMH.
4. En este sentido, y en caso de ser necesario el uso de datos, el estudiantado y el profesorado de la UMH deben hacer uso datos completamente anónimos. En el contexto del RGPD, los datos anónimos son aquellos que no pueden asociarse a una persona identificada o identificable, debido a la eliminación de identificadores o a técnicas que impiden la reidentificación. Para ser considerados verdaderamente anónimos, los datos deben ser irreversibles, imposibles de identificar directa o indirectamente, y mantener su anonimato en cualquier contexto. Si se cumple con estos criterios, los datos dejan de ser personales y no están sujetos a las disposiciones del RGPD

Enfoques Alternativos para la Evaluación

El uso literal de las respuestas generadas por la IA generativa por parte del estudiantado en un trabajo académico o trabajo final de grado o máster puede ser considerado como uso de medios ilícitos o fraudulentos según el artículo 9.4) de la Normativa de Evaluación de los Estudiantes de la Universidad Miguel Hernández de Elche.

Sin embargo, no se puede prohibir radicalmente el uso de la IA para la docencia, pues otros usos de la IA son perfectamente lícitos como antes se han descrito.

Ante este escenario actual que nos encontramos con el uso de la IA generativa en la docencia, debemos encontrar enfoques alternativos para la evaluación de nuestros estudiantes donde se utilice de forma legítima la IA y se garantice la integridad académica.

Las siguientes recomendaciones de uso de la IA por parte del estudiantado, en su proceso de aprendizaje, y del profesorado, en su proceso de enseñanza, pueden ser consideradas como una guía de buenas prácticas en el uso de la IA generativa:

1. Los trabajos académicos no deben ser fácilmente generables por una IA generativa: un trabajo que pueda redactar una IA generativa no permitirá evaluar al estudiante. El profesorado debería comprobar previamente si una IA generativa redacta bien un trabajo o no lo hace bien. Una prueba de evaluación adecuada debería:
   • Ser suficientemente específica: no limitarse a la exposición de un tema demasiado genérico que se pueda copiar o generar fácilmente.
   • Requerir habilidades cognitivas de orden superior: analizar, comparar, justificar, criticar, y no solo trasladar información ya existente.
   • Implicar tareas prácticas, como recoger testimonios o datos reales, tratar o elaborar los datos, analizar casos concretos, etc.
2. Evaluar el proceso, no solo el resultado: Realizar un seguimiento adecuado de los trabajos durante su realización, sin esperar hasta la entrega final de la tarea, con revisiones periódicas en las que el estudiantado informe al profesorado sobre el proceso de elaboración.
3. Incluir componentes de autorreflexión en la evaluación: que el estudiante tenga que responder a cuestiones referentes a su aprendizaje y al trabajo realizado:
   • ¿Cómo has planificado y estructurado el trabajo? ¿Qué problemas has encontrado y qué decisiones has tenido que tomar?
   • ¿Qué has aprendido con el trabajo? ¿Qué conocimientos o competencias nuevas has adquirido? ¿Qué conocimientos o competencias previas has necesitado aplicar?
4. Valorar la adecuación del trabajo escrito a los objetivos de aprendizaje y considerar otras opciones y estrategias de evaluación:
   • Considerar otros tipos de trabajos evaluables: vídeos, presentaciones, mapas conceptuales o infografías.
   • Considerar otras estrategias de evaluación, como el aprendizaje basado en proyectos.
5. Explorar con el alumnado las posibilidades y limitaciones de la tecnología:
   • Se puede trabajar con el estudiantado utilizando información generada por una IA generativa sobre temas de la asignatura, identificando errores o verificando datos.
   • Especialmente en asignaturas centradas en la redacción de textos o de código informático, se puede intentar integrar las herramientas de IA generativa en el ciclo de trabajo habitual.
   • Por ejemplo, se podría pedir al estudiantado que utilice un texto o código generado por IA generativa y que explique y justifique los cambios que ha tenido que introducir para llegar a su versión definitiva.

Uso de IA generativas alternativas

Probar diferentes IA Generativas como ChatGPT, Gemini, Copilot o Claude, le permitirá obtener una comprensión más clara del alcance y las limitaciones de esta tecnología en su ámbito de conocimiento. No obstante, recuerde que se trata de un servicio externo a la universidad y que deberá aceptar el tratamiento de datos personales que pueda realizar. Por lo tanto, no se debería utilizar con estudiantes en actividades docentes obligatorias.

Especialmente en actividades docentes, la aplicación que recomendamos es Gemini de Google o Copilot de Microsoft utilizando la cuenta de correo corporativa de la UMH. Si utiliza Gemini o Copilot con su cuenta de la UMH, tanto Google como Microsoft garantizan que no guardará los datos de las conversaciones, los borrarán al finalizar la sesión y no los utilizarán para entrenar sus modelos de IA.

ChatGPT o Claude no ofrecen a los usuarios de la UMH el mismo nivel de protección. En cualquier caso, evite introducir datos personales o información confidencial en sus interacciones con cualquier IA Generativa.

Referencias

• ChatGPT: què és, per a què serveix i quines conseqüències té per a la docència (UJI)
• Guía para integrar las tecnologías basadas en inteligencia artificial generativa en los procesos de enseñanza y aprendizaje (UNED)
• IA generativa: herramientas útiles para el personal docente (UOC)
• Guías sobre inteligencia artificial y educación (URV)
• Teaching with AI (OpenAI)
• Practical AI for Teachers and Students (Mollick, E. & Mollick, L.) (YouTUBE)
• A Teacher’s Prompt Guide to ChatGPT aligned with ‘What Works Best’ (Andrew Herft) (traducción al español de Gisele Cordero)

Esta guía está enmarcada dentro del convenio de colaboración entre la Generalitat Valenciana, a través de Presidencia, y la Universidad Miguel Hernández de Elche para el fomento de actividades en materia de transparencia, acceso a la información pública, buen gobierno, datos abiertos e integridad institucional, durante el ejercicio 2024.