Guia de bones pràctiques

Guia de bones pràctiques en l’ús d’IA generativa per a la docència a la Universitat Miguel Hernández d’Elx

Setembre, 2024

Delegació del Rector per a la Transformació Digital de la UMH

Descarrega la Guia de bones pràctiques en l’ús d’IA Generativa per a la docència a la UMH (PDF).

Download the Guidelines for good practices in the use of Generative AI for teaching in the MHU (PDF).

Índex

ChatGPT i els models de llenguatge grans.

L’IA generativa.

Fiabilitat de les IA generatives.

Ús de l’IA Generativa a les Universitats.

Enfocaments Alternatius per a l’Avaluació.

Ús d’IA generatives alternatives.

Referències.

ChatGPT i els models de llenguatge grans

ChatGPT és un model de llenguatge gran (LLM, per les seves sigles en anglès) d’intel·ligència artificial desenvolupat per l’empresa OpenAI. És un chatbot avançat dissenyat per mantenir converses naturals i respondre preguntes de forma coherent i versemblant.

El funcionament de ChatGPT es basa en algoritmes d’IA generativa, entrenats amb immens conjunts de dades que inclouen milions de pàgines web, llibres i articles. Aquests algoritmes analitzen patrons i relacions entre paraules per produir respostes coherents. El procés de generació de text és iteratiu: en cada pas, el model determina quina és la paraula o símbol més probable que ha de seguir, basant-se en el context proporcionat per l’usuari.

L’entrenament de ChatGPT implica costos significatius degut a l’enorme quantitat de dades i potència computacional requerida. S’estima que el cost d’entrenament de models com GPT-3 (amb 175B paràmetres), en el qual es basa ChatGPT, estava entre els 4-5 milions de dòlars (ref. Visual Capitalist).ChatGPT va ser llançat el 30 de novembre de 2022 per OpenAI, una empresa tecnològica amb una inversió considerable de Microsoft. Des del seu llançament, ha tingut un impacte notable en diversos camps, inclòs la docència. En l’àmbit educatiu, ha transformat les metodologies d’ensenyament i avaluació, impulsant la necessitat d’integrar noves tecnologies i adaptar-se a les eines d’IA generativa.

El llançament de ChatGPT ha portat a una revisió de les pràctiques docents. Els educadors han hagut de desenvolupar noves estratègies per aprofitar les capacitats de la IA, com generar esborranys, oferir tutories personalitzades i fomentar l’autorreflexió en els estudiants. Al mateix temps, ha sorgit la necessitat d’abordar qüestions ètiques i d’integritat acadèmica relacionades amb l’ús de la IA. Molts educadors han començat a incorporar ChatGPT com a eina d’aprenentatge, mentre que altres expressen preocupació pel seu potencial ús indegut.

Actualment, ChatGPT ofereix una versió gratuïta que permet als usuaris interactuar amb el model bàsic. També existeixen versions de pagament, com ChatGPT-4o, que proporcionen accés a models més avançats i capacitats millorades. S’espera que en el futur es llancin noves versions amb funcionalitats addicionals i major precisió, adaptant-se contínuament a les necessitats dels usuaris i als avanços tecnològics. Altres empreses han llançat els seus chatbots com Google amb el seu Gemini, que s’integra amb els seus productes de Google Workspace (com Gmail, Google Docs o Google Sheets), o com Anthropic amb el seu chatbot Claude 3.5, que es defineix a si mateix com un model LLM entrenat per ser un assistent útil, honest i inofensiu, amb un to conversacional.

La IA generativa

La IA generativa és un tipus d’intel·ligència artificial capaç de crear contingut nou i original a partir de dades d’entrenament. Serveix per produir diversos tipus de contingut de forma automatitzada.

Les seves principals funcions inclouen:

  1. Generació de text: Pot escriure articles, històries, guions, etc.
  2. Creació d’imatges: Produeix imatges originals basades en descripcions textuals.
  3. Composició musical: Crea melodies i peces musicals completes.
  4. Disseny: Genera dissenys gràfics, logotips, o fins i tot plànols arquitectònics.
  5. Programació: Pot escriure codi i desenvolupar programari.
  6. Traducció i processament del llenguatge natural: Tradueix entre idiomes i entén el context del llenguatge.
  7. Predicció i anàlisi de dades: Genera prediccions basades en patrons de dades existents.
  8. Creació de vídeo i animació: Produeix contingut audiovisual original.

Una IA generativa funciona a través de varios componentes i processos clau. Comença amb l’entrenament utilitzant grans conjunts de dades rellevants per a la seva tasca, com textos, imatges o sons, dels quals aprèn patrons i característiques. Empra arquitectures de xarxes neuronals complexes, com xarxes neuronals profundes (DNN), Transformers (GPT) o xarxes generatives adversarials (GAN), que li permeten capturar relacions intrincades en les dades.

El procés de generació utilitza allò après per crear nou contingut similar però no idèntic a l’original, podent generar des de zero o completar contingut parcial. Per controlar l’aleatorietat i creativitat de les sortides, s’empren tècniques de mostreig com el mostreig per temperatura o el mostreig de nucli.

Molts sistemes utilitzen processos iteratius per millorar gradualment la qualitat de la sortida. A més, aquestes IAs poden ajustar-se per a tasques específiques o estils particulars mitjançant tècniques com el fine-tuning. Sovint, permeten entrades de l’usuari per guiar o modificar el procés de generació, la qual cosa augmenta la seva versatilitat i aplicabilitat en diferents contextos.

Fiabilitat de les IA generatives

La fiabilitat de la IA generativa és un tema complex i matissat. En general, aquestes IAs poden ser molt útils i produir resultats impressionants, però també tenen limitacions i riscos que és important considerar.

Per una banda, la IA generativa pot ser molt fiable per a certes tasques:

  • Generació de contingut creatiu com imatges o text
  • Assistència en tasques de programació o anàlisi de dades
  • Traducció i processament del llenguatge natural

Tanmateix, existeixen diversos aspectes que poden afectar la seva fiabilitat:

  1. Biaix en les dades: Si les dades d’entrenament contenen biaixos, aquests es reflectiran en les sortides.
  2. Falta de comprensió real: Encara que poden generar contingut coherent, no tenen una verdadera comprensió del món real.
  3. Al·lucinacions: Poden generar informació falsa o inexacta, especialment quan se’ls demana quelcom fora de la seva base de coneixements.
  4. Inconsistència: Les respostes poden variar entre diferents execucions.
  5. Falta de context actualitzat: El seu coneixement es limita a la data del seu últim entrenament.
  • Qüestions ètiques i legals: Poden sorgir problemes des del punt de vista ètic, i vulneracions en les normatives, en particular en matèria de protecció de dades i propietat intel·lectual.

    • Per tant, és crucial usar la IA generativa amb criteri, verificar la informació quan sigui necessari i entendre les seves limitacions. La seva fiabilitat depèn en gran mesura del context d’ús i de com s’implementa i supervisa.

    Ús de la IA Generativa a les Universitats

    La IA generativa està transformant significativament el panorama educatiu a les universitats, oferint una varietat d’aplicacions que poden millorar tant l’ensenyament com l’aprenentatge.

    Els estudiants poden millorar el seu aprenentatge mitjançant el reforç amb eines d’IA generativa que els oferirà ajuda per respondre a preguntes i obtenir explicacions de temes complexos. Els estudiants podrien usar la IA generativa per reforçar i aprendre temes complexos, no només per obtenir respostes i utilitzar-les directament en els seus treballs. Altres usos de la IA generativa pot ser l’apoderament en la redacció de borradors de treballs acadèmics o d’articles científics, o la traducció de materials en altres idiomes, o la resposta a exàmens d’anys anteriors, o elaborar mapes conceptuals. La IA generativa permet la creació de materials accessibles per a estudiants amb alguna discapacitat, com la conversió de text a veu i viceversa

    Els professors poden utilitzar la IA generativa per a l’apoderament en la creació de continguts o l’adaptació de materials científics a diferents nivells de comprensió de l’estudiantat, l’automatització de tasques administratives, com la gestió de qualificacions, o l’anàlisi de dades de rendiment d’estudiants per identificar àrees de millora de l’ensenyament. També pot ajudar en la creació de contingut interactiu i/o gamificat que motivi l’aprenentatge de l’estudiantat.

    La IA generativa ha arribat per quedar-se entre nosaltres, i en lloc de prohibir-la, hem d’assumir que és una eina més que millorarà l’aprenentatge i l’ensenyament com ja va ocórrer amb l’arribada d’altres eines com les calculadores, els ordinadors personals, els telèfons mòbils o el cercador Google.

    Per això hem de tenir en compte les següents consideracions amb l’ús de la IA generativa a la UMH:

    • Hem de fomentar un ús ètic de la IA, evitant el plagi i garantint l’autenticitat dels treballs acadèmics.
    • La privacitat de les dades és fonamental en qualsevol interacció amb qualsevol IA.
    • La bretxa tecnològica hauria d’evitar-se sempre que es pugui, intentant que els estudiants tinguin accés igual a les tecnologies d’IA, evitant desigualtats en el rendiment acadèmic.

    · Directrius en l’ús de la IA per l’estudiantat i pel professorat de la UMH

    1. En el context de l’ús de la IA Generativa, l’estudiantat i el professorat de la UMH tenen estrictament prohibit compartir cap tipus de dades personals amb la mateixa. Així mateix, ha d’assegurar-se que les seves preguntes i continguts no contenguin dades personals ni informació que puga resultar en la inferència o deducció de dades personals.
    2. L’estudiantat i el professorat de la UMH han de ser conscients que les dades personals inclouen, entre altres, identificadors personals en text, fotografies, gravacions d’àudio, vídeo, o qualsevol document o arxiu que contengui dades personals. A més, s’ha de considerar que la combinació de diferents tipus de dades pot portar a la identificació de persones.
    3. Tot l’anterior està categòricament prohibit en l’ús d’aplicacions de IA generativa, i el compliment d’aquestes restriccions és obligatori per a l’estudiantat i el professorat de la UMH.
    4. En aquest sentit, i en cas de ser necessari l’ús de dades, l’estudiantat i el professorat de la UMH han de fer ús de dades completament anònimes. En el context del RGPD, les dades anònimes són aquelles que no poden associar-se a una persona identificada o identificable, degut a l’eliminació d’identificadors o a tècniques que impedeixen la reidentificació. Per a ser considerats veritablement anònims, les dades han de ser irreversibles, impossibles d’identificar directa o indirectament, i mantenir el seu anonimato en qualsevol context. Si es compleix amb aquests criteris, les dades deixen de ser personals i no estan subjectes a les disposicions del RGPD

    Enfocaments Alternatius per a l’Avaluació

    L’ús literal de les respostes generades per la IA generativa per part de l’estudiantat en un treball acadèmic o treball final de grau o màster pot ser considerat com a ús de mitjans il·lícits o fraudulents segons l’article 9.4) de la Normativa d’Avaluació dels Estudiants de la Universitat Miguel Hernández d’Elx.

    No obstant això, no es pot prohibir radicalment l’ús de la IA per a la docència, ja que altres usos de la IA són perfectament lícits com anteriorment s’han descrit.

    Davant aquest escenari actual que ens trobem amb l’ús de la IA generativa en la docència, hem de trobar enfocaments alternatius per a l’avaluació dels nostres estudiants on s’utilitze de forma legítima la IA i es garantisca la integritat acadèmica.

    Les següents recomanacions d’ús de la IA per part de l’estudiantat, en el seu procés d’aprenentatge, i del professorat, en el seu procés d’ensenyament, poden ser considerades com una guia de bones pràctiques en l’ús de la IA generativa:

    1. Els treballs acadèmics no han de ser fàcilment generables per una IA generativa: un treball que pugui redactar una IA generativa no permetrà avaluar l’estudiantat. El professorat hauria de comprovar prèviament si una IA generativa redacta bé un treball o no ho fa bé. Una prova d’avaluació adequada hauria de:
      • Ser suficientment específica: no limitar-se a l’exposició d’un tema massa genèric que es pugui copiar o generar fàcilment.
      • Requerir habilitats cognitives d’ordre superior: analitzar, comparar, justificar, criticar, i no només traslladar informació ja existent.
      • Implicar tasques pràctiques, com recollir testimonis o dades reals, tractar o elaborar les dades, analitzar casos concrets, etc.
    2. Avaluar el procés, no només el resultat: Realitzar un seguiment adequat dels treballs durant la seva realització, sense esperar fins a l’entrega final de la tasca, amb revisions periòdiques en les quals l’estudiantat informi al professorat sobre el procés d’elaboració.
    3. Incloure components d’autorreflexió en l’avaluació: que l’estudiant hagi de respondre a qüestions referents al seu aprenentatge i al treball realitzat:
      • Com has planificat i estructurat el treball? Quins problemes has trobat i quines decisions has hagut de prendre?
      • Què has après amb el treball? Quins coneixements o competències noves has adquirit? Quins coneixements o competències prèvies has necessitat aplicar?
    4. Valorar l’adequació del treball escrit als objectius d’aprenentatge i considerar altres opcions i estratègies d’avaluació:
      • Considerar altres tipus de treballs avaluables: vídeos, presentacions, mapes conceptuals o infografies.
      • Considerar altres estratègies d’avaluació, com l’aprenentatge basat en projectes.
    5. Explorar amb l’alumnat les possibilitats i limitacions de la tecnologia:
      • Es pot treballar amb l’estudiantat utilitzant informació generada per una IA generativa sobre temes de l’assignatura, identificant errors o verificant dades.
      • Especialment en assignatures centrades en la redacció de textos o de codi informàtic, es pot intentar integrar les eines d’IA generativa en el cicle de treball habitual.
      • Per exemple, es podria demanar a l’estudiantat que utilitzi un text o codi generat per IA generativa i que expliqui i justifiqui els canvis que ha hagut d’introduir per arribar a la seva versió definitiva.

    Ús d’IA generatives alternatives

    Provar diferents IA Generatives com ChatGPT, Gemini, Copilot o Claude, li permetrà obtenir una comprensió més clara de l’abast i les limitacions d’aquesta tecnologia en el seu àmbit de coneixement. No obstant això, recorde que es tracta d’un servei extern a la universitat i que haurà d’acceptar el tractament de dades personals que puga realitzar. Per tant, no s’hauria d’utilitzar amb estudiants en activitats docents obligatòries.

    Especialment en activitats docents, l’aplicació que recomanem és Gemini de Google o Copilot de Microsoft utilitzant el compte de correu corporatiu de la UMH. Si utilitza Gemini o Copilot amb el seu compte de la UMH, tant Google com Microsoft garanteixen que no guardarà les dades de les converses, les esborrarà al finalitzar la sessió i no les utilitzaran per entrenar els seus models d’IA.

    ChatGPT o Claude no ofereixen als usuaris de la UMH el mateix nivell de protecció. En qualsevol cas, evite introduir dades personals o informació confidencial en les seves interaccions amb qualsevol IA Generativa.

    Referències

    Aquesta guia s’emmarca dins del conveni de col·laboració entre la Generalitat Valenciana, a través de Presidència, i la Universitat Miguel Hernández d’Elx per al foment d’activitats en matèria de transparència, accés a la informació pública, bon govern, dades obertes i integritat institucional, durant l’exercici 2024.