2023

capitolo 1 Cos’è l’intelligenza artificiale generativa e come funziona
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 2 Controversie riguardo all’IA generativa e le loro implicazioni per l’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 3 Regolamentare l’uso dell’IA generativa nell’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 4 Verso un quadro politico per l’uso dell’IA generativa nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 5 Agevolare l’uso creativo di GenAI nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 6 GenAI e il futuro dell’istruzione e della ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

Conclusioni
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

---

 

traduzione libera in italiano tramite
Google BARD, Chat GPT, Perpelixity.ai

Guidance for generative AI in education and research (english version)

---

 

Cos’è l’intelligenza artificiale generativa e come funziona

1.1 Cos’è l’intelligenza artificiale generativa?

L’intelligenza artificiale generativa (GenAI) è una tecnologia di intelligenza artificiale (AI) che genera automaticamente contenuti in risposta a prompt scritti in interfacce conversazionali di linguaggio naturale. Invece di limitarsi a curare le pagine web esistenti, attingendo a contenuti esistenti, GenAI produce effettivamente nuovi contenuti. I contenuti possono apparire in formati che comprendono tutte le rappresentazioni simboliche del pensiero umano: testi scritti in linguaggio naturale, immagini (da fotografie a dipinti digitali e cartoni animati), video, musica e codice software. GenAI viene addestrato utilizzando dati raccolti da pagine web, conversazioni sui social media e altri media online. Genera i suoi contenuti analizzando statisticamente le distribuzioni di parole, pixel o altri elementi nei dati che ha ingerito e identificando e ripetendo schemi comuni (ad esempio, quali parole seguono tipicamente altre parole).

Sebbene GenAI possa produrre nuovi contenuti, non può generare nuove idee o soluzioni alle sfide del mondo reale, poiché non comprende gli oggetti del mondo reale o le relazioni sociali che sottendono al linguaggio. Inoltre, nonostante la sua produzione fluente e impressionante, GenAI non può essere considerato attendibile. In effetti, anche il fornitore di ChatGPT riconosce che “Sebbene strumenti come ChatGPT possano spesso generare risposte che sembrano ragionevoli, non possono essere considerati accurati”. (OpenAI, 2023). Nella maggior parte dei casi, gli errori passeranno inosservati a meno che l’utente non abbia una solida conoscenza dell’argomento in questione.

 

1.2 Come funziona l’intelligenza artificiale generativa?

Le tecnologie specifiche alla base di GenAI fanno parte della famiglia delle tecnologie AI chiamate Machine Learning (ML) che utilizza algoritmi per consentirle di migliorare continuamente e automaticamente le sue prestazioni dai dati. Il tipo di ML che ha portato a molti dei progressi nell’AI che abbiamo visto negli ultimi anni, come l’uso dell’AI per il riconoscimento facciale, è noto come Reti neurali artificiali (ANN), che sono ispirate al modo in cui funziona il cervello umano e alle sue connessioni sinaptiche tra neuroni. Esistono molti tipi di ANN.

Sia le tecnologie di intelligenza artificiale generativa di testo che di immagini si basano su un insieme di tecnologie AI che sono state disponibili ai ricercatori da diversi anni. Ad esempio, ChatGPT utilizza un Generative Pre-trained Transformer (GPT), mentre l’intelligenza artificiale generativa di immagini utilizza tipicamente i cosiddetti Generative Adversarial Networks (GAN) (vedi Tabella 1).

 

 

Tabella 1. Tecniche utilizzate nell’intelligenza artificiale generativa
Apprendimento automatico (Machine Learning, ML)		Un tipo di intelligenza artificiale che utilizza i dati per migliorare automaticamente le sue prestazioni.
Rete neurale artificiale (Artificial Neural Network, ANN)		Un tipo di apprendimento automatico ispirato alla struttura e al funzionamento del cervello umano (ad esempio, le connessioni sinaptiche tra i neuroni).
Intelligenza artificiale generativa di testo “Trasformatori a uso generale”	(General-purpose Transformers)	Un tipo di ANN in grado di concentrarsi su diverse parti dei dati per determinare come si relazionano tra loro.
	“Modelli linguistici di grandi dimensioni” (Large Language Models, LLM)	Un tipo di Trasformatori a uso generale addestrato su vaste quantità di dati di testo.
	“Trasformatore generativo preaddestrato” (Generative Pre-trained Transformer, GPT)	Un tipo di LLM preaddestrato su quantità ancora maggiori di dati, il che consente al modello di catturare le sfumature del linguaggio e generare testo coerente e consapevole del contesto.
Intelligenza artificiale generativa di immagini	“Reti nemiche generative” (Generative Adversarial Networks, GANs)	Tipi di reti neurali utilizzate per la generazione di immagini.
	“Autoencoder variazionali” (Variational Autoencoders, VAEs)

 

 

1.2.1. Come funzionano i modelli GenAI di testo

L’intelligenza artificiale generativa di testo utilizza un tipo di rete neurale artificiale conosciuta come un Transformer a uso generale e un tipo di Transformer a uso generale chiamato Large Language Model (LLM). È per questo motivo che i sistemi GenAI di testo sono spesso indicati come Large Language Models o LLM. Il tipo di LLM utilizzato da GenAI di testo è noto come Generative Pre-trained Transformer o GPT (da qui il ‘GPT’ in ‘ChatGPT’).

ChatGPT è basato su GPT-3, sviluppato da OpenAI. Questa è stata la terza iterazione del loro GPT, la prima è stata lanciata nel 2018 e la più recente, GPT-4, nel marzo 2023 (vedi Tabella 2). Ciascuna iterazione di OpenAI GPT ha migliorato progressivamente la precedente attraverso avanzamenti nelle architetture dell’intelligenza artificiale, nei metodi di addestramento e nelle tecniche di ottimizzazione. Un aspetto noto del suo progresso continuo è l’uso di crescenti quantità di dati per addestrare il suo numero esponenzialmente crescente di “parametri”. I parametri possono essere considerati come manopole metaforiche che possono essere regolate per perfezionare le prestazioni del GPT. Essi includono i “pesi” del modello, parametri numerici che determinano come il modello elabora l’input e produce l’output.

Oltre ai progressi nell’ottimizzazione delle architetture dell’intelligenza artificiale e nei metodi di addestramento, questa rapida iterazione è stata resa possibile anche grazie alle enormi quantità di dati e ai miglioramenti nelle capacità di calcolo disponibili alle grandi aziende. Dal 2012, le capacità di calcolo utilizzate per l’addestramento dei modelli GenAI si sono duplicate ogni 3-4 mesi. A titolo di confronto, la Legge di Moore aveva un periodo di raddoppio di due anni (OpenAI, 2018; Università di Stanford, 2019).

 

 

Tabella 2. OpenAI GPTs
MODELLO	DISTRIBUITO	DATI ADDESTRAMENTO	NUMBERO PARAMETERI	DESCRIZIONE
GPT-1	2018	40 GB	117 milioni	Capace di compiti di elaborazione del linguaggio naturale come completare testi e rispondere a domande.
GPT-2	2019	40 GB	1,500 milioni	Capace di compiti di elaborazione del linguaggio naturale più complessi come la traduzione automatica e la sintesi.
GPT-3	2020	17,000 GB	175,000 milioni	Capace di compiti avanzati di elaborazione del linguaggio naturale come scrivere paragrafi coerenti e generare interi articoli. Inoltre, è in grado di adattarsi a nuovi compiti con solo alcuni esempi.
GPT-46	2023	1,000,000 GB (non confermato)	170,000,000 milioni  (non confermato)	Affidabilità migliorata e capacità di elaborare istruzioni più complesse.

 

 

Una volta che il GPT è stato addestrato, la generazione di una risposta di testo a un prompt comporta i seguenti passaggi:

1. Il prompt viene suddiviso in unità più piccole (chiamate token) che vengono inserite nel GPT.
2. Il GPT utilizza modelli statistici per prevedere le parole o le frasi probabili che potrebbero formare una risposta coerente al prompt.

– Il GPT identifica modelli di parole e frasi che comunemente co-occorrono nel suo ampio modello di dati pre-costruito (che comprende testo raccolto da Internet e altrove).

– Utilizzando questi modelli, il GPT stima la probabilità di specifiche parole o frasi che appaiono in un dato contesto.

– Iniziando con una previsione casuale, il GPT utilizza queste probabilità stimate per prevedere la successiva parola o frase probabile nella sua risposta.

3. Le parole o frasi previste vengono convertite in testo leggibile.
4. Il testo leggibile viene filtrato attraverso ciò che sono conosciuti come “guardie” per rimuovere contenuti offensivi.
5. I passaggi dal 2 al 4 vengono ripetuti fino a quando una risposta è completata. La risposta è considerata completa quando raggiunge un limite massimo di token o soddisfa i criteri di interruzione predefiniti.
6. La risposta viene sottoposta a post-elaborazione per migliorare la leggibilità mediante l’applicazione di formattazione, punteggiatura e altre migliorie (ad esempio, iniziando la risposta con parole che un essere umano potrebbe usare, come “Certamente” o “Mi dispiace”).

 

Mentre i GPT e la loro capacità di generare automaticamente testo sono stati disponibili per i ricercatori dal 2018, ciò che ha reso così innovativo il lancio di ChatGPT è stato il suo accesso gratuito tramite un’interfaccia facile da usare, il che significa che chiunque abbia accesso a Internet poteva esplorare lo strumento. Il lancio di ChatGPT ha scatenato onde d’urto in tutto il mondo e ha rapidamente portato altre aziende tecnologiche globali a cercare di copiare, insieme a numerose start-up, che lo hanno fatto sia lanciando propri sistemi simili sia costruendo nuovi strumenti basati su di esso.

Entro luglio 2023, alcune delle alternative a ChatGPT includevano le seguenti:

• Alpaca:7 Una versione ottimizzata del Llama di Meta, dall’Università di Stanford, che mira a affrontare informazioni false, stereotipi sociali e linguaggio tossico nei LLM.
• Bard:8 Un LLM di Google, basato sui sistemi LaMDA e PaLM 2, che ha accesso a Internet in tempo reale, il che significa che può fornire informazioni aggiornate.
• Chatsonic:9 Realizzato da Writesonic, si basa su ChatGPT e raccoglie dati direttamente.
• Ernie (noto anche come Wenxin Yiyan 文心一言):10 Un LLM bilingue di Baidu, ancora in fase di sviluppo, che integra una vasta conoscenza con massicci set di dati per generare testo e immagini.
• Hugging Chat:11 Realizzato da HuggingFace, che ha enfatizzato etica e trasparenza durante lo sviluppo, l’addestramento e la distribuzione. Inoltre, tutti i dati utilizzati per addestrare i loro modelli sono open source.
• Jasper:12 Un insieme di strumenti e API che, ad esempio, possono essere addestrati a scrivere nello stile preferito dell’utente. Può anche generare immagini.
• Llama:13 Un LLM open source di Meta che richiede meno potenza di calcolo e meno risorse per testare nuovi approcci, convalidare il lavoro degli altri ed esplorare nuovi casi d’uso.
• Open Assistant:14 Un approccio open source progettato per consentire a chiunque abbia sufficiente competenza di sviluppare il proprio LLM. È stato costruito su dati di addestramento curati da volontari.

• Tongyi Qianwen (通义千问):15 Un LLM di Alibaba che può rispondere a prompt in inglese o cinese. Sta venendo integrato nella suite di strumenti aziendali di Alibaba.
• YouChat:16 Un LLM che incorpora capacità di ricerca in tempo reale per fornire ulteriore contesto e informazioni al fine di generare risultati più accurati e affidabili.

La maggior parte di questi strumenti è gratuita (entro determinati limiti), mentre alcuni sono open source. Moltri altri prodotti basati su uno di questi LLM vengono lanciati. Ecco alcuni esempi:

• ChatPDF:17 Riassume e risponde alle domande su documenti PDF inviati.
• Elicit: The AI Research Assistant:18 Mirato a automatizzare alcune parti del flusso di lavoro dei ricercatori, identificando ricerche rilevanti e riassumendo informazioni chiave.
• Perplexity:19 Fornisce un “hub di conoscenza” per le persone che cercano risposte rapide e accurate adatte alle loro esigenze.

Allo stesso modo, gli strumenti basati su LLM vengono integrati in altri prodotti, come i browser web. Ad esempio, le estensioni per il browser Chrome basate su ChatGPT includono le seguenti:

• WebChatGPT:20 Concede a ChatGPT l’accesso a Internet per consentire conversazioni più accurate e aggiornate.
• Compose AI:21 Completa frasi in email e altrove.
• TeamSmart AI:22 Fornisce un “team di assistenti virtuali”.
• Wiseone:23 Semplifica le informazioni online.

Inoltre, ChatGPT è stato incorporato in alcuni motori di ricerca24 ed è stato implementato in grandi portfoli di strumenti di produttività (ad esempio, Microsoft Word ed Excel), rendendolo ancora più disponibile in uffici e istituti educativi di tutto il mondo (Murphy Kelly, 2023).

 

Infine, come interessante transizione verso l’intelligenza artificiale generativa di immagini, il più recente GPT di OpenAI, GPT-4, è in grado di accettare immagini oltre al testo nei suoi prompt. In questo senso, è multimodale. Di conseguenza, alcuni sostengono che il nome “Large Language Model” (LLM) stia diventando meno appropriato, ed è una delle ragioni per cui i ricercatori dell’Università di Stanford hanno proposto il termine “foundation model” (Bommasani et al., 2021). Questa alternativa deve ancora essere ampiamente adottata.

 

1.2.2. Come funzionano i modelli GenAI di immagini

I modelli GenAI di immagini e GenAI di musica utilizzano tipicamente un tipo diverso di rete neurale artificiale chiamata Generative Adversarial Networks (GANs), che può anche essere combinata con Autoencoder Variazionali. Le GAN hanno due parti (due “avversari”), il “generatore” e il “discriminatore”. Nel caso delle GAN di immagini, il generatore crea un’immagine casuale in risposta a un prompt, mentre il discriminatore cerca di distinguere tra questa immagine generata e immagini reali. Il generatore utilizza quindi il risultato del discriminatore per regolare i suoi parametri, al fine di creare un’altra immagine. Il processo viene ripetuto, possibilmente migliaia di volte, con il generatore che produce immagini sempre più realistiche che il discriminatore è sempre meno in grado di distinguere dalle immagini reali. Ad esempio, una GAN di successo addestrata su un dataset di migliaia di fotografie di paesaggi potrebbe generare nuove immagini di paesaggi irreali ma quasi indistinguibili dalle fotografie reali. Nel frattempo, una GAN addestrata su un dataset di musica popolare (o persino di un singolo artista) potrebbe generare nuove composizioni musicali che seguono la struttura e la complessità della musica originale.

 

Al luglio 2023, i modelli Image GenAI disponibili includono i seguenti, tutti in grado di generare immagini da prompt di testo. La maggior parte di essi è gratuita, entro certi limiti:

• Craiyon:25 precedentemente noto come DALL•E mini.
• DALL•E 2:26 lo strumento Image GenAI di OpenAI.
• DreamStudio:27 lo strumento Image GenAI di Stable Diffusion.
• Fotor:28 incorpora GenAI in una serie di strumenti di editing delle immagini.
• Midjourney:29 uno strumento Image GenAI indipendente.
• NightCafe:30 Interfaccia per Stable Diffusion e DALL•E 2.
• Photosonic:31 Generatore di arte AI di WriteSonic.

 

Ecco alcuni esempi di GenAI video a facile accesso:

• Elai:32 può convertire presentazioni, siti web e testo in video.
• GliaCloud:33 può generare video da contenuti di notizie, post sui social media, eventi sportivi in diretta e dati statistici.
• Pictory:34 può creare automaticamente video brevi da contenuti di lunghezza maggiore.
• Runway:35 offre una serie di strumenti di generazione e modifica video (e immagini).

 

Infine, questi sono alcuni esempi di GenAI musicale a facile accesso:

• Aiva:36 può creare automaticamente colonne sonore personalizzate.
• Boomy,37 Soundraw,38 e Voicemod:39 possono generare canzoni da qualsiasi testo e non richiedono conoscenze di composizione musicale.

 

1.3 Progettazione di prompt per generare output desiderati

Sebbene l’uso di GenAI possa essere semplice come scrivere una domanda o un altro prompt, la realtà è che non è ancora semplice per l’utente ottenere esattamente l’output desiderato. Ad esempio, l’immagine AI Théâtre D’opéra Spatial, che ha vinto un premio alla Colorado State Fair negli Stati Uniti, ha richiesto settimane di scrittura di prompt e la messa a punto di centinaia di immagini per generare la presentazione finale (Roose, 2022). La sfida simile di scrivere prompt efficaci per il GenAI di testo ha portato a un numero crescente di offerte di lavoro di progettazione di prompt sui siti di reclutamento (Popli, 2023). La “progettazione di prompt” si riferisce ai processi e alle tecniche per comporre input al fine di produrre output GenAI che somigli maggiormente all’intento desiderato dell’utente.

 

La progettazione di prompt ha successo quando il prompt articola una catena coerente di ragionamento centrata su un problema specifico o su un filo di pensiero in un ordine logico. Raccomandazioni specifiche includono:

• Utilizzare un linguaggio semplice, chiaro e diretto che possa essere facilmente compreso, evitando formulazioni complesse o ambigue.
• Includere esempi per illustrare la risposta desiderata o il formato delle completazioni generate.
• Includere contesto, che è cruciale per generare completamenti rilevanti e significativi.
• Rifinire e iterare secondo necessità, sperimentando con diverse variazioni.
• Avere etica, evitando prompt che potrebbero generare contenuti inappropriati, tendenziosi o dannosi.

 

È anche importante riconoscere immediatamente che gli output del GenAI non possono essere considerati affidabili senza una valutazione critica. Come scrive OpenAI riguardo al loro GPT più sofisticato:

“Nonostante le sue capacità, il GPT-4 ha limitazioni simili ai modelli GPT precedenti. Soprattutto, non è ancora completamente affidabile (essa “allucina” fatti e commette errori di ragionamento). Si deve fare molta attenzione quando si utilizzano gli output del modello di lingua, specialmente in contesti ad alto rischio, con il protocollo esatto (come la revisione umana, l’ancoraggio con ulteriori contesti o l’evitare completamente usi ad alto rischio) che corrisponde alle esigenze di un caso d’uso specifico.”

 

Alla luce della qualità degli output di GenAI, dovrebbero essere condotti rigorosi test degli utenti e valutazioni delle prestazioni prima di convalidare gli strumenti per l’adozione su larga scala o in contesti ad alto rischio. Tali esercitazioni dovrebbero essere progettate con una metrica di prestazione che sia più rilevante per il tipo di compito per cui gli utenti chiedono a GenAI di fornire output. Ad esempio, per risolvere problemi matematici, “accuratezza” potrebbe essere utilizzata come metrica principale per quantificare quanto spesso uno strumento GenAI produce la risposta corretta; per rispondere a domande sensibili, la principale metrica per misurare la prestazione potrebbe essere “tasso di risposta” (la frequenza con cui GenAI risponde direttamente a una domanda); per la generazione di codice, la metrica potrebbe essere “la frazione dei codici generati che sono direttamente eseguibili” (se il codice generato può essere eseguito direttamente in un ambiente di programmazione e supera i test unitari); per il ragionamento visivo, la metrica potrebbe essere “corrispondenza esatta” (se gli oggetti visivi generati corrispondono esattamente alla verità di riferimento) (Chen, Zaharia e Zou, 2023).

 

In sintesi, a un livello superficiale, GenAI è facile da usare; tuttavia, output più sofisticati richiedono input umano esperto e devono essere valutati criticamente prima dell’uso.

 

Implicazioni per l’istruzione e la ricerca

Sebbene il GenAI possa aiutare insegnanti e ricercatori a generare testo utile e altri output per sostenere il loro lavoro, non è necessariamente un processo semplice. Può richiedere molteplici iterazioni di un prompt prima di ottenere l’output desiderato. Una preoccupazione è che i giovani studenti, essendo per definizione meno esperti degli insegnanti, potrebbero accettare senza rendersene conto e senza un coinvolgimento critico un output del GenAI che è superficiale, inaccurato o addirittura dannoso.

 

1.4 Emergenza di EdGPT e le sue implicazioni

Dato che i modelli GenAI possono servire come base o punto di partenza per lo sviluppo di modelli più specializzati o specifici per un determinato dominio, alcuni ricercatori hanno suggerito che i GPT dovrebbero essere ribattezzati “modelli fondamentali” (Bommasani et al., 2021). Nell’ambito dell’istruzione, sviluppatori e ricercatori hanno iniziato a perfezionare un modello fondamentale per sviluppare l’ “EdGPT”. I modelli EdGPT sono addestrati con dati specifici per scopi educativi. In altre parole, l’EdGPT mira a perfezionare il modello derivato da grandi quantità di dati di formazione generale con quantità minori di dati specifici del settore dell’istruzione di alta qualità.

 

Ciò potrebbe dare all’EdGPT una maggiore capacità di supportare il raggiungimento delle trasformazioni elencate nella Sezione 4.3. Ad esempio, i modelli EdGPT mirati alla progettazione del curriculum possono consentire agli educatori e agli studenti di generare materiali educativi appropriati, come piani di lezione, quiz e attività interattive, che si allineano strettamente a un approccio pedagogico efficace e a obiettivi curriculari specifici e livelli di sfida per determinati studenti. Allo stesso modo, nel contesto di un coach per le competenze linguistiche in rapporto 1:1, un modello fondamentale raffinato con testi appropriati per una lingua specifica potrebbe essere utilizzato per generare frasi, paragrafi o conversazioni campione per l’allenamento. Quando gli studenti interagiscono con il modello, esso può rispondere con testo pertinente e grammaticalmente corretto al livello giusto per loro. Teoricamente, gli output dei modelli EdGPT potrebbero anche contenere meno pregiudizi generali o contenuti altrimenti contestabili rispetto a GPT standard, ma potrebbero comunque generare errori. È fondamentale notare che, a meno che i modelli GenAI sottostanti e l’approccio non cambino significativamente, l’EdGPT potrebbe ancora generare errori e presentare limitazioni in altri modi, come suggerimenti su piani di lezione o strategie didattiche. Pertanto, è ancora importante che gli utenti principali dell’EdGPT, specialmente insegnanti e studenti, adottino un punto di vista critico su qualsiasi output.

 

Attualmente, il perfezionamento dei modelli fondamentali per un utilizzo più mirato di GPT nell’istruzione è ancora in una fase iniziale. Gli esempi esistenti includono EduChat, un modello fondamentale sviluppato dalla East China Normal University per fornire servizi per l’insegnamento e l’apprendimento, il cui codice, dati e parametri sono condivisi come open source. Un altro esempio è MathGPT sviluppato dal TAL Education Group – un LLM che si concentra sulla risoluzione di problemi e sulla didattica legata alla matematica per gli utenti in tutto il mondo.

 

Tuttavia, prima che si possa fare progressi significativi, è essenziale dedicare sforzi al perfezionamento dei modelli fondamentali non solo attraverso l’aggiunta di conoscenze specifiche della materia e la rimozione di pregiudizi, ma anche attraverso l’aggiunta di conoscenze sui metodi di apprendimento pertinenti e su come questo può essere riflesso nella progettazione di algoritmi e modelli. La sfida sta nel determinare fino a che punto i modelli EdGPT possano andare oltre le conoscenze delle materie per mirare anche a pedagogie centrate sugli studenti e a interazioni positive tra insegnanti e studenti. La sfida successiva è determinare fino a che punto i dati degli studenti e degli insegnanti possano essere raccolti ed utilizzati eticamente per informare un EdGPT. Infine, è anche necessaria una robusta ricerca per garantire che l’EdGPT non violi i diritti umani degli studenti né indebolisca gli insegnanti.

Controversie riguardo all’IA generativa e le loro implicazioni per l’istruzione

Dopo aver discusso in precedenza cosa sia il GenAI e come funziona, questa sezione esamina le controversie e i rischi etici sollevati da tutti i sistemi GenAI e considera alcune delle implicazioni per l’istruzione.

 

2.1 Aggravamento della povertà digitale

Come già notato, il GenAI si basa su enormi quantità di dati e su un enorme potere di calcolo, oltre alle sue innovative iterazioni nelle architetture dell’IA e nei metodi di formazione, che sono principalmente disponibili solo alle più grandi aziende tecnologiche internazionali e a poche economie (principalmente gli Stati Uniti, la Repubblica Popolare Cinese e, in misura minore, l’Europa). Ciò significa che la possibilità di creare e controllare il GenAI è fuori dalla portata della maggior parte delle aziende e dei paesi, specialmente quelli del Sud del Mondo.

 

Poiché l’accesso ai dati diventa sempre più essenziale per lo sviluppo economico dei paesi e per le opportunità digitali degli individui, quei paesi e quelle persone che non hanno accesso o non possono permettersi dati sufficienti si trovano in una situazione di “povertà di dati” (Marwala, 2023). La situazione è simile per l’accesso al potere di calcolo. La rapida diffusione del GenAI nei paesi e nelle regioni tecnologicamente avanzate ha accelerato in modo esponenziale la generazione e l’elaborazione dei dati e, contemporaneamente, ha intensificato la concentrazione della ricchezza dell’IA nel Nord Globale. Di conseguenza, le regioni povere di dati sono state ulteriormente escluse e messe a rischio a lungo termine di essere colonizzate dagli standard incorporati nei modelli GPT. Gli attuali modelli di ChatGPT sono addestrati su dati di utenti online che riflettono i valori e le norme del Nord Globale, rendendoli inappropriati per algoritmi AI localmente rilevanti nelle comunità povere di dati in molte parti del Sud Globale o nelle comunità più svantaggiate del Nord Globale.

 

Implicazioni per l’istruzione e la ricerca

I ricercatori, gli insegnanti e gli studenti dovrebbero adottare un punto di vista critico sulle orientazioni valutative, gli standard culturali e le consuetudini sociali incorporati nei modelli di addestramento GenAI. I responsabili delle politiche dovrebbero essere consapevoli e intervenire per affrontare il peggioramento delle disuguaglianze causato dall’ampio divario nell’addestramento e nel controllo dei modelli GenAI.

 

2.2 Superamento dell’adattamento alla regolamentazione nazionale

I fornitori dominanti di GenAI sono stati anche criticati per non consentire che i loro sistemi siano sottoposti a rigorose revisioni accademiche indipendenti (Dwivedi et al., 2023). Le tecnologie fondamentali di un’azienda GenAI tendono a essere protette come proprietà intellettuale aziendale. Nel frattempo, molte delle aziende che stanno iniziando a utilizzare il GenAI stanno incontrando sempre più sfide nel mantenere la sicurezza dei loro sistemi (Lin, 2023). Inoltre, nonostante le richieste di regolamentazione provenienti dall’industria dell’IA stessa, la stesura di legislazione sulla creazione e sull’uso di tutta l’IA, compreso il GenAI, spesso rimane indietro rispetto al rapido sviluppo. Questo spiega in parte le sfide incontrate dalle agenzie nazionali o locali nel comprendere e governare le questioni legali ed etiche.

 

Sebbene il GenAI possa aumentare le capacità umane nel completare determinati compiti, c’è un limitato controllo democratico sulle aziende che promuovono il GenAI. Ciò solleva la questione delle regolamentazioni, in particolare per quanto riguarda l’accesso e l’uso dei dati domestici, compresi i dati su istituzioni e individui locali, oltre ai dati generati sul territorio dei paesi. È necessaria una legislazione adeguata affinché le agenzie governative locali possano acquisire un certo controllo sulle onde crescenti del GenAI per garantire il suo governo come un bene pubblico.

 

Implicazioni per l’istruzione e la ricerca

I ricercatori, gli insegnanti e gli studenti dovrebbero essere consapevoli della mancanza di regolamentazioni adeguate per proteggere la proprietà delle istituzioni e degli individui domestici e i diritti degli utenti domestici del GenAI e per rispondere alle questioni legislative scaturite dal GenAI.

 

2.3 Uso di contenuti senza consenso

Come già notato in precedenza, i modelli GenAI sono costruiti su grandi quantità di dati (ad esempio, testi, suoni, codice e immagini) spesso raccolti da Internet e di solito senza il permesso dei proprietari. Di conseguenza, molti sistemi GenAI di immagini e alcuni sistemi GenAI di codice sono stati accusati di violare i diritti di proprietà intellettuale. Al momento della stesura, ci sono diversi procedimenti legali internazionali in corso che riguardano questa questione.

 

Inoltre, alcuni hanno fatto notare che i GPT potrebbero contravvenire a leggi come il Regolamento generale sulla protezione dei dati (GDPR) dell’Unione Europea (2016), in particolare al diritto delle persone all’oblio, poiché attualmente è impossibile rimuovere i dati di qualcuno (o i risultati di quei dati) da un modello GPT una volta che è stato addestrato.

 

Implicazioni per l’istruzione e la ricerca

– I ricercatori, gli insegnanti e gli studenti devono conoscere i diritti dei proprietari dei dati e verificare se gli strumenti GenAI che stanno utilizzando violano eventuali regolamenti esistenti.

– I ricercatori, gli insegnanti e gli studenti dovrebbero anche essere consapevoli del fatto che le immagini o il codice creati con il GenAI potrebbero violare i diritti di proprietà intellettuale di qualcun altro e che le immagini, i suoni o il codice che creano e condividono su Internet potrebbero essere sfruttati da altri GenAI.

 

2.4 Modelli inesplicabili utilizzati per generare output

Da tempo è riconosciuto che le reti neurali artificiali (ANN) sono generalmente “scatole nere”, cioè che il loro funzionamento interno non è aperto all’ispezione. Di conseguenza, le ANNs non sono “trasparenti” o “esplicabili”, e non è possibile stabilire come siano stati determinati i loro output.

 

Sebbene l’approccio generale, compresi gli algoritmi utilizzati, sia generalmente esplicabile, i modelli specifici e i loro parametri, compresi i pesi del modello, non sono ispezionabili, motivo per cui un output specifico generato non può essere spiegato. Ci sono miliardi di parametri/pesi in un modello come il GPT-4 (vedi Tabella 2), ed è il collettivo di questi pesi che detiene i modelli appresi che il modello utilizza per generare i suoi output. Poiché i parametri/pesi non sono trasparenti nelle ANNs (Tabella 1), non è possibile spiegare il modo preciso in cui un output specifico viene creato da questi modelli.

 

La mancanza di trasparenza ed esplicabilità del GenAI è sempre più problematica, poiché il GenAI diventa sempre più complesso (vedi Tabella 2), spesso producendo risultati inaspettati o indesiderati. Inoltre, i modelli GenAI ereditano e perpetuano i bias presenti nei dati di addestramento, che, data la natura non trasparente dei modelli, sono difficili da rilevare e affrontare. Infine, questa opacità è anche una causa chiave di problemi di fiducia nei confronti del GenAI (Nazaretsky et al., 2022a). Se gli utenti non capiscono come un sistema GenAI è giunto a un determinato output, sono meno inclini ad adottarlo o usarlo (Nazaretsky et al., 2022b).

 

Implicazioni per l’istruzione e la ricerca

– I ricercatori, gli insegnanti e gli studenti dovrebbero essere consapevoli del fatto che i sistemi GenAI operano come scatole nere e che è quindi difficile, se non impossibile, sapere perché è stato creato un contenuto particolare. La mancanza di spiegazione su come vengono generati gli output tende a imprigionare gli utenti nella logica definita dai parametri progettati nei sistemi GenAI. Questi parametri possono riflettere valori culturali o commerciali specifici e norme che implicitamente influenzano il contenuto prodotto.

 

2.5 Contenuti generati dall’IA che inquinano Internet

Poiché i dati di addestramento del GPT sono tipicamente tratti da Internet, che troppo spesso include linguaggio discriminatorio e altre forme inaccettabili di espressione, gli sviluppatori hanno dovuto implementare ciò che chiamano “guardrail” per impedire che gli output del GPT siano offensivi e/o non etici. Tuttavia, a causa dell’assenza di regolamenti rigorosi e di meccanismi di monitoraggio efficaci, materiali distorti generati dal GenAI si stanno diffondendo sempre più su Internet, inquinando una delle principali fonti di contenuto o conoscenza per la maggior parte degli studenti in tutto il mondo. Ciò è particolarmente importante perché il materiale generato dal GenAI può sembrare abbastanza accurato e convincente, quando spesso contiene errori e idee di parte. Ciò rappresenta un alto rischio per i giovani studenti che non hanno una solida conoscenza preventiva dell’argomento in questione. Rappresenta anche un rischio ricorsivo per i futuri modelli GPT che saranno addestrati su testi raccolti da Internet che i modelli GPT precedenti hanno generato e che includono anche i loro bias e errori.

 

Implicazioni per l’istruzione e la ricerca

– I ricercatori, gli insegnanti e gli studenti devono essere consapevoli del fatto che i sistemi GenAI sono in grado di generare materiali offensivi e non etici.

– Devono anche essere informati sui problemi a lungo termine che potrebbero sorgere per la affidabilità della conoscenza quando i futuri modelli GPT si basano su testi che i modelli GPT precedenti hanno generato.

 

 

2.6 Mancanza di comprensione del mondo reale

I GPT di testo vengono talvolta chiamati in modo dispregiativo “Pappagalli Stocastici” perché, come è stato notato in precedenza, sebbene possano produrre testi che sembrano convincenti, questi testi spesso contengono errori e possono includere dichiarazioni dannose (Bender et al., 2021). Tutto ciò accade perché i GPT ripetono solo i modelli linguistici trovati nei loro dati di addestramento (di solito testi tratti da Internet), partendo da modelli casuali (o “stocastici”) e senza comprenderne il significato, proprio come un pappagallo può imitare suoni senza capire effettivamente ciò che sta dicendo.

Il divario tra il fatto che i modelli GenAI “sembrano” comprendere il testo che utilizzano e generano, e la “realtà” che non comprendono il linguaggio e il mondo reale, può portare insegnanti e studenti a porre una fiducia nell’output che non è giustificata. Questo comporta seri rischi per l’istruzione futura. Infatti, il GenAI non è informato dalle osservazioni del mondo reale o da altri aspetti chiave del metodo scientifico, né è allineato con i valori umani o sociali. Per questi motivi, non può generare contenuti genuinamente nuovi sul mondo reale, sugli oggetti e sulle loro relazioni, sulle persone e sulle relazioni sociali, sulle relazioni tra umani e tecnologia. Se il contenuto apparentemente nuovo generato dai modelli GenAI può essere riconosciuto come conoscenza scientifica è oggetto di contestazione.

Come già notato, i GPT possono spesso produrre testi inaccurati o non affidabili. In effetti, è ben noto che i GPT inventano cose che non esistono nella vita reale. Alcuni chiamano questo “allucinazione”, sebbene altri critichino l’uso di un termine così antropomorfo e quindi fuorviante. Questo è riconosciuto dalle aziende che producono il GenAI. In fondo all’interfaccia pubblica del ChatGPT, ad esempio, si afferma: “ChatGPT può produrre informazioni inaccurate su persone, luoghi o fatti”.

Alcuni sostenitori hanno anche suggerito che il GenAI rappresenta un passo significativo nel cammino verso l’Intelligenza Artificiale Generale (AGI), un termine che suggerisce una classe di IA più intelligenti degli esseri umani. Tuttavia, questa idea è stata a lungo criticata, con l’argomento che l’IA non progredirà mai verso l’AGI almeno finché non riunirà in qualche modo, in simbiosi, l’IA basata sulla conoscenza (nota anche come IA simbolica o basata su regole) e l’IA basata sui dati (nota anche come apprendimento automatico) (Marcus, 2022). Le affermazioni sull’AGI o sulla sentienza distraggono anche dalla considerazione più attenta dei danni attuali perpetrati con l’IA, come la discriminazione nascosta contro gruppi già discriminati (Metz, 2021).

 

Implicazioni per l’istruzione e la ricerca

– L’output di un GenAI di testo può sembrare impressionantemente simile all’essere umano, come se comprendesse il testo che genera. Tuttavia, il GenAI non comprende nulla. Invece, questi strumenti concatenano parole in modi comuni su Internet. Il testo generato può anche essere errato.

– I ricercatori, gli insegnanti e gli studenti devono essere consapevoli del fatto che un GPT non comprende il testo che genera, che può e spesso lo fa, generare affermazioni errate e che quindi devono adottare un approccio critico a tutto ciò che genera.

 

2.7 Riduzione della diversità di opinioni e ulteriore marginalizzazione delle voci già marginalizzate

ChatGPT e strumenti simili tendono a produrre solo risposte standard che assumono i valori dei proprietari/creatori dei dati utilizzati per addestrare i modelli. Infatti, se una sequenza di parole appare frequentemente nei dati di addestramento, come nel caso di argomenti comuni e non controversi e credenze mainstream o dominanti, è probabile che il GPT la ripeta nei suoi output.

Questo rischia di limitare e minare lo sviluppo di opinioni plurali e di espressioni plurali di idee. Le popolazioni con pochi dati, comprese le comunità marginalizzate nel Global North, hanno una presenza digitale minima o limitata online. Di conseguenza, le loro voci non vengono ascoltate e le loro preoccupazioni non vengono rappresentate nei dati utilizzati per addestrare i GPT e quindi raramente appaiono negli output. Per questi motivi, data la metodologia di pre-addestramento basata sui dati delle pagine web di Internet e delle conversazioni sui social media, i modelli GPT possono ulteriormente marginalizzare le persone già svantaggiate.

 

Implicazioni per l’istruzione e la ricerca

– Gli strumenti ChatGPT e simili tendono a produrre solo risposte standard che riflettono i valori dei creatori dei dati di addestramento. Gli insegnanti e gli studenti dovrebbero essere consapevoli di questo fatto e cercare attivamente diverse prospettive e opinioni.

– Gli insegnanti e i ricercatori dovrebbero lavorare per rappresentare voci marginalizzate e incoraggiare una gamma diversificata di opinioni e punti di vista nelle discussioni e nelle risorse didattiche.

 

2.8 Generazione di deepfake più avanzati

Oltre alle controversie comuni a tutti i GenAI, i GenAI GAN possono essere utilizzati per alterare o manipolare immagini o video esistenti per generare falsi che sono difficili da distinguere da quelli reali. Il GenAI sta rendendo sempre più facile creare questi “deepfake” e le cosiddette “fake news”. In altre parole, il GenAI sta facilitando a determinati attori commettere atti non etici, immorali e criminali, come diffondere disinformazione, promuovere discorsi di odio e incorporare i volti delle persone, senza il loro consenso o conoscenza, in film completamente falsi e talvolta compromettenti.

 

Implicazioni per l’istruzione e la ricerca

Sebbene sia obbligo dei fornitori di GenAI proteggere i diritti d’autore e i diritti di ritratto degli utenti, i ricercatori, gli insegnanti e gli studenti devono anche essere consapevoli del fatto che le immagini che condividono su Internet possono essere incorporate nei dati di addestramento del GenAI e potrebbero essere manipulate e utilizzate in modi non etici.

---

Regolamentare l’uso dell’IA generativa nell’istruzione

Per affrontare le controversie legate all’IA generativa e sfruttare i potenziali vantaggi del GenAI nell’istruzione, è necessario regolamentarlo. La regolamentazione del GenAI per scopi educativi richiede una serie di passi e misure politiche basate su un approccio centrato sull’essere umano per garantirne l’uso etico, sicuro, equo e significativo.

 

3.1 Un approccio centrato sull’essere umano all’IA

La Raccomandazione del 2021 sull’Etica dell’Intelligenza Artificiale fornisce il quadro normativo necessario per iniziare ad affrontare le molteplici controversie legate all’IA generativa, comprese quelle relative all’istruzione e alla ricerca. Si basa su un approccio centrato sull’essere umano all’IA, che sostiene che l’uso dell’IA debba essere al servizio dello sviluppo delle capacità umane per futuri inclusivi, giusti e sostenibili. Un tale approccio deve essere guidato dai principi dei diritti umani e dalla necessità di proteggere la dignità umana e la diversità culturale che definisce il patrimonio comune del sapere. In termini di governance, un approccio centrato sull’essere umano richiede una regolamentazione adeguata in grado di garantire l’agentività umana, la trasparenza e la responsabilità pubblica.

Il Consenso di Pechino sull’Intelligenza Artificiale (AI) e l’Istruzione del 2019 delinea ulteriormente cosa implichi un approccio centrato sull’essere umano per l’uso dell’IA nel contesto dell’istruzione. Il Consenso afferma che l’uso delle tecnologie AI nell’istruzione dovrebbe potenziare le capacità umane per lo sviluppo sostenibile e la collaborazione efficace tra esseri umani e macchine nella vita, nell’apprendimento e nel lavoro. Esso invita inoltre ad adottare approcci che coinvolgano tutto il governo, intersettore e multi-stakeholder nella pianificazione delle politiche sull’IA in campo educativo.

L’IA e l’istruzione: Orientamenti per i decisori politici (UNESCO, 2022b) raffina ulteriormente cosa significhi un approccio centrato sull’essere umano quando si esaminano i benefici e i rischi dell’IA nell’istruzione e il ruolo dell’istruzione come mezzo per sviluppare competenze nell’IA. Propone raccomandazioni concrete per la formulazione di politiche volte a guidare l’uso dell’IA per (i) consentire l’accesso inclusivo ai programmi di apprendimento, specialmente per gruppi vulnerabili come gli studenti con disabilità; (ii) supportare opzioni di apprendimento personalizzate e aperte; (iii) migliorare le disposizioni e la gestione basate sui dati per ampliare l’accesso e migliorare la qualità dell’apprendimento; (iv) monitorare i processi di apprendimento e segnalare ai docenti i rischi di fallimento; e (v) sviluppare comprensione e competenze per un uso etico e significativo dell’IA.

 

3.2 Passi per regolamentare il GenAI nell’istruzione

Prima della pubblicazione di ChatGPT, i governi stavano sviluppando o adattando quadri normativi per regolamentare la raccolta e l’uso di dati e l’adozione di sistemi AI in vari settori, compreso l’istruzione, fornendo un contesto legislativo e politico per la regolamentazione delle nuove applicazioni AI emergenti. Dopo la pubblicazione di numerosi modelli GenAI competitivi a partire da novembre 2022, i governi hanno adottato diverse risposte politiche: dal divieto del GenAI alla valutazione delle esigenze di adattamento dei quadri esistenti, fino alla formulazione urgente di nuove normative.

Le strategie governative per regolamentare e agevolare l’uso creativo del GenAI sono state mappate e valutate nell’aprile 2023 (UNESCO, 2023b). La revisione suggerisce una serie di sei passi che le agenzie governative possono compiere per regolamentare l’IA generativa e riaffermare il controllo pubblico al fine di sfruttarne il potenziale in tutti i settori, compreso l’istruzione.

 

 

Passo 1: Approvare GDPR internazionali o regionali o sviluppare GDPR nazionali

L’addestramento dei modelli GenAI ha comportato la raccolta e l’elaborazione di dati online da parte di cittadini di molti paesi. L’uso, da parte dei modelli GenAI, di dati e contenuti senza consenso pone ulteriori sfide alla protezione dei dati.

I Regolamenti Generali sulla Protezione dei Dati, con il GDPR dell’UE entrato in vigore nel 2018 come uno degli esempi precursori, forniscono il quadro legale necessario per regolamentare la raccolta e l’elaborazione di dati personali da parte dei fornitori di GenAI. Secondo il portale Data Protection and Privacy Legislation Worldline delle Nazioni Unite Conferenza delle Nazioni Unite per il Commercio e lo Sviluppo (UNCTAD), 137 su 194 paesi hanno stabilito normative per salvaguardare la protezione dei dati e la privacy.

Tuttavia, non è chiaro fino a che punto questi quadri normativi vengano effettivamente implementati in tali paesi. È quindi sempre più critico garantire che vengano adeguatamente implementati, compresa la monitorazione regolare delle operazioni dei sistemi GenAI. È anche urgente che i paesi che non hanno ancora leggi sulla protezione dei dati sviluppino tali leggi.

 

 

Passo 2: Adottare/revisionare e finanziare strategie governative complete sull’IA

La regolamentazione dell’IA generativa deve essere parte integrante di più ampie strategie nazionali sull’IA che possano garantire un uso sicuro ed equo dell’IA in tutti i settori dello sviluppo, compreso l’istruzione. La formulazione, l’approvazione, il finanziamento e l’attuazione delle strategie nazionali sull’IA richiedono un approccio globale del governo. Solo un tale approccio può garantire il coordinamento delle azioni intersettoriali necessarie per rispondere alle sfide emergenti.

All’inizio del 2023, circa 67 paesi avevano sviluppato o pianificato strategie nazionali sull’IA, con 61 di esse che assumevano la forma di una strategia sull’IA indipendente e 7 come capitoli sull’IA integrati all’interno di strategie nazionali più ampie per l’ICT o la digitalizzazione. Comprensibilmente, dato il suo carattere innovativo, nessuna di queste strategie nazionali aveva ancora affrontato l’IA generativa come un problema specifico al momento della stesura.

È fondamentale che i paesi revisionino le strategie nazionali esistenti sull’IA o le sviluppino, garantendo disposizioni per regolare l’uso etico dell’IA in tutti i settori, compreso l’istruzione.

 

 

Passo 3: Consolidare e attuare normative specifiche sull’etica dell’IA

Per affrontare le dimensioni etiche poste dall’uso dell’IA, sono necessarie normative specifiche.

La revisione UNESCO del 2023 sulle strategie nazionali esistenti sull’IA indica che l’identificazione di tali questioni etiche e la formulazione di principi guida sono comuni solo a circa quaranta strategie nazionali sull’IA. E anche in questi casi, i principi etici dovranno essere tradotti in leggi o regolamenti vincolanti. Questo è raramente il caso. Infatti, solo circa una ventina di paesi aveva definito regolamentazioni chiare sull’etica dell’IA, comprese quelle relative all’istruzione, sia come parte delle strategie nazionali sull’IA che in altri contesti. È interessante notare che, sebbene l’istruzione sia evidenziata come un settore politico in circa quarantacinque strategie nazionali sull’IA, i riferimenti all’istruzione sono formulati più in termini di competenze nell’IA e sviluppo del talento necessario a sostenere la competitività nazionale, e meno in termini di questioni etiche. I paesi che non hanno ancora regolamentazioni sull’etica dell’IA devono urgentemente definirle e implementarle.

 

 

Passo 4: Adeguare o far rispettare le leggi esistenti sul copyright per regolamentare i contenuti generati dall’IA

L’uso sempre più diffuso del GenAI ha introdotto nuove sfide per il copyright, sia per quanto riguarda i contenuti coperti da copyright o il lavoro su cui sono addestrati i modelli, sia per lo status delle uscite di conoscenza “non umana” che producono.

Attualmente, solo Cina, paesi dell’Unione Europea (UE) e Stati Uniti hanno adeguato le leggi sul copyright per tener conto delle implicazioni dell’IA generativa. Ad esempio, l’Ufficio del Copyright degli Stati Uniti ha stabilito che le uscite dei sistemi GenAI, come ChatGPT, non sono protettive ai sensi della legge sul copyright degli Stati Uniti, sostenendo che il “copyright può proteggere solo il materiale prodotto dalla creatività umana” (Ufficio del Copyright degli Stati Uniti, 2023). Mentre nell’UE, il proposto Atto dell’UE sull’IA richiede ai produttori di strumenti AI di divulgare i materiali coperti da copyright utilizzati nella costruzione dei loro sistemi (Commissione Europea, 2021). La Cina, attraverso la sua regolamentazione sul GenAI rilasciata nel luglio 2023, richiede l’etichettatura delle uscite del GenAI come contenuto generato dall’IA e le riconosce solo come uscite di sintesi digitale.

La regolamentazione dell’uso di materiali coperti da copyright nell’addestramento dei modelli GenAI e la definizione dello stato di copyright delle uscite GenAI stanno emergendo come nuove responsabilità delle leggi sul copyright. È urgente che le leggi esistenti vengano adeguate per tenerne conto.

 

 

Passo 5: Elaborare quadri regolamentari per l’IA generativa

Il rapido sviluppo delle tecnologie dell’IA sta costringendo le agenzie di governance nazionali/locali ad accelerare il rinnovo delle regolamentazioni. Al luglio 2023, solo un paese, la Cina, aveva rilasciato una regolamentazione ufficiale specifica sul GenAI. Le “Regole provvisorie per la gestione del servizio di IA generativa” rilasciate il 13 luglio 2023 (Amministrazione cibernetica della Cina, 2023a) richiedono ai fornitori di sistemi GenAI di etichettare correttamente e legalmente i contenuti, le immagini e i video generati dall’IA, in conformità con la normativa esistente sulla sintesi profonda nel quadro dei servizi di informazione online. È necessario sviluppare ulteriori quadri nazionali specifici sul GenAI basati su una valutazione delle lacune nelle regolamentazioni e leggi locali esistenti.

 

 

Passo 6: Sviluppare capacità per un uso corretto del GenAI nell’istruzione e nella ricerca

Le scuole e altre istituzioni educative devono sviluppare capacità per comprendere i potenziali benefici e rischi dell’IA, compreso il GenAI, nell’istruzione. È solo basandosi su questa comprensione che possono convalidare l’adozione di strumenti AI. Inoltre, gli insegnanti e i ricercatori devono essere supportati per rafforzare le loro capacità per l’uso corretto del GenAI, anche attraverso la formazione e il coaching continuo. Alcuni paesi hanno lanciato programmi di sviluppo di capacità simili, tra cui Singapore, che offre una piattaforma dedicata per lo sviluppo delle capacità nell’IA delle istituzioni educative attraverso il suo AI Government Cloud Cluster, che include un repository dedicato di modelli GPT (Ocampo, 2023).

 

 

Passo 7: Riflettere sulle implicazioni a lungo termine del GenAI per l’istruzione e la ricerca

L’impatto delle attuali versioni del GenAI sta appena cominciando a dispiegarsi, e i loro effetti sull’istruzione devono ancora essere completamente esplorati e compresi. Nel frattempo, versioni più avanzate del GenAI e altre classi di AI continuano a essere sviluppate e implementate. Restano domande cruciali sulle implicazioni del GenAI per la creazione, la trasmissione e la convalida della conoscenza – per l’insegnamento e l’apprendimento, per la progettazione e la valutazione dei curricula e per la ricerca e il copyright. La maggior parte dei paesi è ancora alla fase iniziale dell’adozione del GenAI nell’istruzione, anche se gli impatti a lungo termine devono ancora essere compresi. Per garantire un uso centrato sull’essere umano dell’IA, è urgente condurre un dibattito pubblico aperto e dialoghi politici sulle implicazioni a lungo termine. Un dibattito inclusivo che coinvolga il governo, il settore privato e altri partner dovrebbe fornire informazioni e contributi per il rinnovo iterativo delle regolamentazioni e delle politiche

 

 

3.3 Regolamentazioni sul GenAI: Elementi chiave

Tutti i paesi devono regolamentare correttamente il GenAI per garantire che apporti benefici nello sviluppo dell’istruzione e in altri contesti. In questa sezione vengono proposte azioni relative agli elementi chiave che possono essere adottate da: (1) agenzie di regolamentazione governative, (2) fornitori di strumenti abilitati dall’IA, (3) utenti istituzionali e (4) utenti individuali. Molti degli elementi del quadro sono di natura transnazionale, ma devono essere considerati anche alla luce del contesto locale, ovvero i sistemi educativi specifici del paese e i quadri regolamentari generali già in vigore.

 

3.3.1 Agenzie di regolamentazione governative

È necessario un approccio a tutto governo per coordinare la progettazione, l’allineamento e l’attuazione delle regolamentazioni sul GenAI. Vengono raccomandati sette elementi chiave e azioni:

– Coordinamento intersettoriale: istituire un organismo nazionale per guidare l’approccio a tutto governo al GenAI e coordinare la cooperazione tra settori.

– Allineamento della legislazione: allineare il quadro con i contesti legislativi e regolamentari pertinenti di ciascun paese, ad esempio leggi sulla protezione dei dati personali, regolamenti sulla sicurezza su internet, leggi sulla sicurezza dei dati prodotti o utilizzati per servire i cittadini e altre leggi rilevanti e pratiche consuete. Valutare l’appropriatezza delle regolamentazioni esistenti e le eventuali necessarie adattamenti in risposta a nuove questioni sollevate dal GenAI.

– Equilibrio tra la regolamentazione del GenAI e la promozione dell’innovazione nell’IA: promuovere la cooperazione intersettoriale tra aziende, organizzazioni di governance dell’industria, istituti educativi e di ricerca, nonché pertinenti agenzie pubbliche per sviluppare congiuntamente modelli affidabili; incoraggiare la creazione di ecosistemi open-source per promuovere la condivisione di risorse di supercalcolo e dataset di pre-addestramento di alta qualità; e favorire l’applicazione pratica del GenAI in vari settori e la creazione di contenuti di alta qualità per il bene pubblico.

– Valutazione e classificazione dei potenziali rischi dell’IA: stabilire principi e un processo per la valutazione e la categorizzazione dell’efficacia, della sicurezza e della sicurezza dei servizi GenAI, prima che vengano implementati e durante il ciclo di vita del sistema. Considerare meccanismi di categorizzazione basati sui livelli di rischio che il GenAI può comportare per i cittadini. Classificarli in regolamentazioni rigorose (ad esempio, vietare le applicazioni o i sistemi abilitati dall’IA con rischi inaccettabili), regolamentazioni speciali per applicazioni ad alto rischio e regolamentazioni generali per applicazioni che non sono considerate ad alto rischio. Consultare la bozza di Atto sull’IA dell’UE per un esempio di questo approccio.

– Protezione della privacy dei dati: considerare il fatto che l’uso del GenAI quasi sempre comporta che gli utenti condividano i loro dati con il provider del GenAI. Richiedere la stesura e l’attuazione di leggi per la protezione delle informazioni personali degli utenti e individuare e contrastare l’archiviazione, il profilazione e la condivisione illecita dei dati.

– Definizione e applicazione del limite di età per l’uso del GenAI: la maggior parte delle applicazioni del GenAI è principalmente progettata per utenti adulti. Queste applicazioni comportano spesso rischi considerevoli per i bambini, tra cui l’esposizione a contenuti inappropriati e la possibilità di manipolazione. Alla luce di questi rischi e data l’incertezza considerevole che circonda le applicazioni GenAI iterative, si raccomandano fortemente restrizioni di età per le tecnologie AI a uso generale al fine di proteggere i diritti e il benessere dei bambini. Attualmente, i termini d’uso di ChatGPT richiedono che gli utenti abbiano almeno 13 anni e che gli utenti di età inferiore ai 18 anni abbiano il permesso dei genitori o del tutore legale per utilizzare i servizi. Questi limiti di età o soglie risalgono al Children’s Online Privacy Protection Act degli Stati Uniti d’America (Federal Trade Commission, 1998). Approvata nel 1998 prima dell’uso diffuso dei social media e ben prima della creazione di applicazioni GenAI facili da usare e potenti come ChatGPT, la legge statunitense specifica che le organizzazioni o i fornitori individuali di social media non possono fornire servizi per bambini al di sotto dei 13 anni senza il permesso dei genitori. Molti commentatori ritengono che questa soglia sia troppo giovane e hanno sostenuto la legislazione per innalzare l’età a 16 anni. Il GDPR dell’Unione Europea (2016) specifica che gli utenti devono avere almeno 16 anni per utilizzare i servizi dei social media senza il permesso dei genitori. L’emergere di vari chatbot GenAI richiede che i paesi considerino attentamente – e deliberino pubblicamente – la soglia d’età appropriata per le conversazioni indipendenti con piattaforme GenAI. La soglia minima dovrebbe essere di tredici anni. I paesi dovranno anche decidere se l’auto-dichiarazione dell’età rimanga un mezzo appropriato per la verifica dell’età. I paesi dovranno imporre le responsabilità dei fornitori GenAI per la verifica dell’età e le responsabilità dei genitori o dei tutori per il monitoraggio delle conversazioni indipendenti dei bambini di età inferiore.

– Proprietà nazionale dei dati e rischio di povertà dei dati: adottare misure legislative per proteggere la proprietà nazionale dei dati e regolamentare i fornitori di GenAI che operano all’interno dei suoi confini. Per i dataset generati dai cittadini e utilizzati a scopi commerciali, stabilire regolamentazioni per promuovere la cooperazione reciproca in modo che questa categoria di dati non venga drenata dal paese per essere sfruttata esclusivamente dalle grandi aziende tecnologiche.

 

 

3.3.2. Fornitori di strumenti GenAI

I fornitori di strumenti GenAI includono organizzazioni e individui responsabili dello sviluppo e della messa a disposizione di strumenti GenAI e/o che utilizzano tecnologie GenAI per fornire servizi attraverso interfacce di programmazione delle applicazioni (API) programmabili. La maggior parte dei fornitori influenti di strumenti GenAI sono aziende estremamente ben finanziate.

 

Sono responsabili dell’etica fin dalla progettazione, compresa l’implementazione dei principi etici stabiliti dalla regolamentazione. Le seguenti dieci categorie di responsabilità dovrebbero essere coperte:

 

• Responsabilità umane: i fornitori GenAI devono essere responsabili di garantire il rispetto dei valori fondamentali e degli scopi legali, il rispetto della proprietà intellettuale e il rispetto delle pratiche etiche, prevenendo nel contempo la diffusione di disinformazione e discorsi d’odio.
• Dati e modelli affidabili: i fornitori GenAI devono essere tenuti a dimostrare l’affidabilità e l’eticità delle fonti di dati e dei metodi utilizzati dai loro modelli e le relative uscite. Devono essere obbligati ad adottare dati e modelli di base con fonti legali comprovate e rispettare le leggi sulla proprietà intellettuale (ad esempio, se i dati sono protetti da diritti di proprietà intellettuale). Inoltre, quando i modelli necessitano di utilizzare informazioni personali, la raccolta di tali informazioni dovrebbe avvenire solo con il consenso informato ed esplicito dei proprietari.
• Generazione di contenuti non discriminatori: i fornitori di GenAI devono vietare la progettazione e l’implementazione di sistemi GenAI che generano contenuti tendenziosi o discriminatori basati su razza, nazionalità, genere o altre caratteristiche protette. Dovrebbero assicurare che siano in atto robusti “guardrail” per evitare che il GenAI produca contenuti offensivi, tendenziosi o falsi, garantendo nel contempo che le persone coinvolte nel definire tali “guardrail” siano protette e non siano sfruttate.
• Esplicabilità e trasparenza dei modelli GenAI: i fornitori dovrebbero fornire alle agenzie di governance pubblica spiegazioni sulle fonti, sulla portata e sui tipi di dati utilizzati dai modelli, sulle regole per l’etichettatura dei dati nella pre-elaborazione, sui metodi o algoritmi che i loro modelli utilizzano per generare contenuti o risposte e sui servizi offerti dai loro strumenti GenAI. Quando necessario, dovrebbero offrire supporto per aiutare le agenzie di regolamentazione a comprendere la tecnologia e i dati. La propensione del GenAI a generare contenuti con errori e risposte contestabili dovrebbe essere resa trasparente per gli utenti.
• Etichettatura dei contenuti GenAI: in conformità con le leggi o i regolamenti pertinenti sulla sintesi assistita dall’IA di informazioni online, i fornitori devono etichettare in modo corretto e legale i documenti, i rapporti, le immagini e i video generati dal GenAI. Ad esempio, l’output del GenAI dovrebbe essere chiaramente etichettato come prodotto da una macchina.
• Principi di sicurezza: i fornitori di GenAI devono garantire un servizio sicuro, robusto e sostenibile per l’intero ciclo di vita di un sistema GenAI.
• Specifiche sull’appropriatezza per accesso e utilizzo: i fornitori di GenAI devono fornire specifiche chiare sull’audience appropriata per, e sugli scenari e scopi di utilizzo dei loro servizi e aiutare gli utenti degli strumenti GenAI a prendere decisioni razionali e responsabili.
• Riconoscimento dei limiti e prevenzione dei rischi prevedibili: i fornitori di GenAI devono pubblicizzare chiaramente i limiti dei metodi utilizzati dai sistemi e dalle loro uscite. Devono sviluppare tecnologie per garantire che i dati di input, i metodi e le uscite non arrechino danni prevedibili agli utenti, insieme a protocolli per mitigare danni imprevedibili quando si verificano. Devono anche fornire linee guida per aiutare gli utenti a comprendere i contenuti generati dal GenAI basati su principi etici e a prevenire una loro eccessiva dipendenza e dipendenza dai contenuti generati.
• Meccanismi di reclami e rimedi: i fornitori di GenAI devono istituire meccanismi e canali per la raccolta di reclami da parte degli utenti e del pubblico in generale e intraprendere azioni tempestive per accettare e gestire questi reclami.
• Monitoraggio e segnalazione dell’uso illecito: i fornitori devono collaborare con le agenzie di governance pubblica per agevolare il monitoraggio e la segnalazione dell’uso illecito. Ciò include situazioni in cui le persone utilizzano prodotti GenAI in modi illegali o contrari a valori etici o sociali, come la promozione di disinformazione o discorsi d’odio, la generazione di spam o la composizione di malware.

 

 

3.3.3. Utenti istituzionali

Gli utenti istituzionali includono le autorità educative e le istituzioni come università e scuole che hanno la responsabilità di determinare se adottare il GenAI e quali tipi di strumenti GenAI debbano essere acquisiti e implementati all’interno dell’istituzione.

• Audit istituzionale degli algoritmi GenAI, dei dati e delle uscite: Implementare meccanismi per monitorare nel miglior modo possibile gli algoritmi e i dati utilizzati dagli strumenti GenAI e le uscite che generano. Questo dovrebbe includere audit e valutazioni regolari, la protezione dei dati degli utenti e il filtraggio automatico dei contenuti inappropriati.
• Convalida della proporzionalità e protezione del benessere degli utenti: Implementare meccanismi di classificazione nazionale o sviluppare una politica istituzionale per categorizzare e convalidare sistemi e applicazioni GenAI. Assicurare che i sistemi GenAI adottati dall’istituzione siano in linea con i quadri etici localmente convalidati e non arrechino danni prevedibili agli utenti target dell’istituzione, in particolare bambini e gruppi vulnerabili.
• Esaminare e affrontare gli impatti a lungo termine: Nel tempo, fare affidamento sugli strumenti o sui contenuti GenAI nell’istruzione può avere profondi effetti sullo sviluppo delle capacità umane come le abilità di pensiero critico e la creatività. Questi potenziali effetti dovrebbero essere valutati e affrontati.
• Età appropriata: Valutare l’implementazione di restrizioni di età minima per l’uso indipendente del GenAI nell’istituzione.

 

3.3.4. Utenti individuali

Gli utenti individuali potenzialmente includono tutte le persone nel mondo che hanno accesso a Internet e almeno un tipo di strumento GenAI. Il termine “utenti individuali”, come utilizzato qui, si riferisce principalmente a insegnanti, ricercatori e studenti individuali nelle istituzioni educative formali o a coloro che partecipano a programmi di studio non formali.

• Consapevolezza dei termini di riferimento sull’uso del GenAI: Al momento della firma o dell’espressione di consenso agli accordi di servizio, gli utenti dovrebbero essere consapevoli degli obblighi di conformità ai Termini di Riferimento (ToR) specificati nell’accordo e delle leggi o regolamenti dietro l’accordo.
• Utilizzo etico delle applicazioni GenAI: Gli utenti dovrebbero utilizzare il GenAI in modo responsabile e evitare di sfruttarlo in modi che possano danneggiare la reputazione e i diritti legali di altre persone.
• Monitoraggio e segnalazione di applicazioni GenAI illecite: Nel caso in cui gli utenti scoprano applicazioni GenAI che violano una o più regolamentazioni, dovrebbero notificarlo alle agenzie di regolamentazione governative.

 

---

Verso un quadro politico per l’uso dell’IA generativa nell’istruzione e nella ricerca

La regolamentazione del GenAI per sfruttare i potenziali benefici per l’istruzione e la ricerca richiede lo sviluppo di politiche appropriate. I dati del sondaggio del 2023 citati in precedenza indicano che solo pochi paesi hanno adottato politiche o piani specifici per l’uso dell’IA nell’istruzione. La sezione precedente ha delineato una visione, i passi necessari e gli elementi chiave e le azioni che possono essere intraprese da vari stakeholder. Questa sezione fornisce misure che possono essere adottate per sviluppare quadri politici completi e coerenti per regolamentare l’uso del GenAI nell’istruzione e nella ricerca.

Un punto di partenza per questo è il documento del 2022 “IA e istruzione: orientamenti per i decisori politici” (UNESCO, 2022b). Esso propone un insieme completo di raccomandazioni per guidare i governi nello sviluppo e nell’attuazione di politiche settoriali sull’IA e sull’istruzione con un focus sulla promozione dell’istruzione di qualità, dell’equità sociale e dell’inclusione. La maggior parte delle raccomandazioni rimane applicabile e può essere ulteriormente adattata per guidare la formulazione di politiche specifiche sul GenAI nell’istruzione.

Qui vengono proposte otto misure specifiche per la pianificazione di politiche sull’uso del GenAI nell’istruzione e nella ricerca per integrare questa guida esistente.

 

4.1 Promuovere l’inclusione, l’equità, la diversità linguistica e culturale

È necessario riconoscere e affrontare l’importanza critica dell’inclusione durante l’intero ciclo di vita del GenAI. In particolare, gli strumenti GenAI non contribuiranno a risolvere le sfide fondamentali nell’istruzione o a raggiungere gli impegni dell’Obiettivo di Sviluppo Sostenibile 4 a meno che tali strumenti non siano resi accessibili in modo inclusivo (indipendentemente dal genere, dall’etnia, dai bisogni educativi speciali, dallo stato socio-economico, dalla posizione geografica, dallo stato di sfollamento, ecc.) e se non promuovono l’equità, le diversità linguistiche e il pluralismo culturale nella progettazione. Per raggiungere questo obiettivo, vengono raccomandate le seguenti tre misure politiche:

• Identificare coloro che non hanno o non possono permettersi la connettività a Internet o i dati, e adottare misure per promuovere la connettività universale e le competenze digitali al fine di ridurre le barriere all’accesso equo e inclusivo alle applicazioni AI. Stabilire meccanismi di finanziamento sostenibile per lo sviluppo e la fornitura di strumenti abilitati dall’IA per gli apprendisti con disabilità o bisogni speciali. Promuovere l’uso del GenAI per sostenere gli apprendisti lungo tutto il corso della vita, di tutte le età luoghi e contesti.
• Sviluppare criteri per la convalida dei sistemi GenAI per assicurare che non siano presenti bias di genere, discriminazioni nei confronti di gruppi marginalizzati o discorsi d’odio incorporati nei dati o negli algoritmi.
• Sviluppare e attuare specifiche inclusive per i sistemi GenAI e implementare misure istituzionali per proteggere le diversità linguistiche e culturali durante l’implementazione del GenAI nell’istruzione e nella ricerca su larga scala. Le specifiche pertinenti dovrebbero richiedere ai fornitori di GenAI di includere dati in diverse lingue, in particolare lingue locali o indigene, nella formazione dei modelli GPT per migliorare la capacità del GenAI di rispondere a testi multilingue. Le specifiche e le misure istituzionali dovrebbero prevenire rigorosamente che i fornitori di AI rimuovano intenzionalmente o involontariamente lingue minoritarie o discriminino i parlanti di lingue indigene, e richiedere ai fornitori di evitare sistemi che promuovano lingue dominanti o norme culturali.

 

4.2 Proteggere l’agenzia umana

Man mano che il GenAI diventa sempre più sofisticato, un pericolo chiave è il potenziale per minare l’agenzia umana. Man mano che sempre più utenti individuali utilizzano il GenAI per supportare la scrittura o altre attività creative, potrebbero involontariamente finire per fare affidamento su di esso. Ciò può compromettere lo sviluppo delle capacità intellettuali. Sebbene il GenAI possa essere utilizzato per sfidare e ampliare il pensiero umano, non dovrebbe essere consentito di usurparlo. La protezione e l’incremento dell’agenzia umana dovrebbero essere sempre considerate fondamentali quando si progetta e si adotta il GenAI dalle seguenti sette prospettive:

• Informare gli apprendisti sui tipi di dati che il GenAI potrebbe raccogliere da loro, su come questi dati vengono utilizzati e sull’impatto che potrebbe avere sulla loro istruzione e sulla loro vita in generale.
• Proteggere la motivazione intrinseca degli apprendisti a crescere e apprendere come individui. Rinforzare l’autonomia umana nei confronti dei propri approcci alla ricerca, all’insegnamento e all’apprendimento nel contesto dell’uso di sistemi GenAI sempre più sofisticati.
• Evitare l’uso del GenAI dove priverebbe gli apprendisti delle opportunità di sviluppare abilità cognitive e competenze sociali attraverso l’osservazione del mondo reale, le pratiche empiriche come gli esperimenti, le discussioni con altri esseri umani e il ragionamento logico indipendente.
• Garantire un’adeguata interazione sociale e un’esposizione appropriata a produzioni creative realizzate da esseri umani e impedire che gli apprendisti diventino dipendenti o dipendenti dal GenAI.
• Utilizzare gli strumenti GenAI per ridurre la pressione dei compiti e degli esami, anziché aumentarla.
• Consultare ricercatori, insegnanti e apprendisti sulle loro opinioni sul GenAI e utilizzare il feedback per decidere se e come specifici strumenti GenAI dovrebbero essere implementati su scala istituzionale. Incoraggiare gli apprendisti, gli insegnanti e i ricercatori a criticare e mettere in discussione le metodologie dietro i sistemi AI, l’accuratezza dei contenuti prodotti e le norme o pedagogie che potrebbero imporre.
• Evitare di trasferire l’accountability umana ai sistemi GenAI nella presa di decisioni di grande rilevanza.

 

4.3 Monitorare e convalidare i sistemi GenAI per l’istruzione

Come già detto, lo sviluppo e l’implementazione del GenAI dovrebbero essere etici fin dalla progettazione. Successivamente, una volta che il GenAI è in uso e per tutto il suo ciclo di vita, deve essere attentamente monitorato e convalidato, sia per i rischi etici che per l’appropriatezza pedagogica e la rigorosità, nonché per l’impatto su studenti, insegnanti e relazioni in classe/scuola. A tal fine, vengono raccomandate le seguenti cinque azioni:

• Costruire meccanismi di convalida per verificare se i sistemi GenAI utilizzati nell’istruzione e nella ricerca sono privi di bias, in particolare bias di genere, e se sono addestrati su dati rappresentativi della diversità (in termini di genere, disabilità, status socio-economico, origine etnica e culturale e posizione geografica).
• Affrontare la complessa questione del consenso informato, in particolare in contesti in cui i bambini o altri apprendisti vulnerabili non sono in grado di dare un consenso veramente informato.
• Effettuare un audit per verificare se le uscite del GenAI includono immagini deepfake, notizie false (inaccurate o false) o discorsi d’odio. Se si scopre che il GenAI genera contenuti inappropriati, le istituzioni e gli educatori dovrebbero essere disposti e in grado di adottare misure rapide e robuste per mitigare o eliminare il problema.
• Esercitare una rigorosa convalida etica delle applicazioni GenAI prima che vengano ufficialmente adottate nelle istituzioni educative o di ricerca (adottando un approccio basato sull’etica fin dalla progettazione).
• Prima di prendere decisioni sull’adozione istituzionale, assicurarsi che le applicazioni GenAI in questione non arrechino danni prevedibili agli studenti, siano efficaci dal punto di vista educativo e validi per le età e le abilità degli apprendisti target e siano allineate con solidi principi pedagogici (basati sui pertinenti settori di conoscenza e sugli obiettivi di apprendimento attesi e lo sviluppo dei valori).

 

 

4.4 Sviluppare competenze in AI, comprese le competenze legate a GenAI per gli apprendenti

Lo sviluppo delle competenze in AI tra gli apprendenti è fondamentale per un utilizzo sicuro, etico e significativo dell’IA nell’istruzione e oltre. Tuttavia, secondo i dati dell’UNESCO, solo circa 15 paesi avevano sviluppato e implementato, o erano in fase di sviluppo, curricula ufficiali sull’IA nelle scuole all’inizio del 2022 (UNESCO, 2022c). Gli ultimi sviluppi di GenAI hanno ulteriormente rafforzato la necessità urgente per tutti di raggiungere un adeguato livello di alfabetizzazione sia nelle dimensioni umane che tecnologiche dell’IA, comprendendo come funziona in termini generali, nonché l’impatto specifico di GenAI. Per fare ciò, sono ora necessarie le seguenti cinque azioni:

• Impegno nella fornitura di curricula ufficiali sull’IA approvati dal governo per l’istruzione scolastica, l’istruzione tecnica e professionale, nonché per l’apprendimento lungo tutto il corso della vita. I curricula sull’IA dovrebbero coprire l’impatto dell’IA sulle nostre vite, comprese le questioni etiche che essa solleva, nonché una comprensione appropriata dell’età degli algoritmi e dei dati e le competenze per l’uso corretto e creativo di strumenti AI, comprese le applicazioni GenAI.
• Sostenere le istituzioni di istruzione superiore e di ricerca per potenziare i programmi finalizzati a sviluppare talenti locali in AI.
• Promuovere la parità di genere nello sviluppo delle competenze avanzate in AI e creare un pool di professionisti equilibrato dal punto di vista di genere.
• Sviluppare previsioni intersettoriali sugli spostamenti lavorativi nazionali e globali causati dalle ultime automazioni di GenAI e potenziare le competenze future a tutti i livelli dei sistemi educativi e di apprendimento lungo tutto il corso della vita in base ai cambiamenti previsti nella domanda.
• Fornire programmi speciali per i lavoratori anziani e i cittadini che potrebbero dover imparare nuove competenze ed adattarsi a nuovi ambienti.

 

4.5 Sviluppare competenze per insegnanti e ricercatori per un uso corretto di GenAI

Secondo i dati del sondaggio del 2023 sull’uso governativo dell’IA nell’istruzione (UNESCO, 2023c), solo alcuni sette paesi (Cina, Finlandia, Georgia, Qatar, Spagna, Thailandia e Turchia) hanno segnalato di aver sviluppato o essere in fase di sviluppo di quadri o programmi di formazione sull’IA per gli insegnanti. Solo il Ministero dell’Istruzione di Singapore ha riferito di aver creato un repository online incentrato sull’uso di ChatGPT nell’insegnamento e nell’apprendimento. Questo mostra chiaramente che gli insegnanti nella maggior parte dei paesi non hanno accesso a una formazione ben strutturata sull’uso dell’IA nell’istruzione, tanto meno sull’uso di GenAI.

Per preparare gli insegnanti all’uso responsabile ed efficace di GenAI, i paesi devono adottare le seguenti quattro azioni:

• Formulare o adeguare linee guida basate su test locali per aiutare i ricercatori e gli insegnanti a navigare tra gli strumenti GenAI ampiamente disponibili e guidare la progettazione di nuove applicazioni AI specifiche per il dominio.
• Proteggere i diritti degli insegnanti e dei ricercatori e il valore delle loro pratiche nell’uso di GenAI. In particolare, analizzare i ruoli unici degli insegnanti nel facilitare il pensiero di ordine superiore, organizzare l’interazione umana e favorire i valori umani.
• Definire l’orientamento valoriale, le conoscenze e le competenze che gli insegnanti devono possedere per comprendere ed utilizzare efficacemente e eticamente i sistemi GenAI. Abilitare gli insegnanti a creare strumenti specifici basati su GenAI per facilitare l’apprendimento in classe e nello sviluppo professionale.
• Rivedere dinamicamente le competenze necessarie per gli insegnanti per comprendere e utilizzare l’IA nell’insegnamento, nell’apprendimento e nella loro formazione professionale; integrare nuovi insiemi di valori, comprensione e competenze sull’IA nei quadri di competenza e nei programmi per la formazione di insegnanti in servizio e in formazione pre-servizio.

 

4.6 Promuovere opinioni plurali ed espressioni plurali di idee

Come già notato, GenAI non comprende né la richiesta né la risposta. Invece, le sue risposte si basano su probabilità di modelli di linguaggio presenti nei dati (dall’Internet) che ha assorbito quando il suo modello è stato addestrato. Per affrontare alcuni dei problemi fondamentali delle sue uscite, attualmente sono in corso ricerche su nuovi metodi, come il collegamento di GenAI con basi di conoscenza e motori di ragionamento. Tuttavia, a causa del suo funzionamento, dei materiali di origine e delle prospettive tacite dei suoi sviluppatori, GenAI, per definizione, riproduce i punti di vista dominanti nelle sue uscite e compromette le opinioni minoritarie e plurali.

Pertanto, gli utenti devono considerare criticamente le uscite di GenAI. In particolare:

• Comprendere il ruolo di GenAI come una fonte rapida ma spesso non affidabile di informazioni. Sebbene alcuni plugin e strumenti basati su LLM menzionati in precedenza siano progettati per supportare la necessità di accedere a informazioni convalidate e aggiornate, al momento c’è ancora poco evidenza robusta che questi siano efficaci.
• Incoraggiare gli apprendenti e i ricercatori a criticare le risposte fornite da GenAI. Riconoscere che GenAI tende tipicamente a ripetere opinioni consolidate o standard, minimizzando così opinioni plurali e minoritarie e espressioni plurali di idee.
• Fornire agli apprendenti sufficienti opportunità per imparare attraverso il metodo sperimentale, esperimenti empirici e osservazioni del mondo reale.

 

4.7 Testare modelli di applicazione rilevanti a livello locale e costruire una base di evidenze cumulativa

Fino ad ora, i modelli GenAI sono dominati da informazioni provenienti dal Nord Globale e sottorappresentano le voci provenienti dal Sud Globale e dalle comunità indigene. Solo attraverso sforzi determinati, ad esempio sfruttando dati sintetici (Marwala, T. 2023), gli strumenti GenAI saranno resi sensibili al contesto e alle esigenze delle comunità locali, in particolare quelle del Sud Globale. Per esplorare approcci rilevanti alle esigenze locali, collaborando più ampiamente, sono raccomandate le seguenti otto azioni:

• Assicurare che la progettazione e l’adozione di GenAI siano pianificate strategicamente anziché facilitare un processo di approvvigionamento passivo e non critico.
• Incentivare i progettisti di GenAI a mirare a opzioni di apprendimento aperte, esplorative e diverse.
• Testare e scalare casi d’uso basati su evidenze dell’applicazione di AI nell’istruzione e nella ricerca in conformità con le priorità educative, anziché la novità, il mito o l’esagerazione.
• Guidare l’uso di GenAI per innescare l’innovazione nella ricerca, anche attraverso il leva di capacità di calcolo, dati su larga scala e uscite GenAI per informare e ispirare il miglioramento delle metodologie di ricerca.
• Rivedere le implicazioni sociali ed etiche dell’incorporazione di GenAI nei processi di ricerca.
• Stabilire criteri specifici basati su ricerche pedagogiche ed evidenze metodologiche e costruire una base di evidenze per l’efficacia di GenAI nel supporto alla fornitura di opportunità di apprendimento inclusive, al raggiungimento degli obiettivi di apprendimento e alla promozione delle diversità linguistiche e culturali.
• Intraprendere passi iterativi per rafforzare le evidenze sull’impatto sociale ed etico di GenAI.
• Analizzare i costi ambientali dell’uso delle tecnologie AI su larga scala (ad esempio, l’energia e le risorse necessarie per addestrare i modelli GPT) e sviluppare obiettivi sostenibili da raggiungere da parte dei fornitori di AI al fine di evitare contributi al cambiamento climatico.

 

4.8 Esaminare le implicazioni a lungo termine in modo intersettoriale e interdisciplinare

Gli approcci intersettoriali e interdisciplinari sono essenziali per l’uso efficace ed etico di GenAI nell’istruzione e nella ricerca. Solo attraverso la mobilitazione di una serie di competenze e il coinvolgimento di diverse parti interessate, saranno individuati tempestivamente e affrontati in modo efficace i principali problemi per minimizzare le implicazioni negative a lungo termine, sfruttando nel contempo i benefici in corso e cumulativi.

Pertanto, sono raccomandate le seguenti tre azioni:

• Collaborare con fornitori di AI, educatori, ricercatori e rappresentanti dei genitori e degli studenti per pianificare adeguamenti a livello sistemico nei quadri curriculari e nelle metodologie di valutazione, per sfruttare appieno il potenziale e mitigare i rischi di GenAI per l’istruzione e la ricerca.
• Riunire competenze intersettoriali e interdisciplinari, compresi educatori, ricercatori, scienziati dell’apprendimento, ingegneri AI e rappresentanti di altre parti interessate, per esaminare le implicazioni a lungo termine di GenAI per l’apprendimento e la produzione di conoscenza, la ricerca e il diritto d’autore, il curriculum e la valutazione, e la collaborazione umana e le dinamiche sociali.
• Fornire consigli tempestivi per informare gli aggiornamenti iterativi di regolamenti e politiche.

---

Agevolare l’uso creativo di GenAI nell’istruzione e nella ricerca

Quando ChatGPT è stato lanciato per la prima volta, gli educatori di tutto il mondo hanno espresso preoccupazioni riguardo al suo potenziale di generare saggi e come potesse aiutare gli studenti a barare. Più recentemente, molte persone e organizzazioni, comprese alcune delle principali università del mondo, hanno sostenuto che “il genio è fuori dalla bottiglia” e che strumenti come ChatGPT sono qui per restare e possono essere utilizzati in modo produttivo in ambienti educativi. Nel frattempo, Internet è ora pieno di suggerimenti per l’uso di GenAI nell’istruzione e nella ricerca. Questi includono l’uso per ispirare nuove idee, generare esempi multi-prospettici, sviluppare piani di lezione e presentazioni, riassumere materiali esistenti e stimolare la creazione di immagini. Anche se nuove idee appaiono su Internet quasi ogni giorno, i ricercatori e gli educatori stanno ancora cercando di capire esattamente cosa significa GenAI per l’insegnamento, l’apprendimento e la ricerca. In particolare, le persone dietro molte delle proposte potrebbero non aver considerato adeguatamente i principi etici, mentre altri sono guidati dalle potenzialità tecnologiche di GenAI piuttosto che dalle esigenze di ricercatori, insegnanti o apprendenti. Questa sezione illustra modi per agevolare l’uso creativo di GenAI nell’istruzione.

 

5.1 Strategie istituzionali per agevolare l’uso responsabile e creativo di GenAI

Come già detto, le istituzioni educative e di ricerca dovrebbero sviluppare, implementare e convalidare strategie appropriate e quadri etici per guidare l’uso responsabile ed etico dei sistemi e delle applicazioni GenAI per soddisfare le esigenze dell’insegnamento, dell’apprendimento e della ricerca.

 

Ciò può essere realizzato attraverso le seguenti quattro strategie:

• Implementazione istituzionale di principi etici: assicurare che ricercatori, insegnanti e apprendenti utilizzino gli strumenti GenAI in modo responsabile ed etico e affrontino criticamente l’accuratezza e la validità delle uscite.
• Orientamento e formazione: fornire orientamento e formazione a ricercatori, insegnanti e apprendenti sugli strumenti GenAI per garantire che comprendano le questioni etiche come i bias nell’etichettatura dei dati e negli algoritmi, e che rispettino le regole appropriate sulla privacy dei dati e la proprietà intellettuale.
• Sviluppo di capacità di ingegneria dei prompt GenAI: oltre alla conoscenza specifica del soggetto, i ricercatori e gli insegnanti avranno bisogno anche di competenze nell’ingegneria e nella valutazione critica dei prompt generati da GenAI. Dato che le sfide poste da GenAI sono complesse, i ricercatori e gli insegnanti devono ricevere una formazione e un supporto di alta qualità per farlo.
• Rilevamento del plagio basato su GenAI in compiti scritti: GenAI potrebbe consentire agli studenti di far passare testi che non hanno scritto come loro stessi, un nuovo tipo di “plagio”.

I fornitori di GenAI sono tenuti a contrassegnare le loro uscite con filigrane “generate da AI”, mentre vengono sviluppati strumenti per identificare il materiale prodotto da AI. Tuttavia, c’è poco evidence che queste misure o strumenti siano efficaci. La strategia istituzionale immediata è quella di difendere l’integrità accademica e rafforzare la responsabilità attraverso una rigorosa rilevazione da parte di esseri umani. La strategia a lungo termine è che le istituzioni e gli educatori ripensino la progettazione dei compiti scritti in modo che non vengano utilizzati per valutare compiti che gli strumenti GenAI possono svolgere meglio degli apprendenti umani. Invece, dovrebbero affrontare ciò che gli esseri umani possono fare che GenAI e altri strumenti AI non possono fare, compreso l’applicare valori umani come la compassione e la creatività a sfide complesse del mondo reale.

 

5.2 Un approccio “centrato sull’umanità e pedagogicamente appropriato”

I ricercatori e gli educatori dovrebbero dare priorità all’agenzia umana e all’interazione responsabile e pedagogicamente appropriata tra esseri umani e strumenti AI quando decidono se e come utilizzare GenAI. Questo include le seguenti cinque considerazioni:

• L’uso del(i) strumento(i) dovrebbe contribuire alle necessità umane e rendere l’apprendimento o la ricerca più efficace rispetto a un approccio senza tecnologia o a un’altra alternativa;
• L’uso dei strumenti da parte degli educatori e degli apprendenti dovrebbe basarsi sulla loro motivazione intrinseca;
• Il processo di utilizzo del(i) strumento(i) dovrebbe essere controllato dagli educatori, dagli apprendenti o dai ricercatori umani;
• La scelta e l’organizzazione del(i) strumento(i) e dei contenuti da essi generati dovrebbero essere proporzionate all’età degli apprendenti, ai risultati attesi e al tipo di conoscenza obiettiva (ad esempio, fattuale, concettuale, procedurale o metacognitiva) o problema obiettivo (ad esempio, strutturato o poco strutturato);
• I processi di utilizzo dovrebbero garantire l’interazione umana con GenAI e il pensiero di ordine superiore, nonché la responsabilità umana per le decisioni relative all’accuratezza dei contenuti generati da AI, alle strategie di insegnamento o ricerca e al loro impatto sui comportamenti umani.

 

5.3 Progettazione congiunta dell’uso di GenAI nell’istruzione e nella ricerca

L’uso di GenAI nell’istruzione e nella ricerca non dovrebbe essere né imposto con un approccio dall’alto verso il basso né guidato dall’esagerazione commerciale. Invece, il suo uso sicuro ed efficace dovrebbe essere progettato congiuntamente da insegnanti, apprendenti e ricercatori. È anche necessario un robusto processo di sperimentazione e valutazione per esaminare l’efficacia e l’impatto a lungo termine di diversi utilizzi.

Per agevolare la progettazione congiunta raccomandata, questa Guida propone un quadro composto dalle seguenti sei prospettive per consolidare interazioni pedagogicamente appropriate e la priorità dell’agenzia umana:

• Domini appropriati di conoscenza o problemi;
• Risultati attesi;
• Strumenti GenAI appropriati e vantaggi comparativi;
• Requisiti per gli utenti;
• Metodi pedagogici umani richiesti e esempi di prompt;
• Rischi etici.

Questa sezione fornisce esempi di come un processo di progettazione congiunta nell’uso di GenAI può informare le pratiche di ricerca, assistere nell’insegnamento, fornire coaching per l’acquisizione autonoma di competenze fondamentali, facilitare il pensiero di ordine superiore e supportare gli apprendenti con esigenze speciali. Questi esempi rappresentano solo la punta dell’iceberg del crescente numero di domini in cui GenAI può avere potenziale.

 

5.3.1 AI generativa per la ricerca

I modelli GenAI hanno dimostrato il loro potenziale nel ampliare le prospettive sugli schemi di ricerca e nell’arricchire l’esplorazione dei dati e le revisioni della letteratura (vedi Tabella 3). Mentre potrebbero emergere una gamma più ampia di casi d’uso, è necessaria una ricerca innovativa per definire il potenziale dominio di problemi di ricerca e risultati attesi, dimostrare l’efficacia e l’accuratezza e garantire che l’agenzia umana nella comprensione del mondo reale attraverso la ricerca non venga compromessa dall’uso di strumenti AI.

 

 

 

Tabella 3. Progettare insieme usi di GenAI per la ricerca
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Consulente AI per schemi di ricerca	Potrebbe essere utile in domini di ricerca ben strutturati.	Sviluppo e risposta a domande di ricerca, suggerimento di metodologie adeguate. Potenziale trasformazione: 1:1 allenatore per la pianificazione della ricerca.	Iniziando con l’elenco nella Sezione 1.2, valutare se gli strumenti GenAI sono accessibili localmente, open-source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	Il ricercatore deve avere una comprensione di base degli argomenti. Il ricercatore dovrebbe sviluppare la capacità di verificare le informazioni e essere particolarmente in grado di individuare citazioni di pubblicazioni di ricerca inesistenti.	Idee di base per la definizione dei problemi di ricerca (ad esempio, pubblico di destinazione, questioni, contesto), così come metodologie, risultati attesi e formati. Scrivere 10 possibili domande di ricerca per [argomento x] e classificarle per importanza per [il campo di ricerca y].	Necessità di prestare attenzione all’alto rischio che GenAI inventi informazioni (come pubblicazioni di ricerca inesistenti) e al rischio che gli utenti siano tentati di copiare e incollare gli schemi di ricerca generati dall’IA, il che potrebbe ridurre le opportunità dei ricercatori junior di imparare attraverso il tentativo ed errore.

 

 

 

Tabella 3. Progettare insieme usi di GenAI per la ricerca
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Esploratore generativo di dati e revisore di letteratura	Potrebbe essere utile in domini di ricerca poco strutturati.	Raccolta automatica di informazioni, esplorazione di una vasta gamma di dati, proposta di bozze di revisioni bibliografiche e automazione di parti dell’interpretazione dei dati. Potenziale trasformazione: formatori AI per l’esplorazione dei dati e le revisioni bibliografiche.	Iniziando con l’elenco nella Sezione 1.2, valutare se gli strumenti GenAI sono accessibili localmente, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	I ricercatori devono avere una solida conoscenza delle metodologie e delle tecniche per l’analisi dei dati.	Definizioni progressive dei problemi, della portata dei dati e delle fonti di letteratura, delle metodologie utilizzate per l’esplorazione dei dati e le revisioni bibliografiche, nonché dei risultati attesi e dei loro formati.	Necessità di fare attenzione alle informazioni fabbricate da GenAI, alla gestione impropria dei dati, a possibili violazioni della privacy, al profilazione non autorizzata e ai pregiudizi di genere. Necessità di essere vigili sulla diffusione delle norme dominanti e sulla minaccia che rappresentano per le norme alternative e le opinioni plurali.

 

 

 

5.3.2 AI generativa per facilitare l’insegnamento

Sia l’uso di piattaforme GenAI generali che la progettazione di strumenti educativi GenAI specifici dovrebbero essere concepiti per migliorare la comprensione degli insegnanti della loro materia e la loro conoscenza delle metodologie di insegnamento, compreso attraverso la co-progettazione tra insegnanti e AI di piani di lezione, pacchetti di corsi o curricula completi. Gli assistenti insegnanti conversazionali assistiti da GenAI o “gemelli generativi degli assistenti insegnanti” che sono pre-istrutti sulla base dei dati di insegnanti esperti e delle biblioteche, sono stati testati in alcune istituzioni educative e potrebbero avere potenziale sconosciuto oltre a rischi etici inesplorati. I processi di applicazione pratica e le ulteriori iterazioni di questi modelli devono ancora essere attentamente verificati attraverso il quadro raccomandato in questa Guida e garantiti da supervisione umana, come esemplificato nella Tabella 4.

 

 

 

Tabella 4. Progettazione congiunta di utilizzi di GenAI per supportare insegnanti e insegnamento
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Co-progettatore di curriculum o corsi	Conoscenza concettuale su determinati argomenti di insegnamento e conoscenza procedurale sulle metodologie di insegnamento.	Assistenza nel processo di progettazione del curriculum e delle lezioni, compresa l’elaborazione o l’estensione delle opinioni su aree chiave dell’argomento di destinazione, definizione della struttura del curriculum. Potrebbe anche aiutare gli insegnanti a preparare test ed esami offrendo esempi di domande e rubriche per la valutazione. Possibile trasformazione: curriculum generato da AI.	Iniziando con l’elenco nella Sezione 1.3, valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	Gli insegnanti devono capire e specificare con attenzione cosa desiderano che il curriculum, i corsi, le lezioni o i test coprano e raggiungano, se desiderano affrontare la conoscenza procedurale o concettuale e quale teoria dell’insegnamento desiderano applicare.	Domande a GenAI sulla suggerimento della struttura e degli esempi di conoscenza fattuale sugli argomenti, sulla suggerimento dei metodi e dei processi di insegnamento sugli argomenti o sui problemi, o sulla creazione di pacchetti di corsi o piani di lezione basati sugli argomenti e sulla formattazione. I progettisti di curriculum umani devono verificare la conoscenza fattuale e verificare l’appropriatezza dei pacchetti di corsi suggeriti.	Il rischio che GenAI imponga norme dominanti e metodi pedagogici è elevato. Potrebbe involontariamente perpetuare pratiche escludenti a favore dei gruppi già ricchi di dati e rafforzare disuguaglianze nell’accesso a opportunità educative rilevanti e di alta qualità per gruppi poveri di dati.

 

 

Tabella 4. Progettazione congiunta di utilizzi di GenAI per supportare insegnanti e insegnamento
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Chatbot generativo come assistente didattico	Conoscenza concettuale in più domini in problemi ben strutturati.	Fornisce supporto personalizzato, risponde alle domande e individua risorse. Possibile trasformazione: gemelli generativi degli assistenti degli insegnanti.	Iniziando con l’elenco nella Sezione 1.2, valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità.  Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	Supporta gli insegnanti ma si rivolge direttamente agli studenti, quindi ciò richiede che gli studenti abbiano una sufficiente conoscenza preventiva, abilità e competenze metacognitive per verificare le uscite di GenAI e notare le informazioni errate. Pertanto, potrebbe essere più appropriato per gli studenti dell’istruzione superiore.	Richiede agli insegnanti di comprendere chiaramente i problemi, monitorare la conversazione e aiutare gli studenti a verificare risposte dubbie fornite da GenAI.	Sulla base delle attuali capacità dei modelli GenAI, le istituzioni educative devono garantire la supervisione umana delle risposte fornite dagli strumenti GenAI, essendo all’erta del rischio di disinformazione. Ciò potrebbe limitare anche l’accesso degli studenti a orientamento e supporto umano, ostacolando lo sviluppo di una forte relazione insegnante-studente, il che è particolarmente preoccupante per i bambini.

 

 

5.3.3 Acquisizione autonoma di competenze fondamentali

Sebbene il pensiero di ordine superiore e la creatività abbiano attirato sempre più attenzione nella definizione degli obiettivi di apprendimento, l’importanza delle competenze di base nello sviluppo psicologico dei bambini e nella progressione delle competenze non è in discussione. Tra un ampio spettro di abilità, queste competenze di base includono l’ascolto, la pronuncia e la scrittura in lingua madre o straniera, nonché la numerazione di base, l’arte e la programmazione. Il “trapano e pratica” non dovrebbe essere considerato come un metodo pedagogico obsoleto; invece, dovrebbe essere rivitalizzato e potenziato con tecnologie GenAI per favorire l’auto-esercitazione degli apprendenti di competenze di base. Se guidati da principi etici e pedagogici, gli strumenti GenAI hanno il potenziale per diventare allenatori 1:1 per tale pratica autonoma, come illustrato nella Tabella 5.

 

Tabella 5. Utilizzi della co-progettazione di GenAI come insegnante 1:1 per l’acquisizione autonoma di competenze di base nell’apprendimento delle lingue e delle arti
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
1:1 insegnante di abilità linguistiche	Apprendimento delle lingue, compresa la pratica conversazionale.”	Coinvolgere gli studenti nella pratica della conversazione per aiutarli a migliorare le abilità di ascolto, parola e scrittura, offrendo feedback, correzioni e modelli nella lingua madre o in lingua straniera. Aiutare gli studenti a migliorare le loro abilità di scrittura. Possibile trasformazione: tutorial linguistici 1:1 a livello principiante.	Iniziando con l’elenco nella Sezione 1.3, valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	Potrebbe essere stabilito un limite di età per le conversazioni indipendenti alla luce delle uscite culturalmente insensibili o inappropriate per l’età fornite dai sistemi GenAI. Lo studente deve avere una motivazione intrinseca iniziale per impegnarsi in una conversazione con un sistema AI. Lo studente dovrebbe essere in grado di adottare un approccio critico alle suggestioni di GenAI e verificare se sono accurate.	Quando si utilizzano piattaforme GenAI generali, gli insegnanti umani possono guidare gli studenti a interagire con gli strumenti GenAI per richiedere feedback per il miglioramento, correzione della pronuncia o esempi di scrittura. Ad esempio: Coinvolgimi in una conversazione nella lingua [x], aiutandomi a migliorare continuamente. Suggerisci alcune idee per aiutarmi a scrivere su [argomento x].	È necessario prestare attenzione al linguaggio culturalmente insensibile o contestualmente inaccurato e all’inavvertita perpetuazione di stereotipi o pregiudizi culturali. Senza adeguate strategie pedagogiche per simulare le motivazioni intrinseche degli studenti, potrebbe limitare la creatività e l’originalità dei bambini, portando a scritture formulistiche. Potrebbe anche limitare le opportunità di interazioni nella vita reale, opinioni plurali, espressioni plurali e pensiero critico.

 

Tabella 5. Utilizzi della co-progettazione di GenAI come insegnante 1:1 per l’acquisizione autonoma di competenze di base nell’apprendimento delle lingue e delle arti
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
1:1 insegnante d’arte	Competenze tecniche in aree artistiche come la musica e il disegno.	Fornire supporto individualizzato, rispondere alle domande e individuare risorse. Possibile trasformazione: insegnante d’arte 1:1 ai livelli introduttivi.	Iniziando con l’elenco nella Sezione 1.3.2, valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	Gli studenti devono avere alcuni obiettivi iniziali per la creazione di opere d’arte o musica, una comprensione fondamentale degli elementi chiave del campo dell’arte o della musica e abilità di base per analizzare le opere d’arte o le composizioni musicali.	Gli insegnanti umani dovrebbero chiedere agli studenti di confrontare le tecniche artistiche degli strumenti AI con le proprie opere d’arte. Gli insegnanti o allenatori umani devono incoraggiare gli studenti a sviluppare e applicare la loro immaginazione e creatività, che GenAI non può sostituire. Esempio di prompt: Suggerisci alcune idee per ispirarmi a creare un’immagine su [argomenti/idee].	Potrebbe esporre i bambini a contenuti inappropriati o offensivi, che potrebbero violare il loro diritto alla tutela e al benessere. Gli strumenti GenAI aumentano il rischio di impedire agli studenti di sviluppare la loro immaginazione e creatività.

 

 

Tabella 5. Utilizzi della co-progettazione di GenAI come insegnante 1:1 per l’acquisizione autonoma di competenze di base nell’apprendimento delle lingue e delle arti
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi”	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
1:1 insegnante per la programmazione o l’aritmetica	Conoscenza concettuale di programmazione e abilità a livello introduttivo. Potrebbe anche applicarsi all’apprendimento della matematica di base.	Supporto all’apprendimento autonomo di conoscenze e abilità di base della programmazione, individuazione degli errori nella codifica degli studenti e fornitura di feedback immediato, e risposte personalizzate alle domande. Possibile trasformazione: insegnante di programmazione 1:1 a livello introduttivo.	Iniziando con l’elenco nella Sezione 1.3, valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le specifiche esigenze umane.	Trova e definisci un problema e progetta algoritmi per risolverlo, rimangono gli aspetti centrali dell’apprendimento della codifica e della programmazione. Gli studenti devono avere la motivazione intrinseca per utilizzare la codifica, insieme a qualche conoscenza e abilità di base nell’uso del linguaggio di programmazione.	Gli insegnanti e gli allenatori umani dovrebbero insegnare conoscenze e abilità di base e ispirare gli studenti a utilizzare il pensiero computazionale e la programmazione per risolvere problemi, anche attraverso la codifica collaborativa. Esempio di prompt: Suggest some unusual ideas for coding.	L’accuratezza dei feedback e delle suggerimenti rimane una problematica in quanto GenAI non avrà sempre ragione. C’è un alto rischio che gli strumenti GenAI impediscano agli studenti di sviluppare abilità di pensiero computazionale e la capacità di trovare e definire problemi significativi per la codifica.

 

 

5.3.4 AI generativa per facilitare l’indagine o l’apprendimento basato su progetti

Se non utilizzati intenzionalmente per facilitare il pensiero di ordine superiore o la creatività, gli strumenti GenAI tendono a incoraggiare il plagio o producono output superficiali di “stocastico parrotto”. Tuttavia, dato che i modelli GenAI sono stati addestrati basandosi su dati su larga scala, hanno il potenziale per agire come avversari in dialoghi socratici o come assistenti di ricerca nell’apprendimento basato su progetti. Tuttavia, questi potenziali possono essere sfruttati solo attraverso processi di progettazione dell’istruzione/apprendimento che mirano a stimolare il pensiero di ordine superiore, come esemplificato nella Tabella 6.

 

Tabella 6. Utilizzi della GenAI per facilitare l’indagine o l’apprendimento basato su progetti
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Sfidante socratico	Problemi poco strutturati.	Coinvolgere gli studenti in un dialogo che ricorda il questionamento socratico della conoscenza pregressa, portando alla scoperta di nuove conoscenze o a una comprensione più profonda. Trasformazione potenziale: Avversario socratico 1:1	Iniziando con l’elenco nella Sezione 1.3, valutare se specifici strumenti GenAI sono localmente accessibili, open source, rigorosamente testati e convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI specifico e assicurarsi che affronti adeguatamente le esigenze umane specifiche.	Lo studente deve aver raggiunto l’età che consente loro di condurre conversazioni indipendenti con gli strumenti GenAI. Gli studenti devono avere conoscenze pregresse e abilità per verificare se gli argomenti e le informazioni presentate sono accurate.	Gli insegnanti umani possono aiutare a preparare un elenco di domande gradualmente più profonde come esempi per gli studenti da adattare in prompt. Gli studenti possono anche iniziare con un prompt ampio come “Coinvolgimi in un dialogo socratico per aiutarmi a adottare una prospettiva critica su [argomento x]” e quindi approfondire gradualmente il dialogo attraverso prompt sempre più raffinati.	Gli attuali strumenti GenAI possono generare risposte simili o standard che limitano l’esposizione degli studenti a punti di vista diversi e prospettive alternative, portando a un effetto eco-chamber e ostacolando lo sviluppo del pensiero indipendente.

 

Tabella 6. Utilizzi della GenAI per facilitare l’indagine o l’apprendimento basato su progetti
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Consulente per l’apprendimento basato su progetti	Problemi di ricerca poco strutturati in ambito scientifico o di studi sociali	Sostiene la creazione di conoscenza aiutando gli studenti a svolgere l’apprendimento basato su progetti. Ciò include il ruolo di GenAI che è simile a quello del consulente per la ricerca descritto nella Tabella 3. Trasformazione potenziale: Allenatore per l’apprendimento basato su progetti 1:1	Iniziando con l’elenco nella Sezione 1.3, valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno specifico strumento GenAI e assicurarsi che affronti adeguatamente le esigenze umane specifiche.	Gli studenti potrebbero agire come giovani ricercatori nella pianificazione e nell’attuazione dell’apprendimento basato su progetti. Gli studenti devono essere abbastanza grandi per l’uso indipendente delle piattaforme GenAI. Gli studenti devono avere la motivazione e la capacità di impegnarsi in attività di apprendimento basate su progetti auto-dirette, in modo che non siano tentati di copiare passivamente le risposte fornite dagli strumenti GenAI.	Gli insegnanti umani guidano gli studenti a chiedere a GenAI di fornire idee di base per la definizione dei problemi di ricerca come suggerito in 4.3.1. Gli studenti individuali e di gruppo utilizzano gli strumenti GenAI per condurre revisioni della letteratura, raccogliere e elaborare dati e creare rapporti.	Gli studenti senza una conoscenza pregressa solida e la capacità necessaria per verificare l’accuratezza delle risposte potrebbero essere ingannati dalle informazioni fornite dagli strumenti GenAI. Ciò potrebbe anche limitare le discussioni e le interazioni degli studenti con i loro compagni e ridurre le opportunità per l’apprendimento collaborativo, danneggiando potenzialmente il loro sviluppo sociale.

 

5.3.5 AI generativa per supportare gli apprendenti con esigenze speciali

Teoricamente, i modelli GenAI hanno il potenziale per aiutare gli apprendenti con disabilità uditive o visive. Le pratiche emergenti includono sottotitoli o didascalie abilitati da GenAI per apprendenti sordi e con problemi di udito, e descrizioni audio generate da GenAI per apprendenti ipovedenti. I modelli GenAI possono anche convertire il testo in voce e la voce in testo per consentire alle persone con disabilità visive, uditive o del linguaggio di accedere ai contenuti, porre domande e comunicare con i loro compagni. Tuttavia, questa funzione non è ancora stata sfruttata su larga scala. Secondo il sondaggio menzionato in precedenza, condotto dall’UNESCO nel 2023 sull’uso dell’IA nel settore dell’istruzione da parte dei governi, solo quattro paesi (Cina, Giordania, Malaysia e Qatar) hanno segnalato che le loro agenzie governative avevano convalidato e raccomandato strumenti assistiti da IA per supportare l’accesso inclusivo degli apprendenti con disabilità (UNESCO, 2023c). C’è anche una tendenza verso iterazioni dei modelli GenAI addestrati per aiutare gli apprendenti a utilizzare le proprie lingue, comprese lingue minoritarie e indigene, per imparare e comunicare. Ad esempio, PaLM 2, il linguaggio di modellamento probabilistico di Google, è addestrato su dati multilingue paralleli che coprono centinaia di lingue sotto forma di coppie di testo di origine e di destinazione. L’inclusione di dati multilingue paralleli è progettata per migliorare ulteriormente la capacità del modello di comprendere e generare testo multilingue (Google, 2023b). Fornendo traduzioni in tempo reale, parafrasando e correggendo automaticamente, gli strumenti GenAI hanno il potenziale per aiutare gli apprendenti che utilizzano lingue minoritarie a comunicare idee e migliorare la loro collaborazione con compagni provenienti da diverse origini linguistiche. Tuttavia, ciò non avverrà naturalmente su larga scala. Solo con una progettazione intenzionale questo potenziale può essere sfruttato per amplificare le voci dei gruppi marginalizzati. Infine, è stato anche suggerito che i sistemi GenAI hanno il potenziale per effettuare diagnosi basate su conversazioni, identificando problemi psicologici o socio-emotivi, nonché difficoltà di apprendimento. Tuttavia, rimangono poche prove che questo approccio sia efficace o sicuro, e qualsiasi diagnosi richiederebbe l’interpretazione di professionisti qualificati.

 

Tabella 7. Utilizzi della GenAI per supportare gli studenti con bisogni speciali
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Diagnosi conversazionale dei problemi di apprendimento	Questo potrebbe essere utile per gli studenti che affrontano difficoltà di apprendimento causate da problemi psicologici, sociali o emotivi.	Utilizzo dell’interazione in linguaggio naturale per identificare le esigenze degli studenti che hanno problemi psicologici, sociali o emotivi o difficoltà di apprendimento, al fine di fornire loro supporto o istruzioni pertinenti. Possibile trasformazione: consulente principale 1:1 per gli studenti con problemi sociali o emotivi o difficoltà di apprendimento.	Oltre agli strumenti GenAI generali, cercare chatbot alimentati da GenAI. Valutare se sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI particolare e assicurarsi che affronti adeguatamente le esigenze specifiche dell’essere umano.	Gli insegnanti o specialisti che lavorano con questo gruppo di studenti dovranno assicurarsi che il consiglio principale suggerito dal sistema GenAI sia accurato.	Gli insegnanti o facilitatori devono fornire ambienti confortevoli per coinvolgere lo studente in una conversazione al fine di diagnosticare problemi psicologici, sociali o emotivi o difficoltà di apprendimento.	Potrebbe diagnosticare erroneamente le sfide specifiche dello studente, portando al fornimento di un supporto errato.

 

 

Tabella 7. Utilizzi della GenAI per supportare gli studenti con bisogni speciali
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Strumenti di accessibilità alimentati da intelligenza artificiale	Consente agli studenti con disabilità uditive o visive di accedere a una gamma più ampia di contenuti, migliorando così la qualità del loro apprendimento.	Soddisfare le esigenze di accesso degli studenti e supportare l’acquisizione delle conoscenze specifiche della materia fornendo didascalie e/o interpretazioni in lingua dei segni abilitate da GenAI per contenuti audio o video e descrizioni audio per testi o altri materiali visivi. Possibile trasformazione: aiuti linguistici personalizzati 1:1 alimentati da intelligenza artificiale.	Oltre agli strumenti GenAI generali, cercare generatori pertinenti e affidabili di didascalie e descrizioni audio alimentati da intelligenza artificiale. Valutare se sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI particolare e assicurarsi che affronti adeguatamente le esigenze specifiche dell’essere umano.	Gli educatori o facilitatori devono aiutare gli studenti ad accedere e imparare a utilizzare gli strumenti GenAI. Devono anche garantire che gli output degli strumenti sostengano effettivamente questi studenti e non rafforzino le sfide e i pregiudizi che affrontano.	È necessario testare l’accessibilità delle piattaforme o degli strumenti per identificare e risolvere i problemi di accessibilità prima dell’uso. Gli strumenti GenAI possono solo fornire accesso ai contenuti, quindi gli educatori e i facilitatori dovrebbero concentrarsi su migliorare la qualità dell’apprendimento e del benessere sociale. Gli educatori e i facilitatori devono insegnare agli studenti a creare promemoria vocali o testuali basati sulle loro capacità.	Le didascalie o le descrizioni audio prodotte dalle piattaforme GenAI che non sono progettate specificamente per supportare la visione o l’udito sono spesso inaccurate e possono indurre in errore gli studenti con esigenze speciali. Questi strumenti possono involontariamente rafforzare pregiudizi preesistenti.

 

 

Tabella 7. Utilizzi della GenAI per supportare gli studenti con bisogni speciali
Usi potenziali ma non comprovati	Domini appropriati di conoscenza o problemi	Risultati attesi	Strumenti GenAI appropriati e vantaggi comparativi	Requisiti per gli utenti	Metodi pedagogici umani richiesti e esempi di promemoria	Rischi possibili
Generatore generativo per studenti marginalizzati	Potrebbe essere utile per gli studenti provenienti da sfondi linguistici o culturali minoritari esprimere e amplificare le loro voci, partecipare online e condurre studi sociali collaborativi.	Fornire traduzioni in tempo reale, parafrasi e correzione automatica della scrittura per supportare gli studenti provenienti da gruppi marginalizzati nell’uso delle proprie lingue per comunicare con i loro coetanei di diverse origini linguistiche. Possibile trasformazione: LLM inclusivi per studenti marginalizzati.	Un esempio specifico da considerare è PaLM 2. Valutare se gli strumenti GenAI sono localmente accessibili, open source, rigorosamente testati o convalidati dalle autorità. Considerare ulteriormente i vantaggi e le sfide di uno strumento GenAI particolare e assicurarsi che affronti adeguatamente le esigenze specifiche dell’essere umano.	Gli studenti dovrebbero avere conoscenze o opinioni significative sull’argomento della conversazione o dello studio collaborativo. Devono essere in grado di fare contributi responsabili e non discriminatori ed evitare discorsi d’odio.	Gli insegnanti o gli educatori dovrebbero progettare studi e compiti di scrittura per gli studenti su argomenti sociali o culturali o organizzare seminari online o collaborazioni interculturali per stimolare gli studenti a generare idee e condividere opinioni.	È necessario identificare e correggere gli errori nelle traduzioni e nelle parafrasi dell’IA che possono causare fraintendimenti interculturali. Questo utilizzo può offrire opportunità agli studenti marginalizzati di amplificare le loro voci, ma non toccherà la causa radice della povertà dei dati e quindi non può decostruire gli strumenti di intelligenza artificiale.

 

 

---

GenAI e il futuro dell’istruzione e della ricerca

Le tecnologie GenAI stanno ancora rapidamente evolvendo e probabilmente avranno un profondo impatto sull’istruzione e la ricerca, il cui pieno potenziale deve ancora essere compreso appieno. Pertanto, le sue implicazioni a lungo termine per l’istruzione e la ricerca richiedono immediata attenzione e un’ulteriore revisione approfondita.

 

6.1 Questioni etiche inesplorate

Gli strumenti GenAI sempre più sofisticati solleveranno ulteriori preoccupazioni etiche che devono essere esaminate in dettaglio. Oltre alle Sezioni 2 e 3, sono necessarie analisi più approfondite e prospettiche per rivelare e affrontare questioni etiche inesplorate da almeno cinque punti di vista:

• Accesso ed equità: i sistemi GenAI nell’istruzione possono accentuare le disparità esistenti nell’accesso alla tecnologia e alle risorse educative, approfondendo ulteriormente le disuguaglianze.
• Connessione umana: i sistemi GenAI nell’istruzione possono ridurre l’interazione umana e gli aspetti critici socio-emotivi dell’apprendimento.
• Sviluppo intellettuale umano: i sistemi GenAI nell’istruzione possono limitare l’autonomia e l’agenzia degli apprendenti fornendo soluzioni predefinite o restringendo la gamma di possibili esperienze di apprendimento. Il loro impatto a lungo termine sullo sviluppo intellettuale dei giovani apprendenti deve essere indagato.
• Impatto psicologico: i sistemi GenAI che mimano le interazioni umane possono avere effetti psicologici sconosciuti sugli apprendenti, sollevando preoccupazioni sulla loro sviluppo cognitivo e benessere emotivo, e sulla potenziale manipolazione.
• Bias nascosti e discriminazione: con lo sviluppo e l’applicazione di sistemi GenAI sempre più sofisticati nell’istruzione, è probabile che generino nuovi bias e forme di discriminazione basati sui dati di addestramento e sui metodi utilizzati dai modelli, il che può comportare output sconosciuti e potenzialmente dannosi.

 

6.2 Copyright e proprietà intellettuale

L’emergere di GenAI sta cambiando rapidamente il modo in cui opere scientifiche, artistiche e letterarie vengono create, distribuite e consumate. La copia, la distribuzione o l’uso non autorizzato di opere protette da copyright senza il permesso del titolare dei diritti viola i suoi diritti esclusivi e può comportare conseguenze legali. Ad esempio, l’addestramento dei modelli GenAI è stato accusato di violazione del copyright. Come uno dei casi recenti, la canzone generata da AI con protagonista ‘Drake’ e ‘The Weeknd’ (Abel Tesfaye) ha raggiunto milioni di ascoltatori prima di essere rimossa a causa di una controversia sui diritti d’autore (Coscarelli, 2023). Anche se i nuovi quadri regolamentari intendono richiedere ai fornitori GenAI di riconoscere e proteggere la proprietà intellettuale dei proprietari dei contenuti utilizzati dal modello, è sempre più difficile determinare la proprietà e l’originalità della schiacciante quantità di opere generate. Questa mancanza di tracciabilità solleva preoccupazioni non solo sulla protezione dei diritti dei creatori e sull’assicurazione di una giusta compensazione per il loro contributo intellettuale, ma introduce anche sfide nei contesti educativi su come l’output degli strumenti GenAI possa essere utilizzato responsabilmente. Ciò può avere profonde implicazioni per il sistema di ricerca.

 

6.3 Fonti di contenuti e apprendimento

Gli strumenti GenAI stanno cambiando il modo in cui il contenuto dell’insegnamento e dell’apprendimento può essere generato e fornito. In futuro, il contenuto generato attraverso conversazioni tra umani e AI potrebbe diventare una delle principali fonti di produzione di conoscenza. Ciò è probabile che minacci ulteriormente il coinvolgimento diretto degli apprendenti con il contenuto educativo basato su risorse, libri di testo e programmi creati e convalidati da esseri umani. L’aspetto autorevole del testo GenAI potrebbe fuorviare i giovani apprendenti che non hanno sufficienti conoscenze pregresse per riconoscere le inaccuratezze o per interrogarlo efficacemente. È anche contestabile se l’coinvolgimento degli apprendenti con contenuti non convalidati debba essere riconosciuto come ‘apprendimento’.

La conseguente concentrazione sulle informazioni di seconda mano aggregate potrebbe anche ridurre le opportunità degli apprendenti di costruire conoscenze attraverso metodi comprovati come la percezione diretta e l’esperienza del mondo reale, l’apprendimento per tentativi ed errori, la realizzazione di esperimenti empirici e lo sviluppo del buon senso. Potrebbe minacciare anche la costruzione sociale della conoscenza e la promozione dei valori sociali attraverso pratiche collaborative in classe.

 

6.4 Risposte omogeneizzate rispetto a risultati diversificati e creativi

GenAI restringe le narrazioni plurali poiché gli output generati tendono a rappresentare e rafforzare punti di vista dominanti. La conseguente omogeneizzazione della conoscenza limita il pensiero pluralistico e creativo. La crescente dipendenza di insegnanti e studenti dagli strumenti GenAI per cercare suggerimenti può portare alla standardizzazione e alla conformità delle risposte, indebolendo il valore del pensiero indipendente e dell’indagine autonoma. L’omogeneizzazione potenziale dell’espressione in scritti e opere d’arte può limitare l’immaginazione, la creatività e le prospettive alternative di espressione degli apprendenti.

I fornitori GenAI e gli educatori devono considerare fino a che punto EdGPT potrebbe essere sviluppato e utilizzato per promuovere la creatività, la collaborazione, il pensiero critico e altre abilità di pensiero di ordine superiore.

 

6.5 Ripensare la valutazione e gli obiettivi di apprendimento

Le implicazioni di GenAI per la valutazione vanno ben oltre le preoccupazioni immediate riguardanti gli apprendenti che barano negli incarichi scritti. Dobbiamo affrontare il fatto che GenAI può produrre relazioni e saggi relativamente ben organizzati e opere d’arte impressionanti, e può superare alcuni esami basati sulla conoscenza in determinate aree soggettive. Dobbiamo quindi ripensare cosa esattamente dovrebbe essere appreso e a quali scopi, e come l’apprendimento debba essere valutato e convalidato.

La discussione critica tra educatori, responsabili delle politiche, apprendenti e altre parti interessate deve considerare le seguenti quattro categorie di risultati di apprendimento:

Valori: i valori necessari per garantire un design centrato sull’umano e l’uso della tecnologia sono centrali per il ripensamento dei risultati di apprendimento e della loro valutazione nell’era digitale. Nel riesaminare lo scopo dell’istruzione, i valori che informano il modo in cui la tecnologia si relaziona all’istruzione dovrebbero essere resi espliciti. È attraverso questa lente normativa che i risultati di apprendimento e la loro valutazione e convalida devono essere aggiornati in modo iterativo per rispondere all’uso sempre più pervasivo della tecnologia, compresa l’IA, nella società.

Conoscenze e competenze fondamentali: anche nei settori delle competenze in cui gli strumenti GenAI possono fare meglio degli esseri umani, gli apprendenti avranno comunque bisogno di solide conoscenze e competenze fondamentali. La competenza in alfabetizzazione, numerazione e competenze di base in campo scientifico rimarrà fondamentale per l’istruzione futura. La portata e la natura di queste competenze fondamentali dovranno essere regolarmente riesaminate per riflettere gli ambienti sempre più ricchi di IA in cui viviamo.

Abilità di pensiero di ordine superiore: i risultati di apprendimento dovranno includere competenze necessarie per sostenere il pensiero di ordine superiore e la risoluzione dei problemi basata sulla collaborazione tra l’umano e l’IA e sull’uso di output generati da GenAI. Queste possono includere la comprensione dei ruoli della conoscenza fattuale e concettuale nel fondare il pensiero di ordine superiore e la valutazione critica dei contenuti generati da AI.

Competenze professionali necessarie per lavorare con l’IA: nei settori in cui l’IA può fare meglio degli esseri umani ed è in grado di automatizzare unità di compiti, gli apprendenti umani devono coltivare nuove competenze che consentano loro di sviluppare, operare e lavorare con gli strumenti GenAI. La ridisegnazione dei risultati di apprendimento e della valutazione educativa dovrà riflettere le competenze professionali richieste per i nuovi lavori creati dall’IA.

 

6.6 Processi di pensiero

La prospettiva più fondamentale delle implicazioni a lungo termine di GenAI per l’istruzione e la ricerca riguarda ancora il rapporto complementare tra l’azione umana e le macchine. Una delle domande chiave è se gli esseri umani possano eventualmente cedere processi di pensiero e acquisizione di abilità di base all’IA e concentrarsi piuttosto sulle abilità di pensiero di ordine superiore basate sugli output forniti dall’IA.

Ad esempio, la scrittura è spesso associata alla strutturazione del pensiero. Con GenAI, invece di partire da zero per pianificare gli obiettivi, la portata e la struttura di un insieme di idee, gli esseri umani possono ora partire da una struttura ben organizzata fornita da GenAI. Alcuni esperti hanno caratterizzato l’uso di GenAI per generare testo in questo modo come ‘scrivere senza pensare’ (Chayka, 2023). Man mano che queste nuove pratiche assistite da GenAI diventano più ampiamente adottate, i metodi consolidati per l’acquisizione e la valutazione delle abilità di scrittura dovranno adattarsi. Una possibile opzione per il futuro è che l’apprendimento della scrittura possa concentrarsi sulla costruzione di competenze nella pianificazione e nella stesura di prompt, nella valutazione critica degli output di GenAI, nel pensiero di ordine superiore, nonché nella scrittura condivisa basata sulle strutture di GenAI.

---

 

traduzione libera in italiano tramite
Google BARD, Chat GPT, Perpelixity.ai

Guidance for generative AI in education and research (english version)

---

TRADUZIONE INTEGRALE (PDF)

---

capitolo 1 Cos’è l’intelligenza artificiale generativa e come funziona
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 2 Controversie riguardo all’IA generativa e le loro implicazioni per l’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 3 Regolamentare l’uso dell’IA generativa nell’istruzione
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 4 Verso un quadro politico per l’uso dell’IA generativa nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 5 Agevolare l’uso creativo di GenAI nell’istruzione e nella ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

capitolo 6 GenAI e il futuro dell’istruzione e della ricerca
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

Conclusioni
UNESCO Guida all’intelligenza artificiale generativa per l’istruzione e la ricerca

---

TRADUZIONE INTEGRALE (PDF)

SCARICA QUI

---