Workshop sulla Formazione Continua (in preparazione)

Nell'ambito della formazione continua, in seguito alle riunioni del nostro gruppo, dopo aver considerato che con l'IA, di cui se ne é parlato con accenni non proprio approfonditi, nel futuro dovremmo fare i conti e penso che per la didattica si dovrá fare una serie di considerazioni, studi e successive proposte che possano inquadrare visioni, considerazioni, studi che possano approfondire magari una possibile sinergia fra i libri di testo e la nuova tecnologia.

Di quest'ultima, la domanda spontanea é: é possibile e come si deve avere la necessitá di governare l'IA, magari, integrandola con gli strumenti del passato?

Sappiamo che il nostro cervello é diviso in due parti in interazione e comunicazione di scambio fra loro, come affermano gli studi neurologici, i due settori cerebrali hanno precipue capacitá. Mi chiedo se l'intervento dell'IA potrebbe avvantaggiare un lobo cerebrale a sfavore dell''altro e con che conseguenze?

Credo che delle considerazioni e degli approfondimenti vadano fatti, anche attraverso interventi di medici specialistici, sull'argomento.

Gianfranco Iodice 

Riporto integralmente un post del prof. Quattrociocchi, Professore Ordinario di Informatica alla Sapienza Università di Roma, sul tema dell'AI, che condivido ampiamente.

La sua analisi avvalora una tesi di fondo: che il tempo totale impiegato per risolvere un qualsiasi problema usando l'AI o no, è sempre lo stesso. Il tempo otal e dato dalla somma del tempo di risposta del prompt più il tempo di verifica delle risposte stesse. 

L'AI abbrevia il primo ma allunga il secondo. Molte aziende stanno tornando indietro prprio per questo fenomeno.

"Epistemia pratica

Sti giorni mi sono arrivati screenshot e frammenti di social che mi hanno fatto scoprire una cosa interessante.

In soldoni, se provi a spiegare che un LLM non produce conoscenza ma genera testo plausibile, improvvisamente diventi un elitista. Un “venerabile maestro” (per un figlio di metalmeccanico e maestra elementare non so se è insulto o complimento). Sarei anche uno che temerebbe di perdere autorità. O addirittura, un ragioniere che vorrebbe fare il filosofo (credo che darmi dell'aspirante filosofo sia veramente un insulto grave e sto valutando con la mia avvocata su come procedere).
Non so se ridere o piangere. In ogni caso, la dice lunga sul livello del dibattito che si vorrebbe far passare per scientifico, ma che invece si ferma ben prima. Forse manco comincia mai.

Non sono mai stato contro gli LLM, mi preme tenere il punto che la questione, però, non è cognitiva, ma solo linguistica.

Abbiamo ridotto il costo di produzione del linguaggio.
Ma, a meno che non ci siano ragioni personali profonde, pare abbastanza pacifico che ridurre il costo della manipolazione del linguaggio non significhi aver automatizzato il processo attraverso cui costruiamo conoscenza.

È qui che entra in gioco quella che ho chiamato epistemia: la simulazione della funzione della conoscenza senza riprodurne il processo.

Perché, ricordiamolo, un LLM resta un modello che predice il token successivo approssimando le distribuzioni statistiche apprese durante l’addestramento. Non osserva il mondo. Non verifica. Non costruisce modelli causali della realtà. Produce la continuazione linguisticamente più plausibile dato un contesto.

Capito questo, tutto diventa molto meno misterioso.

La domanda diventa: quale parte del nostro lavoro ha senso delegargli?

Organizzare informazioni già comprese.
Hai letto un libro, un articolo o un paper. Hai già costruito una rappresentazione mentale del problema. Chiedere al modello una sintesi, una mappa concettuale o un indice ragionato può ridurre notevolmente il costo di recupero delle informazioni. Naturalmente il risultato va verificato. Sempre.
Se non hai gli strumenti, il rischio è elevato. Credo, addirittura, che potrebbe pure diventare configurabile come reato nel breve termine.

Riformulare il linguaggio.
Tradurre. Cambiare registro. Migliorare la chiarezza di un testo. Correggere lo stile.
Qui il modello opera esattamente nel dominio per cui è stato progettato.
Resta però un effetto poco discusso: quando milioni di persone iniziano a usare gli stessi modelli per scrivere, anche il linguaggio tende lentamente a convergere verso configurazioni statisticamente più omogenee. Vale la pena tenerlo presente.

Organizzare materiale prodotto dall’utente.
Appunti, verbali, bozze, note di ricerca.
Anche qui il modello non produce conoscenza. Organizza una conoscenza già costruita.

Quando, invece, l’epistemia lavora contro di noi

Studiare qualcosa che non conosciamo.
Se non possediamo già gli strumenti per distinguere una spiegazione corretta da una semplicemente plausibile, il rischio non è soltanto imparare qualcosa di sbagliato. È convincersi di aver capito. Sta cosa se becca eghi fragili, alla continua ricerca di attenzioni, diventa un tritacarne.

Verificare
Gli LLM non svolgono un processo epistemico. Producono linguaggio plausibile. La verifica richiede il confronto con fonti, metodo e capacità critica.

Delegare il ragionamento.
Questa è probabilmente la delega più pericolosa. Ogni volta che affidiamo al modello la costruzione del percorso logico, rinunciamo proprio alla parte del processo che genera competenza.
Il rischio, che trovo molto affascinante, non sta soltanto nell’errore, ma nel perdere progressivamente la capacità di accorgersene.

Per questo continuo a pensare che il dibattito sia spesso mal posto.
Non si tratta di essere favorevoli o contrari agli LLM.
Si tratta di capire quale funzione cognitiva stiamo automatizzando.
La storia della tecnologia è piena di strumenti che hanno automatizzato una parte del lavoro umano senza automatizzare l"