l’intelligenza artificiale non è intelligente, riflessione di Antonella Sacco
E, a mio parere, non avrebbero dovuto chiamarla così, per non originare confusione.
L’intelligenza artificiale generativa, confidenzialmente della AI (all’inglese), opera su dati statistici, non inventa né tanto meno crea nulla. Tutto qui.
Ne ero, ovviamente, già sicura, ma adesso sono in grado di spiegarlo meglio. Ho infatti seguito la prima lezione (due ore su dodici) di un corso su questo argomento.
I docenti hanno paragonato l’AI a un pappagallo. Il pappagallo sente dire e ridire una certa parola e alla fine la ripete. E così, più o meno, fa l’AI.
L’AI viene addestrata fornendole un vastissimo insieme di dati (testi, immagini, video); in base a questi è poi in grado di dare fornire risposte, ma lo fa operando una statistica, cioè mettendo in relazione fra loro parole che solitamente sono, appunto, in relazione fra loro nei vari testi, immagini, testi ecc che ha esaminato e memorizzato.
Per rispondere a una domanda dunque si limita a cercare ciò che statisticamente è più frequente in associazione a quella domanda, ma non sa assolutamente di cosa sta parlando. Nel caso di calcoli, per esempio, non si affida a un programma che li esegue, ma cerca nella sua memoria la risposta più frequente: alla domanda quanto fa 2 + 2 risponde 4 solo perché nei suoi archivi 4 è la risposta che più spesso è associata a 2 + 2.
Questo significa, fra le altre cose, che le risposte che si ottengono dall’AI devone sempre essere verificate, perché non è detto che siano giuste (la “frequenza” non è la certezza).
Inoltre occorre tener conto di un altro fatto (anche di altri ma per ora mi limito a questo): l’AI viene addestrata fornendole dati, come ho detto, però non ci si limita a questo: le possibili risposte sono filtrate da dei revisori umani (allineamento). Dunque le risposte dipendono da come operano i revisori, ovvero dalle indicazioni che questi hanno ricevuto. Di conseguenza una stessa domanda posta ad AI di nazioni diverse può ricevere risposte molto diverse, magari per effetto della censura (per esempio l’AI cinese non rileva alcun evento nel giorno della strage di Tienanmen).
Per il momento m fermo qui. Questo è solo un breve e forse confuso cenno su un tema che considero molto importante, perché, volenti o nolenti, riguarda tutti.