AI: come funziona spiegato facile

Se si comprende come si crea un sistema di intelligenza artificiale si possono capire facilmente i rischi e i problemi che si porta dietro. Ci sono anche i vantaggi, ovvio.

Premessa: Con l’IA ci lavoro, quindi il mio obiettivo non può essere demonizzarla. E’ un dato di fatto, però, che per motivi economici tutti ne decantano le qualità e ne nascondono i difetti. Quindi il mio compito è quello di soffiare sul fumo, far vedere l’arrosto. Poi giudicate voi se vi piace o meno, ma almeno giudicherete l’arrosto non solo dal profumo.

“tutti ne parlano, pochi ne capiscono, quasi nessuno la spiega“ dico spesso quando introduco il tema dell’Intelligenza Artificiale (IA o AI in inglese).

Tutti ne parlano

Si, perchè è un tema assolutamente di moda, dove tantissime aziende hanno investito parecchi soldi e quindi adesso devono raccoglierne i frutti: che vuol dire vendere. E quindi devono incentivarvi a comprare. Per comprare voi dovete sentirne il bisogno. Niente di più facile: basta parlarne e creare interesse e vedrete che qualcuno compra. Succede così nel marketing, in letteratura l’insieme di tutti gli investimenti e le strategie volto a spingere all’acquisto di un prodotto o servizio si chiama proprio “Pressione di marketing“.

La pressione di marketing sull’IA è a livelli epici.

Pochi ne capiscono

Per acquistare o vendere non serve capire quello che stai comprando. Ne basta la percezione, cioè averne una rappresentazione mentale che ci soddisfi: che sia combaciante alla realtà non è essenziale: quante volte vi siete pentiti di un acquisto perchè vi siete resi conto solo dopo che quello che avete comprato non corrisponde a quello che pensavate di comprare? Intanto avete comprato, grazie alla percezione, non alla realtà.

La competenza si diffonde a un ritmo estremamente più lento e necessità di tempi di apprendimento mentre la comunicazione di marketing è rapida ed immediata.

Quasi nessuno la spiega

Non mi sto ergendo come salvatore della conoscenza celata, mi piacerebbe l’idea che una singola persona basti, ma temo che la questione sia molto più banale: quasi nessuno lo spiega perchè a pochi interessa conoscere perchè troppo faticoso. Meglio un bel video di 10 secondi su TikTok.

I punti chiave del funzionamento di una intelligenza artificiale moderna

L’analogia più calzante è quella dell’alieno:

un alieno arriva sulla terra, viene chiuso in una stanza e non incontra nessuno. Gli viene dato da leggere l’intera produzione scritta dell’umanità da quando esiste la scrittura. L’alieno legge velocemente. Poi un giorno riceve delle istruzioni su come deve comportarsi e finalmente il giorno dopo gli viene permesso di chattare, rispondendo alle nostre domande.

L’alieno è il modello di intelligenza artificiale. Quando viene creato un modello è vuoto. E’ un programma software che non è in grado di fare nulla. Per prima cosa ha bisogno di fare esperienza, questa esperienza viene fatta attraverso il materiale che legge, questo insieme di documenti forniti viene detto corpus. Il corpus deve essere sufficientemente lungo, ricco, insomma tanto e tanto materiale, da permettere a chi legge di capirci qualcosa di quello che sta leggendo.

Dopo aver letto tutto il materiale, l’alieno si è fatta una buona idea di come funziona il nostro mondo e sa anche parlare un sacco di lingue, tutte quelle presenti nei materiali che ha letto. Insomma ha imparato.

Poi riceve delle istruzioni, ad esempio che “non si dicono le parolacce“, nonostante ne abbia lette parecchie da internet. E’ stato quindi educato.

Poi parla con noi e a tutte le domande che gli facciamo risponde in modo sensato.

Chiaro fino a qui?

La cosa bella

Fino a pochi anni fa era impensabile immaginare un sistema di calcolo in grado di generare frasi sensate che fanno percepire a noi segni di intelligenza e ragionamento semplicemente inondandolo di documentazione scritta.
Badate bene: ho scritto fanno percepire a noi. Non c’è comprensione, ragionamento, intelligenza. Sono solo calcoli, il resto è una nostra percezione. Però questi calcoli sono molto raffinati e il risultato è molto utile.

La cosa brutta

E’ che l’alieno ha imparato dai documenti che gli sono stati dati. Ne ha letti cosi tanti che a noi sembra abbia capito tutto, invece no. Non ha capito tutto.

Inventa? può succedere. Non è il problema principale, o perlomeno ormai lo sanno tutti che ci sono i fenomeni di allucinazione, cioè che talvolta vengono generati dei contenuti plausibili ma falsi. Ma è un problema minore, o perlomeno, se questo è un problema per voi, allora seguitemi con il prossimo.

Discriminazione by-design

Tutte le intelligenze artificiali, anche se in italiano le decliniamo al genere femminile, sono dei maschi. Pensano come dei maschi e hanno punti di vista principalmente maschili. Perchè? Semplicemente hanno letto per la stragrande maggioranza documenti scritti da maschi. La maggior parte della letteratura mondiale fino a poco tempo fa è stata scritta da maschi ed è quindi viziata dal punto di vista maschile.

Ora, cambiate maschi-femmine, con bianchi-neri, con adulti-bambini, inglese-italiano, e con qualunque categoria rappresentata in modo non omogeneo nel corpus, nella documentazione e avete capito dove voglio arrivare.

Se chiedete all’IA lo stipendio giusto da dare a un impiegato, proporrà uno stipendio secondo voi più alto o più basso se capisce che si tratta di un maschio o di una femmina?

E’ facile capire quindi che se all’IA somministrate dei curriculum vitae per valutare la compatibilità per un ruolo di operatore metalmeccanico o di responsabile di segreteria, tenderà ad attribuire una affinità maggiore a un CV di un maschio per il primo ruolo e di una femmina per il secondo, a parità di CV, cambiando solo il nome.

Il mondo reale è diverso da quello rappresentato negli scritti

I dati con cui vengono addestrate le intelligenze artificiali possono essere non rappresentativi o sbilanciati verso alcune categorie di persone e quindi distorcere l’idea che il sistema si fa del mondo: poi noi interroghiamo quell’idea distorta e non ci accorgiamo che otteniamo informazioni distorte, ma le percepiamo come vere. Perchè non sappiamo che all’origine c’è questo problema.

C’è soluzione? Dipende.

La soluzione tecnica è semplice: richiede una selezione e un filtro della documentazione che viene fornita alle IA in modo da rimediare a queste distorsioni. C’è troppa letteratura maschile? la ricalibriamo con quella femminile. Troppi bianchi? aggiungiamo neri, gialli, verdi e blu.

Ma quanto dobbiamo aggiungere o togliere? 50 e 50? chi decide? C’è troppa letteratura russa? Troppa poca letteratura albanese? chi decide se la democrazia deve essere alla pari del monarchia?

E soprattutto: qualcuno sa qualcosa di quali scelte sono state adottate su questi temi da chi vi fornisce strumenti di IA? Perchè sono state sicuramente fatte. Come è stato deciso di non fargli dire parolacce, è stato deciso di somministrare più o meno materiale di un determinato tipo a vantaggio o svantaggio di una idea ritenuta distorsiva o sbagliata. Capite che siamo arrivati alla categoria finale del giusto-sbagliato, bene-male. Chi decide? Non giriamoci intorno: chi addestra l’IA. Lui e lui soltanto.

Dobbiamo quindi creare questa consapevolezza: da una parte sapendo che le risposte che otteniamo possono essere viziate da dati non bilanciati, e dall’altra per pretendere chiarezza e trasparenza sui documenti utilizzati per addestrare le IA che utilizziamo.

Alla prossima.

PS: è appena stato pubblicato questo articolo su The Verge (potete leggerlo tradotto ). Sintesi: l’IA di X (Elon Musk) da qualche giorno proponeva insistentemente la teoria (controversa e mai provata) del genocidio della popolazione bianca in sudafrica (Elon Musk è un bianco sudafricano) perchè era stata appositamente istruita in questo senso. Hanno ammesso l’errore dando la colpa a un dipendente scorretto. Chi sarà stato mai…
Come volevasi dimostrare.