Argomento 5.2. Quando l'IA sbaglia: bias, allucinazioni e disinformazione

I bias dell'IA: quando il problema sono i dati

I bias dell'IA si manifestano quando un sistema prende decisioni sistematicamente inique,non perché sia stato programmato per discriminare, ma perché i dati da cui ha appreso erano sbilanciati. L'IA non "sceglie" di essere iniqua: si limita a riflettere gli squilibri presenti nei suoi dati di addestramento.

Esistono quattro tipi comuni di bias.

Tipo	Come funziona	Esempio
Bias nei dati	I dati di addestramento non rappresentano la realtà in modo equilibrato.	Un'IA addestrata prevalentemente su immagini di resort di lusso al mare impara che "hotel" significa "costoso, sulla costa e moderno", e fornisce risultati scadenti quando la si interroga su un rifugio di montagna o su ostelli.
Bias di etichettatura	Gli esseri umani etichettano i dati di addestramento portandosi dietro i propri stereotipi.	Un team di programmazione etichetta foto di "personale alberghiero professionale" e, inconsapevolmente, seleziona soprattutto persone giovani, magre e vestite in stile occidentale. Imparando da questi dati, l'IA finirà per avere una rappresentazione parziale di che cosa significa apparire "professionale".
Bias del modello	L'IA trova nei dati delle scorciatoie che non rispecchiano la realtà.	L'IA nota che nei dati di addestramento le recensioni a cinque stelle menzionano spesso "spa" e "champagne". Inizia così ad associare la qualità al lusso, ignorando strutture economiche di livello eccellente.
Bias di feedback	Gli stessi output dell'IA rafforzano e amplificano il bias iniziale.	Un'IA propone specifiche destinazioni a specifici gruppi di utenti. Il fatto che questi clicchino sui suggerimenti viene letto dall'IA come una conferma, e il meccanismo finisce per autoalimentarsi.

Esempi dal mondo reale

Prova a fare una ricerca in rete, oppure osserva le due immagini qui sotto. Entrambe mostrano i risultati ottenuti cercando, su Google, immagini generate dall'IA di due ruoli professionali: CEO (Chief Executive Officer) e personale addetto alle pulizie (housekeeper). Ricerca fatta a marzo 2026.

Osserva gli schemi che emergono. I risultati per "CEO" sono dominati da uomini, per lo più bianchi, di mezza età, in giacca e cravatta, all'interno di ambienti aziendali. I risultati per "personale addetto alle pulizie" mostrano quasi esclusivamente donne, spesso appartenenti a minoranze etniche, in uniforme e con in mano attrezzi per le pulizie. Questo è determinato dal fatto che i dati di addestramento – milioni di immagini raccolte dalla rete – riflettono decenni di rappresentazioni stereotipate. L'IA ha assimilato questi schemi e ora li riproduce come se fossero fatti oggettivi.
Questa è la forma più evidente del bias dei dati. Ed è un problema serio: se un hotel utilizza immagini generate dall'IA per il proprio sito o per le campagne di marketing senza verificare la presenza di questi schemi, rischia di rafforzare gli stereotipi che il settore dell'ospitalità sta cercando di superare.

• Nel settore dell'ospitalità - immagina che il sistema di raccomandazione IA del tuo hotel sia stato addestrato principalmente su dati relativi a viaggiatori europei in vacanza. Potrebbe suggerire costantemente degustazioni di vino e pacchetti spa – perfetti per quel profilo di ospite, ma poco utili o addirittura fuori luogo per famiglie, viaggiatori con budget limitato o ospiti che provengono da culture in cui il consumo di alcol non è appropriato. L'IA non ha cattive intenzioni: sta semplicemente riflettendo i limiti del proprio addestramento.

Mettiti alla prova : Esercizio 1

Le allucinazioni dell'IA: quando l'IA inventa i fatti

Si parla di allucinazione dell'IA quando un modello generativo produce con sicurezza informazioni sbagliate, prive di senso o totalmente inventate, presentandole però come se fossero dati di fatto. Hai già incontrato questo concetto nelle lezioni precedenti, ma vale la pena approfondirlo, perché le conseguenze possono essere molto serie.

Tutto questo accade perché l'IA generativa è, nella sua essenza, una macchina predittiva. Non "sa" cosa è vero: prevede quale sia la parola, la frase o l'elemento visivo più probabile da generare successivamente sulla base di schemi statistici. Quando questi schemi la portano in territori poco noti, riempie i vuoti con invenzioni dall'apparenza plausibile.

Tra le allucinazioni più comuni puoi trovare: nomi di luoghi inesistenti, fatti storici inventati, ristoranti o attrazioni che non esistono, statistiche fabbricate, citazioni e fonti fittizie che sembrano del tutto autentiche.

• Nel settore dell'ospitalità - Chiedi a un'IA di scrivere la descrizione della spa del tuo hotel per il sito web. Nel testo che ricevi si legge che la struttura "offre trattamenti con acqua termale proveniente da una fonte naturale sotterranea". Peccato che la tua spa utilizzi normale acqua di rete riscaldata. L'IA ha riempito un vuoto inventando un dettaglio che, in molti hotel di quella categoria, è effettivamente presente. Se pubblichi la descrizione senza controllarla, stai promettendo agli ospiti qualcosa che non puoi mantenere.

Deepfake e disinformazione generata dall'IA

La stessa tecnologia generativa che permette di creare contenuti utili può anche produrre falsi convincenti: video manipolati, immagini fabbricate o registrazioni vocali sintetiche che mostrano persone mentre dicono o fanno cose che non hanno mai detto né fatto.

Questo è un problema per tre motivi. Primo: creare contenuti falsi oggi è facile ed economico, chiunque abbia un computer portatile può farlo. Secondo: può essere fatto su ampia scala generando migliaia di articoli o immagini false in pochi secondi. Terzo: la qualità è sempre più difficile da distinguere dalla realtà.

• Nel settore dell'ospitalità - Un concorrente crea un finto video di recensione negativa in cui un "ospite" si lamenta del tuo hotel; peccato che quell'"ospite" sia un avatar generato dall'IA e che la lamentela sia totalmente inventata. Oppure qualcuno pubblica online immagini generate dall'IA della tua struttura, facendola apparire trascurata quando in realtà non lo è. Questi scenari possono sembrare estremi, ma sono già tecnicamente possibili.

Come difendersi: una check list per la valutazione critica

Bias, allucinazioni e disinformazione sono problemi diversi, ma la risposta a tutti e tre è la stessa: non accettare mai l'output dell'IA così com'è. Ecco una checklist pratica per valutare ciò che l'IA produce.

1. Controllare i testi

• Verifica i fatti - Il testo cita nomi, date, luoghi o statistiche? Cercali in modo indipendente. Se non riesci a confermarli, non utilizzarli.
• Diffida della "vaghezza" - Il testo suona curato, ma in realtà non dice nulla di concreto? I contenuti generici e privi di fonti sono un campanello d'allarme.
• Controlla la presenza di bias - Il testo dà la priorità a un certo tipo di ospite, a una particolare fascia di prezzo o a un determinato profilo di pubblico? Ti sembra imparziale, qualunque sia il lettore?
• Leggilo ad alta voce - I testi generati dall'IA hanno spesso un tono uniforme e impersonale che l'udito coglie prima della vista.

2. Controllare le immagini

• Osserva mani e dita - L'IA continua ad avere difficoltà con queste parti del corpo: dita in più, articolazioni piegate in modo innaturale o giunture sfocate sono indizi frequenti.
• Leggi il testo presente nell'immagine - Cartelli, etichette e titoli di libri nelle immagini generate dall'IA sono spesso illeggibili o privi di senso.
• Controlla ombre e luci - Le ombre sono coerenti? La persona appare naturalmente inserita nell'ambiente, oppure sembra "incollata" allo sfondo?
• Esamina pelle e capelli – La pelle generata dall'IA può apparire innaturalmente liscia, mentre i capelli tendono a fondersi in modo strano lungo i contorni.

3. Controllare audio e video

• Ascolta il tono di voce - La voce suona piatta, priva di emozioni naturali, oppure ci sono pause strane?
• Osserva il sincronismo labiale – I movimenti della bocca corrispondono con precisione alle parole pronunciate? Anche piccoli disallineamenti sono un indizio di deepfake.
• Osserva i movimenti del corpo – La testa resta innaturalmente immobile mentre il volto si muove? La frequenza con cui chiude e apre gli occhi sembra naturale?

Pausa video