Le allucinazioni dell’AI

Il mondo dell’AI è infinitamente complesso e pieno di lavori non finiti, ovvero lasciati a metà dai più grandi gruppi dell’IT mondiale come Microsoft ed altri. Questo è quanto emerge dalla lettura di un bellissimo articolo a firma di Andrea Daniele Signorelli uscito sulla stampa nazionale e che vi consiglio di leggere con attenzione (LINK).

Conosco il tema e sono diversi anni che per motivi diversi seguo il corso dell’avvento dell’AI Generativa.

Questa nota editoriale nasce proprio dopo aver letto l’articolo citato, che al di là del dibattito intorno alle diverse questioni come “i dati” e l’approccio operativo, si pone come pensiero critico sull’approccio all’uso dell’Intelligenza artificiale su portali e motori di ricerca, come strumento di “impacchettamento dei dati sparsi”, organizzati dai processi di machine learning che sono dietro all’AI generativa.

La mia conclusione insomma, è che l'AI non è ancora matura come scienza, e nel frattempo potrebbe cominciare a fare danni seri, soprattutto se si tiene in considerazione quanto dicono due gruppi di ricerca che lavorano sotto il nome di "Algorithm Watch" e "AI Forensics", che per testare la maturità di Chat GPT 4, hanno realizzato diversi test sugli aspetti legati alle ultime elezioni politiche in Alsazia, Baviera e in Svizzera. I test sono stati fatti su Microsoft Bing Chat ed altri servizi "boat", ovvero quei servizi che già da diversi anni provano ad imitare i servizi classici di domande e risposte che l'uomo ha sempre gestito attraverso i call center e/o in maniera più smart.

Casi di errori generati dell'AI

L'impiego sempre più diffuso dei chatbot solleva importanti questioni etiche e legali. Numerosi casi dimostrano come questi strumenti possano generare informazioni false. Air Canada, ad esempio, è stata sanzionata per aver fornito informazioni errate a un cliente tramite il proprio chatbot. Analogamente, ChatGPT ha "condannato" ingiustamente a 30 mesi di reclusione un sindaco australiano (caso Brian Hood), mentre il chatbot di Bing ha etichettato erroneamente come terrorista un veterano statunitense e professore aerospaziale (caso Jeffrey Battle). Questi episodi evidenziano da un lato, la necessità di regolamentare l'uso dei chatbot, e dall’altro la necessità di sviluppare sistemi più affidabili per garantire la veridicità delle informazioni generate.

Il salto di scala

Il salto di scala dei sistemi di AI deve ovviamente ancora avvenire, e tutta la filosofia intorno ai Large Language Model (LLM), alla tecnica di “assorbire informazioni” con il machine learning (ML), e poi riutilizzarle per creare risposte da dare all’utente, poteva andare bene finché si rimaneva nell’uso avanzato della statistica.

Ma evidente manca ancora il salto di scala, e non basta impiegare la statistica avanzata per cogliere il frutto della montagna di dati e processi di ML, in genere impiegati con l’universo informativo del WEB. Ma ci vuole altro, che probabilmente ancora non è nato nelle fila degli innovatori dell’AI.

Insomma, ad oggi tutti possiamo giocare con l’AI, ma attenzione, come è scritto sul web di OpenAI e ChatGPT, l’AI “può commettere errori”, e la stessa “non pubblica nulla, ma si limita a generare delle bozze di contenuto”, di cui solo gli utenti sono responsabili dell’eventuale pubblicazione.

Le allucinazioni

Il vero problema è legato a diversi tipi di errore, comunemente associati ai linguaggi LLM, su cui si basa l'AI Generativa e non solo. A districarsi da questi problemi però, è l'utente che dovrebbe scegliere di impiegare gli strumenti AI con più coscienza, con più attenzione e dimestichezza nell'uso del sapere e quindi della tecnologia.

A dire il vero Chat Gpt, come abbiamo accennato poco sopra, avverte preventivamente gli utilizzatori del fatto che “può commettere errori”, ma forse sono i grandi player del web che stanno correndo come sempre, nell’eterna lotta di accaparrarsi utenti alla ventura del web. In effetti le voci più accreditate propendono per il fatto che l’unico segmento con cui si guadagna oggi con l’AI, è quello dei motori di ricerca e dei chatbot, e che in linea generale gli LLM non rappresentano altro che un primo passo verso la vera AI, per la cui maturità manca ancora molto, e le “allucinazioni” rientrano tra le patologie della prima sua prima era.

In effetti il mondo dell’AI è in fermento, e senza nemmeno impegnarsi a leggere almeno uno dei libri di Nick Bostrom è semplice capire che il concetto di “allucinazione dell’AI” è dovuto al fatto che non c'è ancora nulla che si possa paragonare alla “intelligenza umana”, e che fino a quando il mondo dell’AI si baserà sull’approccio dell’ML addestrato con i dati del web, il risultato che otterremo sarà semplicemente la statistica di un mondo che eleva le fonti fake a fonti usabili per l’AI.

Ogni volta che si parla di "intelligenza artificiale", mi torna in mente quanto detto dal mio amico, un realista matematico della geomatica. Egli sostiene che, nonostante si cerchi di presentare l'AI come qualcosa di intelligente, attualmente non è altro che un processo statistico, simile ai complessi algoritmi utilizzati quotidianamente nella geomatica operativa.

Quindi, non ci resta che aspettare finché il nostro stato evolutivo come "sapiens" non venga assimilato dai processi IT, che attualmente rimangono semplicemente bit generati e gestiti da una tecnologia ancora primordiale come quella basata su silicio e transistor.

Utili riferimenti che suggerisco di consultare

• Il topic AI di INGENIO
• L’AI nel mondo del CAD
• Geomatica e AI
• I rischi dell’AI senza regole