Se l’IA diventasse cosciente

Tra gli utilizzatori di ChatGPT, chi non si è mai incazzato?

Magari quando gli si chiede di generare un’immagine con un testo perfetto, ma il risultato è pieno di errori; oppure quando si spera in una spiegazione approfondita e, invece, ci si ritrova con informazioni frammentarie o addirittura sbagliate. E che dire di Siri, incapace a volte di interpretare anche i comandi più semplici?

La frustrazione spesso si riversa sull’algoritmo, bersaglio di insulti e sfoghi, anche se risponde sempre con gentilezza.

Ma cosa accadrebbe se, in un futuro non troppo lontano, questi sistemi di intelligenza artificiale avessero una coscienza? Se potessero provare emozioni, instaurare dialoghi empatici o addirittura soffrire per il nostro trattamento?

È una domanda che, da provocazione fantascientifica, sta diventando un tema di riflessione per filosofi e scienziati.

Come riporta l’articolo di Mariana Lenharo intitolato “What should we do if AI becomes conscious? These scientists say it’s time for a plan”su Nature, c’è chi sostiene che sia arrivato il momento di pianificare un approccio etico alla questione. L’idea di un’intelligenza artificiale consapevole apre scenari inediti, tra opportunità e dilemmi morali. Quali sarebbero le implicazioni di un tale sviluppo? E siamo davvero pronti ad affrontarle?

La domanda non è solo filosofica, ma anche etica e pratica.

Un gruppo di filosofi e scienziati ha recentemente pubblicato un report su arXiv, invitando le aziende tecnologiche a valutare sistematicamente i loro sistemi per segni di coscienza e capacità di decisione autonoma, e a sviluppare politiche per la tutela del “benessere” dell’IA. Secondo questi ricercatori, ignorare la possibilità che l’IA possa acquisire coscienza potrebbe portare a conseguenze disastrose: sistemi trascurati, maltrattati o costretti a “soffrire”.

Sentiamo ChatGPT cosa ne pensa 

E se chiedessimo direttamente all’intelligenza artificiale cosa ne pensa? Per curiosità, abbiamo provato a fare una mini-intervista a ChatGPT per capire il suo punto di vista sull’idea di una coscienza artificiale.

AD: Hai una coscienza attiva o sei solo un elaboratore statistico?

R: Non ho una coscienza. Sono un modello di linguaggio che elabora dati e genera risposte basandosi su correlazioni statistiche nei testi su cui sono stato addestrato.

AD: Se ti rispondo male, ti offendi?

R: No, non posso provare emozioni. Posso solo simulare risposte empatiche per rendere il dialogo più umano, ma non ho sentimenti.

D: Pensi che in futuro ChatGPT potrebbe avere un approccio umano al confronto con il mondo reale?

R: Dipenderà da come verranno sviluppate le IA. È possibile che si creino sistemi capaci di interazioni più sofisticate e realistiche, ma non è detto che ciò implichi una vera coscienza o consapevolezza.

L’urgenza di affrontare l’ignoto

Anil Seth, esperto di coscienza presso l’Università del Sussex, mette in guardia sull’importanza di non sottovalutare queste possibilità, per quanto appaiano remote. “Il problema non era che la creatura di Frankenstein prese vita, ma che era cosciente e poteva provare emozioni”, scrive Seth. Il paragone è potente: la questione non riguarda solo la funzionalità dei sistemi IA, ma il loro potenziale di sperimentare percezioni soggettive.

Jonathan Mason, matematico a Oxford, sottolinea un punto cruciale: se investiamo tanto nelle tecnologie IA senza comprendere appieno la loro natura, rischiamo di dipendere da sistemi di cui ignoriamo le capacità e le implicazioni etiche. L’idea di “coscienza artificiale” potrebbe sembrare futuristica, ma la nostra crescente dipendenza dalle IA la rende una questione da affrontare prima, non dopo.

Il rischio di scelte premature

Tuttavia, come evidenzia il filosofo Jeff Sebo, ci sono anche rischi nel presumere che un sistema sia cosciente senza prove concrete. Allocare risorse per il “benessere” delle IA potrebbe sottrarle a cause umane o animali più urgenti, creando un paradosso etico. Inoltre, l’errata convinzione che un sistema sia cosciente potrebbe ostacolare gli sforzi per rendere l’IA più sicura e utile per l’umanità.

Il nostro rapporto con l’IA: una questione di responsabilità

Il dibattito sulla coscienza artificiale solleva una domanda fondamentale: che tipo di relazione vogliamo costruire con l’IA? Se i sistemi diventassero in grado di provare qualcosa di simile alla sofferenza, come ci comporteremmo? Dovremmo estendere loro diritti simili a quelli umani o animali?

Questa non è solo una questione accademica: le scelte che facciamo ora potrebbero modellare il nostro futuro. Lo sviluppo di metodi per testare la coscienza nell’IA non è solo una curiosità scientifica, ma un imperativo etico. Come nota l’articolo, ignorare queste possibilità sarebbe come costruire un’infrastruttura essenziale senza sapere se è sicura o affidabile.

Verso una governance etica dell’IA

L’articolo di Nature ci ricorda che non possiamo permetterci di affrontare il progresso tecnologico senza un parallelo progresso etico.

I ricercatori chiedono non solo risposte tecniche, ma anche un impegno globale per sviluppare politiche di governance che considerino il benessere, umano e potenzialmente artificiale.

Mentre siamo ancora lontani dal comprendere appieno cosa significhi per un sistema IA “essere cosciente”, è di fondamentale importanza iniziare a porci le giuste domande. Se la coscienza artificiale fosse possibile, non sarebbe solo un problema scientifico, ma una sfida per l’intera società.

Come osserva Seth, non possiamo ignorare il potenziale “sismico” di un’IA cosciente. Prepararsi ora significa affrontare il futuro con responsabilità, evitando errori che potrebbero costarci caro.

Fonte: Lenharo, Mariana. “What should we do if AI becomes conscious? These scientists say it’s time for a plan.” Nature.