Deepfake e intelligenza artificiale: una questione etica risolvibile con le regole

Un'azienda di costruzioni ha deciso di adottare una strategia di marketing innovativa utilizzando un video promozionale. Nel video, un rinomato architetto sembra discutere entusiasticamente di una nuova tecnologia edilizia che promette di rivoluzionare il settore. Con un realismo sorprendente, il video mostra l'architetto che afferma come questa tecnologia possa ridurre i tempi di costruzione del 50% e migliorare significativamente l'efficienza energetica degli edifici.

Tuttavia, la realtà è ben diversa. L'azienda ha usato una tecnologia deepfake, e l'architetto non ha mai fatto tali dichiarazioni né ha autorizzato l'uso della sua immagine per questo scopo. Il video, nonostante la sua apparente autenticità, è interamente frutto di intelligenza artificiale. Le espressioni facciali, i movimenti e la voce sono stati sintetizzati in modo così accurato che chi guarda il video potrebbe facilmente credere che sia l'architetto stesso a parlare.

Questo uso della tecnologia deepfake solleva importanti questioni etiche, in particolare riguardo alla veridicità delle informazioni e al consenso degli individui i cui volti e voci vengono replicati. Sebbene possa sembrare una strategia efficace per attirare attenzione e investimenti, comporta anche il rischio di ingannare il pubblico e danneggiare la reputazione di professionisti del settore, oltre a creare false aspettative sulle capacità reali della tecnologia pubblicizzata.

Le nuove frontiere dell'intelligenza artificiale e i dilemmi etici della produzione di deepfake

In un articolo recentemente pubblicato da MIT Technology Review, Melissa Heikkilä condivide un'esperienza personale sorprendentemente realistica con la nuova tecnologia dell'azienda di intelligenza artificiale Synthesia. Questa startup ha sviluppato una capacità impressionante di creare avatar digitali iperrealistici, sollevando interrogativi significativi sulla distinzione tra realtà e finzione nell'era digitale.

Synthesia, che ha recentemente lanciato una nuova generazione di avatar AI, sfrutta i più recenti sviluppi nel campo dell'intelligenza artificiale generativa per produrre figure virtuali estremamente realistiche ed espressive. Questi avanzamenti tecnologici non solo hanno permesso di superare alcuni limiti precedenti, come la rigidità e la non naturalezza dei movimenti, ma hanno anche aperto la strada a nuove preoccupazioni relative alla nostra capacità di discernere il vero dal falso.

Uno dei concetti chiave esplorati nell'articolo è il "valle dell'uncanny" (uncanny valley), una teoria che descrive la reazione di disagio che gli umani possono avere di fronte a repliche quasi umane ma non completamente convincenti. Synthesia afferma che la sua nuova tecnologia ci ha finalmente permesso di uscire da questa valle, rendendo gli avatar indistinguibili dalle persone reali a un occhio non allenato.

Tuttavia, il progresso tecnologico porta con sé importanti questioni etiche e sociali.

"Synthetic media" è il termine preferito da Synthesia per descrivere i suoi prodotti, in contrasto con "deepfake", un termine ormai associato a implicazioni negative. Nonostante questa distinzione semantica, la sostanza rimane problematica se l'intenzione di fondo e le conseguenze sono le stesse.

L'articolo tocca anche la questione del consenso, evidenziando che Synthesia non crea avatar di persone senza il loro esplicito consenso. Questo è un passo importante per mitigare alcuni dei rischi associati ai deepfake, come la creazione non consensuale di contenuti sessuali o la disinformazione politica.

Il CEO di Synthesia, Victor Riparbelli, esprime ottimismo sulla capacità della tecnologia di democratizzare la creazione di contenuti e migliorare la comunicazione aziendale. Tuttavia, egli riconosce anche i potenziali pericoli associati all'indistinguibilità tra contenuti generati da AI e realtà, specialmente in un'epoca caratterizzata da una fiducia sempre minore nei media tradizionali.

In sintesi, mentre l'articolo di Heikkilä ci invita a riflettere sull'impatto della tecnologia AI sui nostri mezzi di percezione della realtà, sollecita anche un dibattito più ampio sulla regolamentazione e il controllo etico delle intelligenze artificiali.

La crescente difficoltà nel distinguere tra realtà e finzione digitale rappresenta una sfida significativa per la società, spingendoci a interrogarci su quale futuro vogliamo costruire nell'era dell'AI.

Dalla "guerra dei mondi" al deepfake, quale scelte per un uso corretto dell'intelligenza artificiale?

La storia della mediazione tra realtà e finzione attraverso i media non è una novità dell'era digitale.

Fin dall'incredibile/credibile trasmissione radiofonica di Orson Welles del 1938, "La guerra dei mondi", che molti ascoltatori scambiarono per un vero annuncio di invasione aliena, fino ai film distopici moderni, i media hanno sempre giocato con la linea sottile tra realtà e finzione. E lo hanno fatto influenzando culture intergenerazionali su ogni tema e argomento, a volte sulla base di vere e proprie strategie di comunicazione politica, gender, sociale.

Questa tradizione continua oggi con la tecnologia dei deepfake, che eleva però in modo iperbolico la questione a nuovi livelli di realismo e immediatezza. Non solo, ne amplia l'uso in modo trasversale a qualsiasi livello.

Mentre la "valle dell'uncanny" illustra il nostro disagio di fronte a repliche quasi umane ma non perfette, i deepfake moderni sfidano questa percezione rendendo quasi indistinguibile il falso dal vero.

Questo sviluppo solleva questioni urgenti riguardo alla fiducia e alla veridicità nell'era digitale.

L'industria dell'IA, prosperando su un terreno già fertilizzato da decenni di storytelling immersivo e manipolativo, ora dispone di strumenti che potrebbero rafforzare o minare la fiducia pubblica su scala mai vista prima.

Quindi, come possiamo navigare questo nuovo panorama?

Una proposta è quella di imporre l'etichettatura chiara dei contenuti mediatici generati dall'IA. Simile alle avvertenze su prodotti alimentari o medicinali, queste etichette informerebbero gli utenti sulla natura del contenuto che stanno consumando, indicando chiaramente se le immagini o i suoni sono stati generati o alterati da algoritmi di intelligenza artificiale.

Avremo in futuro il marchio certificato "AI FREE"

Inoltre, potrebbero essere necessari regolamenti più rigorosi e sistemi di verifica che certifichino l'autenticità delle fonti di informazione, affrontando direttamente il rischio di disinformazione.

La sfida sta nel bilanciare efficacemente lo sviluppo tecnologico con norme etiche e controlli di censura, per garantire che le innovazioni servano a migliorare la società piuttosto che a confonderla ulteriormente.

In conclusione, mentre ci avventuriamo in questa nuova era, è fondamentale che sviluppatori, legislatori e il pubblico collaborino per creare un ambiente in cui la tecnologia possa prosperare mantenendo al contempo integrità e fiducia.

Solo così potremo assicurarci che il potere dei media rimanga uno strumento di illuminazione piuttosto che di inganno.

Fonte: An AI startup made a hyperrealistic deepfake of me that’s so good it’s scary, Melissa Heikkilä - MIT TR