Per l’Intelligenza Artificiale non ripetiamo gli stessi errori fatti con i Social

Il mondo dei social media, un tempo celebrato come catalizzatore di rivoluzioni democratiche, oggi è spesso al centro di dibattiti per il suo ruolo nella diffusione di disinformazione e pericoli per la salute mentale.

Questa evoluzione ha portato a riflessioni cruciali sull'impatto delle tecnologie sulla società, lezioni che Nathan E. Sanders e Bruce Schneier nell’articolo “Let’s not make the same mistakes with AI that we made with social media” sul MIT TECHNOLOGY REVIEW sottolineano essere direttamente applicabili al campo dell'intelligenza artificiale (AI) .

L'AI, attualmente acclamata come la nuova frontiera tecnologica, condivide con i social media il potenziale sia di cambiare il mondo in meglio, sia di arrecare danni significativi.

Penso che su questo tutti possano essere d’accordo, anche gli scettici e gli entusiasti.

Sanders e Schneier identificano cinque attributi fondamentali dei social media che hanno danneggiato la società, e che sono condivisi anche dall'AI.

Questi attributi non sono intrinsecamente malvagi, ma sono spade a doppio taglio, la cui pericolosità dipende da come e da chi vengono utilizzate.

Uno dei principali problemi identificati è il modello di business basato sulla pubblicità, che ha guidato sia l'evoluzione dei social media sia alcune delle piattaforme di AI.

Qual’è il problema? Che questo modello spinge a priorizzare l'engagement a discapito di altri valori, portando a tecniche pubblicitarie che confinano con il manipolativo e aumentano il rischio di danni agli utenti .

Altro punto critico è la sorveglianza, esacerbata dalla dipendenza dalla pubblicità per monetizzare, che ha portato a una personalizzazione estrema e a un aumento della sorveglianza su vasta scala: le piattaforme di AI, sostenute dalla pubblicità, si trovano di fronte agli stessi incentivi di mercato perversi e potenti dei social media, con la possibilità di manipolazione che diventa sempre maggiore man mano che ci affidiamo all'AI per servizi personali .

Social media’s reliance on advertising as the primary way to monetize websites led to personalization, which led to ever-increasing surveillance 
(La dipendenza dei social media dalla pubblicità come principale modo per monetizzare i siti web ha portato alla personalizzazione, che a sua volta ha portato a una sorveglianza sempre maggiore).

Il tema della Viralità

I social media consentono a qualsiasi utente di esprimere qualsiasi idea con il potenziale di una portata globale istantanea.

"A great public speaker standing on a soapbox can spread ideas to maybe a few hundred people on a good night. A kid with the right amount of snark on Facebook can reach a few hundred million people within a few minutes"
("Un grande oratore pubblico su una cassa di sapone può diffondere idee a forse qualche centinaio di persone in una buona serata. Un ragazzo con la giusta dose di sarcasmo su Facebook può raggiungere qualche centinaio di milioni di persone in pochi minuti").

Questo potere di viralità, che una volta era visto come una promessa di unione e accesso a verità soppressa, si è rivelato avere un lato oscuro. Il contenuto che esprime massima animosità verso gli avversari politici ottiene il maggior coinvolgimento, guidando e premiando la disinformazione.

L'AI ha il potenziale per intensificare questo problema, rendendo la produzione e la diffusione di contenuti più facile, veloce e automatica.

Gli strumenti di AI generativa possono creare innumerevoli falsità su qualsiasi individuo o tema, alcune delle quali diventano virali, e queste menzogne potrebbero essere propagate da account social controllati da bot AI.

La fidelizzazione

Le aziende di social media investono molto sforzo nel rendere difficile ad ogni utente di lasciare le loro piattaforme. Non siamo più nel campo della tecnica ma si entra negli aspetti collegati alla psicologia degli utenti,

"Every moment you invest in sharing a memory, reaching out to an acquaintance, or curating your follows on a social platform adds a brick to the wall you’d have to climb over to go to another platform"
("Ogni momento che investi condividendo un ricordo, contattando una conoscenza o curando i tuoi follow su una piattaforma social aggiunge un mattone al muro che dovresti scalare per passare a un'altra piattaforma").

Questo concetto di lock-in, che rende difficile da un lato perdere affettivamente il contatto con i contenuti personali pubblicati e dall’alto trasportare i tuoi dati salvati - connessioni, post, foto - su un'altra piattaforma, non è unico dei social media ma viene portato a un nuovo livello da questi ultimi.

Analogamente, le aziende che creano assistenti digitali personali alimentati dall'AI renderanno difficile per gli utenti trasferire quella personalizzazione su un'altra AI.

Se gli assistenti personali AI riescono a diventare strumenti di risparmio di tempo estremamente utili, è perché conoscono i dettagli dell’utente molto di più di tanto quanto un buon assistente umano. La domanda che ci poniamo di fronte al bivio di un cambiamento è se siamo pronti davvero rinunciare a tutto ciò per ricominciare da capo con il servizio di un'altra azienda?

In esempi estremi, alcune persone hanno formato legami stretti, forse addirittura familiari, con chatbot AI. Pensare al tuo AI come a un amico o terapista può diventare una potente forma di lock-in.

La viralità e il lock-in sono solo due delle sfide che la società deve affrontare nell'era dell'intelligenza artificiale. Mentre queste tecnologie offrono possibilità straordinarie, portano anche rischi significativi che richiedono un'attenta riflessione e, possibilmente, nuovi approcci normativi.

La preoccupazione per il lock-in è importante perché porta a prodotti e servizi meno responsivi alla domanda dei consumatori.

"The harder it is for you to switch to a competitor, the more poorly a company can treat you. Absent any way to force interoperability, AI companies have less incentive to innovate in features or compete on price, and fewer qualms about engaging in surveillance or other bad behaviors"
("Più difficile è passare a un concorrente, peggio un'azienda può trattarti. In assenza di un modo per imporre l'interoperabilità, le aziende di AI hanno meno incentivi ad innovare nelle funzionalità o a competere sul prezzo, e meno scrupoli nell'ingaggiare nella sorveglianza o in altri comportamenti negativi").

Monopolizzazione

Le piattaforme sociali spesso iniziano i loro rapporti in modo molto leggero, come prodotti eccellenti, veramente utili e rivelatori per i loro consumatori, prima di iniziare a monetizzare e sfruttare quegli utenti a beneficio dei loro clienti aziendali.

Questo è un ciclo che Cory Doctorow ha descritto con potenza, tracciando la storia di Facebook, Twitter e, più di recente, TikTok.

"The network effects of tech platforms push a few firms to become dominant, and lock-in ensures their continued dominance" ("Gli effetti di rete delle piattaforme tecnologiche spingono poche aziende a diventare dominanti, e il lock-in ne garantisce la continua dominanza").

Questo ciclo si sta chiaramente iniziando a ripetere nell'AI, con OpenAI che diventa un esempio emblematico con il suo prodotto di punta, ChatGPT.

Il percorso di OpenAI, da alternativa "aperta" alle megacorporazioni a entità che inizia il ciclo di monetizzazione avvertito da Doctorow, illustra come il finanziamento di venture dai ranghi elitari della tecnologia pervada e controlli l'AI aziendale.

In questo contesto di sfruttamento, poco o nessun riguardo viene pagato alle esternalità che colpiscono il grande pubblico, le reti sociali monopolistiche hanno virtualmente nessun incentivo a controllare l'impatto ambientale dei loro prodotti, la tendenza a diffondere disinformazione, o gli effetti perniciosi sulla salute mentale.

Allo stesso modo, poche o nessuna misura è in atto per limitare l'impatto negativo potenziale dell'AI: si pensi a software di riconoscimento facciale che equivale a profilazione razziale, opinioni pubbliche simulate supercaricate da chatbot, video falsi nelle pubblicità politiche persistono in una zona grigia legale.

Conclusioni: mitigare i rischi

Gli autori dell’interessante articolo del MIT TR, Nathan E. Sanders e Bruce Schneier, come abbiamo appurato nel corso di questo mio approfondimento, ritengono che i rischi che l'AI pone alla società siano sorprendentemente familiari considerata la similitudine con il mondo dei Social Network, ma per essi c'è una grande differenza: non è troppo tardi.

Nell’articolo del MIT si evidenzia che, freschi dell'esperienza dei danni causati dai social media, abbiamo tutti gli avvertimenti di cui abbiamo bisogno per evitare gli stessi errori.

"The biggest mistake we made with social media was leaving it as an unregulated space"
("Il più grande errore che abbiamo commesso con i social media è stato lasciarlo come uno spazio non regolamentato").

E sottolineano che non possiamo permetterci di fare lo stesso con l'AI, perché le poste in gioco sono ancora più alte.

Personalmente non ho lo stesso ottimismo. La major che potranno godere dalla non regolamentazione dell’AI sono le stesse che hanno ampiamente goduto dall’assenza di regole nei soci. E sono troppo potenti per poter essere messe sotto il cosiddetto scacco, e troppo utili per chi gestisce il potere politico.

L'AI influenzerà la nostra vita nei modi in cui i social media lo hanno fatto, e in molti altri ancora.

Se la traiettoria di Big Tech è un segnale, gli strumenti AI saranno sempre più coinvolti su come apprendiamo e come esprimiamo i nostri pensieri, ma anche su come programmiamo le nostre attività quotidiane, come progettiamo prodotti, come scriviamo leggi e persino come diagnosticare malattie. Il ruolo espansivo di queste tecnologie nella nostra vita quotidiana offrirà alle major l'opportunità di esercitare controllo su più aspetti della società. E questo non è un dubbio o un'immagine di una situazione evitabile. E' purtroppo una certezza.