Come l'Intelligenza Artificiale di Apple potrebbe finire per ascoltare ogni nostro Segreto

Quando oggi saliamo in auto accade spesso che l'interfaccia del GPS ci proponga le strade per le nostre tappe abituali: la mattina per il lavoro, la sera per casa, il sabato per il campo da golf o altro luogo di abituale destinazione. Insomma in cambio della "nostra comodità" la nostra privacy "se ne andata a benedire"...

E stiamo vedendo gli effetti di algoritmi ancora primitivi, soprattutto se confrontati a quanto può fare già oggi l'intelligenza artificiale.

L'evoluzione dell'intelligenza artificiale (AI) procede a passi da gigante, promettendo innovazioni che potrebbero trasformare il modo in cui interagiamo con i nostri dispositivi.

E, ovviamente, questa marcia inesorabile e progressiva solleva preoccupazioni significative per quanto riguarda la privacy e la sicurezza dei dati personali.

Un recente articolo apparso sul MIT Technology Review, "Apple researchers explore dropping “Siri” phrase & listening with AI instead", di James O'Donnell e Eileen Guo, riporta che i ricercatori di Apple stiano esplorando metodi per rendere l'assistente vocale Siri più intuitivo, eliminando la necessità di una frase di attivazione specifica, come "Hey Siri", a favore di un ascolto basato sull'intelligenza artificiale.

Questa innovazione, seppur entusiasmante, solleva interrogativi sulla privacy e sull'etica nell'uso dell'AI.

Secondo il MIT Technology Review, i ricercatori Apple stanno indagando la possibilità di utilizzare l'intelligenza artificiale per rilevare quando un utente sta parlando al proprio dispositivo, eliminando così la necessità tecnica di una frase di attivazione come "Siri".

Il loro studio, pubblicato su Arxiv e non ancora sottoposto a peer review, descrive come hanno addestrato un grande modello di linguaggio usando sia il discorso catturato dagli smartphone sia dati acustici del rumore di fondo per cercare modelli che potrebbero indicare quando l'utente desidera assistenza dal dispositivo.

Questo approccio solleva preoccupazioni in merito all'ascolto costante e alla raccolta di dati audio senza una chiara indicazione da parte dell'utente.

Le implicazioni per la privacy di un dispositivo che "ascolta sempre" sono notevoli. Jen King, un fellow per la privacy e la politica dei dati presso lo Stanford Institute for Human-Centered Artificial Intelligence, ha espresso preoccupazioni riguardo ai dispositivi che sono sempre in ascolto.

La gestione dei dati audio da parte di Apple è stata precedentemente oggetto di scrutinio.

Nel 2019, un report del Guardian ha rivelato che i contractor per il controllo della qualità di Apple ascoltavano regolarmente audio privato raccolto dagli iPhone durante il lavoro con i dati di Siri, inclusi colloqui sensibili tra dottori e pazienti.

In risposta, Apple ha apportato modifiche alle politiche, inclusa la memorizzazione di più dati sui dispositivi e permettendo agli utenti di scegliere se consentire o meno l'utilizzo delle loro registrazioni per migliorare Siri.

La frase di attivazione "Hey Siri" serve a uno scopo importante, offrendo agli utenti un modo per sapere quando il dispositivo sta ascoltando.

L'eliminazione di tale prompt potrebbe aumentare la convenienza ma ridurre la trasparenza del dispositivo, secondo quanto riferito da King al MIT Technology Review. La ricerca non dettaglia se la frase di attivazione sarebbe sostituita da un altro segnale che l'assistente AI è impegnato. "Sono scettico che un'azienda debba imporre quella forma di interazione", afferma King.

L'articolo è uno dei numerosi segnali recenti che Apple, come Amazon, Google e Facebook, nella corsa all'intelligenza artificiale sta pianificando di incorporare più AI nei suoi prodotti. Apple sta sviluppando un modello di AI generativa chiamato MM1 che può lavorare con testo e immagini, che sarebbe la risposta dell'azienda a ChatGPT di Open AI e ad altri chatbot dei principali giganti tecnologici.

Questo sviluppo sottolinea l'equilibrio delicato tra l'innovazione nell'intelligenza artificiale e la necessità di proteggere la privacy degli utenti.

Mentre le tecnologie basate sull'AI promettono di rendere i nostri dispositivi più intelligenti e più utili, è fondamentale che le aziende procedano con cautela, garantendo che le libertà individuali e la sicurezza dei dati personali non vengano compromesse.

E questo ci fa capire come oggi la regolamentazione dell'intelligenza artificiale (AI) debba estendersi ben oltre le questioni attuali di controllo dei chatbot e tutela del diritto d'autore, affrontando sfide complesse che toccano la sicurezza, l'etica e l'impatto sociale.

Ad esempio, l'uso dell'AI nella sorveglianza potrebbe migliorare la sicurezza pubblica, ma solleva preoccupazioni sulla privacy e il rischio di abusi. Inoltre, l'AI nelle decisioni giudiziarie può accelerare i processi, ma rischia di incorporare pregiudizi esistenti, negando una giustizia equa.

Pertanto, è cruciale che la regolamentazione globale dell'AI sia olistica, considerando non solo l'innovazione e il progresso tecnologico, ma anche la protezione dei diritti fondamentali e la prevenzione di danni irrevocabili alla società.

Solo attraverso un approccio bilanciato e multidisciplinare, possiamo navigare il complesso paesaggio dell'AI, garantendo che le sue promesse siano realizzate in modo etico e sostenibile.