Che cosa è l'Open-Source AI

L'Open-Source AI ha finalmente una definizione ufficiale

Per chi opera nel settore dell'AI il tema dell'intelligenza artificiale open-source è attualmente molto caldo, viste le implicazioni tecnologiche ed etiche, ma fino a poco tempo fa, non vi era un accordo chiaro su cosa questo termine realmente implicasse.

Recentemente, un importante passo avanti è stato fatto grazie all'Open Source Initiative (OSI), che si autodefinisce arbitro del significato di open source, e ha proposto una nuova definizione che potrebbe aiutare i legislatori a sviluppare regolamenti per proteggere i consumatori dai rischi legati all'IA.

Questo tentativo di definizione, il primo del suo genere per i modelli di IA, è stato discusso in un articolo di Rhiannon Williams per il MIT Technology Review dal titolo "We finally have a definition for open-source AI"

OSI ha chiesto a un gruppo di 70 persone, tra cui ricercatori, avvocati, politici, attivisti e rappresentanti di grandi aziende tecnologiche come Meta, Google e Amazon, di formulare questa definizione operativa.

Secondo quanto proposto dal gruppo, un sistema di IA open-source dovrebbe essere utilizzabile per qualsiasi scopo senza richiedere permessi, e i ricercatori dovrebbero essere in grado di ispezionare i suoi componenti e studiarne il funzionamento.

Inoltre, dovrebbe essere possibile modificare il sistema per qualsiasi scopo, inclusa la modifica del suo output, e condividerlo con altri per l'utilizzo, con o senza modifiche, a qualsiasi scopo.

Questa standardizzazione cerca anche di definire un livello di trasparenza per i dati di addestramento, il codice sorgente e i pesi del modello dato.

Prima di questa definizione, l'assenza di uno standard open-source era problematica.

Sebbene sia noto che decisioni di aziende come OpenAI e Anthropic di mantenere segreti i loro modelli, set di dati e algoritmi li rendano di fatto closed source, alcuni esperti sostengono che i modelli liberamente accessibili di Meta e Google, che chiunque può ispezionare e adattare, non siano veramente open source.

Questo perché le licenze limitano ciò che gli utenti possono fare con i modelli e i set di dati di addestramento non sono pubblici.

Le risposte di Meta, Google e OpenAI alla nuova definizione non sono state ricevute prima della pubblicazione dell'articolo.

Avijit Ghosh, che è un ricercatore di politiche applicate presso Hugging Face, ha osservato che le aziende hanno spesso abusato del termine "open source" nel marketing dei loro modelli, il che potrebbe renderli percepiti come più affidabili, anche se i ricercatori non possono verificare in modo indipendente la loro apertura.

Ayah Bdeir, senior advisor per Mozilla e partecipante al processo dell'OSI, menziona che alcune parti della definizione sono state relativamente semplici da concordare, come la necessità di rivelare i pesi dei modelli. Altre parti hanno generato più dibattiti, in particolare sulla questione di quanto i dati di addestramento dovrebbero essere pubblici.

La mancanza di trasparenza sull'origine dei dati di addestramento ha portato a innumerevoli cause legali contro grandi aziende di IA, da produttori di modelli di linguaggio a generatori di musica, che non rivelano molto sui loro set di addestramento oltre a dire che contengono "informazioni pubblicamente accessibili".

In risposta, alcuni sostenitori affermano che i modelli open-source dovrebbero divulgare tutti i loro set di addestramento, uno standard che Bdeir ritiene difficile da applicare a causa di problemi come i diritti d'autore e la proprietà dei dati.

Infine, la nuova definizione richiede che i modelli open-source forniscano informazioni sui dati di addestramento in modo che "una persona qualificata possa ricreare un sistema sostanzialmente equivalente utilizzando gli stessi dati o dati simili".

Non è un requisito assoluto di condivisione di tutti i set di dati di addestramento, ma va oltre ciò che molti modelli proprietari o anche apparentemente open-source fanno oggi. È un compromesso.

Bdeir conclude che insistere su uno standard d'oro ideologicamente puro che in realtà non sarà efficacemente soddisfatto da nessuno, finisce per essere controproducente.

Aggiunge anche che l'OSI sta pianificando un meccanismo di applicazione che segnalerà i modelli descritti come open source ma che non soddisfano la sua definizione, e prevede di rilasciare un elenco di modelli di IA che soddisfano la nuova definizione. Sebbene nessuno sia ancora confermato, i modelli attesi in questo elenco sono nomi relativamente piccoli, inclusi Pythia di Eleuther, OLMo di Ai2 e modelli del collettivo open-source LLM360.