Il dietro le quinte di ChatGPT: come è stato creato

Mi ricordo quando OpenAI ha lanciato ChatGPT alla fine di novembre 2022. Lo ha fatto senza alcuna pubblicità, e il tam tam sull'applicazione di intelligenza artificiale è partita inizialmente molto lentamente.

Io l'ho scopertocon un articolo  sul nostro portale grazie a un articolo di VIttorio Fra: "Intelligenza artificiale: fascino e limiti" e ho cominciato a sperimentarlo con curiosità e attenzione.

In effetti ChatGPT all'inizio è stata diffusa come se fosse  una "anteprima di ricerca", lo ha affermato Sandhini Agarwal, che lavora sulla politica di OpenAI: un'anteprima di una versione più raffinata di una tecnologia di due anni fa e, soprattutto, un tentativo di risolvere alcuni dei suoi difetti raccogliendo feedback dal pubblico. "Non volevamo presentarlo come un grande avanzamento fondamentale", dice Liam Fedus, uno scienziato di OpenAI che ha lavorato su ChatGPT.

La storia di ChatGPT

Per conoscere la storia interna del chatbot - come è stato creato, come OpenAI lo ha aggiornato dal momento del rilascio e come i suoi creatori si sentono riguardo al suo successo - hotrovato un interessante articolo sul MIT Technology Review, a firma di Will Douglas Heaven dal titolo "The inside story of how ChatGPT was built from the people who made it Exclusive conversations that take us behind the scenes of a cultural phenomenon."

L'autore ha costruito il pezzo interfacciandosi con quattro persone che hanno contribuito a costruire quello che è diventato una delle app internet più popolari di sempre. Oltre a Agarwal e Fedus, ha parlato con John Schulman, uno dei cofondatori di OpenAI, e Jan Leike, il leader del team di allineamento di OpenAI, che si occupa del problema di far sì che l'IA faccia ciò che gli utenti vogliono (e nulla di più).

L'articolo offre uno sguardo privilegiato alle opinioni dei protagonisti che hanno contribuito alla creazione di ChatGPT. Molti di loro sono sorpresi dal successo che il chatbot ha ottenuto, ma allo stesso tempo ne riconoscono il potenziale e cercano di affrontare le sfide che derivano dall'utilizzo di una tecnologia così innovativa.

È interessante notare che gran parte della tecnologia utilizzata in ChatGPT non è del tutto nuova. ChatGPT è una versione ottimizzata di GPT-3.5, una famiglia di grandi modelli di linguaggio sviluppati da OpenAI. Tuttavia, la versione precedente di questa tecnologia non era stata presentata al pubblico. È proprio l'accessibilità e l'usabilità di ChatGPT che hanno colpito gli utenti, offrendo loro la possibilità di ottenere risposte a domande specifiche attraverso un'interfaccia di chat.

Da novembre, OpenAI ha già aggiornato ChatGPT diverse volte. Personalmente ritengo che i miglioramenti siano sensibilmente apprezzapili, soprattutto  con la versione a pagamento.

L'addestramento di ChatGPT è avvenuto in modo simile a quello di InstructGPT, utilizzando una tecnica chiamata "apprendimento per rinforzo dal feedback umano" (RLHF). Questa è la caratteristica distintiva di ChatGPT.

L'idea di base è prendere un grande modello di linguaggio, che ha la tendenza a generare qualsiasi cosa, e addestrarlo insegnandogli quali tipi di risposte gli utenti umani preferiscono effettivamente.

Dopo il lancio di ChatGPT, OpenAI ha osservato attentamente come le persone lo utilizzano, osservando per la prima volta come un grande modello di linguaggio si comporta nelle mani di milioni di utenti, pronti a testarne i limiti e a individuare i suoi difetti. Il team si è impegnato a correggere gli esempi più problematici prodotti da ChatGPT, come canzoni sull'amore di Dio per i preti stupratori o codice malware che ruba numeri di carte di credito, al fine di migliorare le future versioni del modello.

Nonostante il successo di ChatGPT, il team di OpenAI riconosce che ci sono ancora molti problemi da risolvere. Il chatbot può generare risposte indesiderate e comportamenti non previsti, e OpenAI sta lavorando duramente per affrontare tali sfide. In particolare, il fenomeno del "jailbreaking" è una delle principali preoccupazioni e il team sta concentrando i propri sforzi per rendere più difficile che ciò accada.

Oltre alle sfide tecniche, OpenAI ha anche siglato importanti accordi commerciali, come quello multimiliardario con Microsoft e l'alleanza con Bain, una società di consulenza aziendale, che utilizza i modelli di IA generativi di OpenAI per le campagne di marketing dei propri clienti. Il successo di ChatGPT ha generato un vero e proprio "rush" intorno ai grandi modelli di linguaggio, coinvolgendo aziende e investitori di tutto il mondo.

Al di fuori di OpenAI, il buzz su ChatGPT ha scatenato un'altra corsa all'oro attorno ai grandi modelli di linguaggio, con aziende e investitori.