OpenAI aggiorna l’API di fine-tuning e amplia il programma per gli sviluppatori

Gli sviluppatori di intelligenza artificiale cercano costantemente di migliorare le prestazioni dei modelli per ridurre la latenza, migliorare l’accuratezza e ridurre i costi. OpenAI, un’azienda leader nel settore dell’IA, offre una serie di opzioni per supportare gli sviluppatori nell’implementazione di AI personalizzate. Con l’obiettivo di offrire un maggiore controllo sulla messa a punto dei modelli e la possibilità di creare modelli personalizzati, OpenAI ha introdotto nuove funzionalità nel suo API di messa a punto e ha ampliato il programma dei modelli personalizzati.

Nuove funzionalità dell’API di messa a punto

L’API di messa a punto di OpenAI per GPT-3.5 Turbo è stato lanciato ad agosto 2023 e da allora migliaia di organizzazioni hanno addestrato centinaia di migliaia di modelli utilizzando questa API. La messa a punto dei modelli consente di approfondire la comprensione del contenuto e migliorare le capacità del modello per una specifica attività. L’API di messa a punto supporta anche un maggior numero di esempi rispetto a quelli che possono essere inseriti in un solo prompt, consentendo di ottenere risultati di maggiore qualità riducendo i costi e la latenza.

Alcuni dei casi d’uso comuni della messa a punto includono l’addestramento di un modello per generare codice migliore in un determinato linguaggio di programmazione, per riassumere testo in un formato specifico o per creare contenuti personalizzati basati sul comportamento dell’utente.

Ad esempio, Indeed, una piattaforma globale per il matching e l’assunzione di personale, ha utilizzato la messa a punto di GPT-3.5 Turbo per migliorare la qualità e l’accuratezza delle raccomandazioni personalizzate inviate ai cercatori di lavoro. Riducendo il numero di token nel prompt dell’80%, Indeed è riuscito a migliorare i costi e la latenza, passando da meno di un milione di messaggi ai cercatori di lavoro al mese a circa 20 milioni.

Oggi, OpenAI introduce nuove funzionalità per offrire agli sviluppatori un maggiore controllo sulle loro attività di messa a punto, tra cui:

1. Creazione di checkpoint basati sull’epoca: la possibilità di creare automaticamente un checkpoint completo del modello durante ogni epoca di addestramento, riducendo la necessità di successivi riaddestramenti, soprattutto nei casi di sovradattamento.
2. Comparative Playground: una nuova interfaccia utente a confronto per valutare la qualità e le prestazioni di più modelli o snapshot di messa a punto rispetto a un singolo prompt.
3. Integrazione di terze parti: supporto per l’integrazione con piattaforme di terze parti, iniziando con Weights and Biases, per consentire agli sviluppatori di condividere dati dettagliati sulla messa a punto nel resto del loro stack.
4. Metriche di validazione complete: la possibilità di calcolare metriche come perdita e accuratezza sull’intero set di dati di validazione anziché su un campione, fornendo una migliore visione della qualità del modello.
5. Configurazione degli iperparametri: la possibilità di configurare gli iperparametri disponibili dal pannello di controllo anziché solo attraverso l’API o l’SDK.
6. Miglioramenti del pannello di controllo della messa a punto: inclusa la possibilità di configurare gli iperparametri, visualizzare metriche di addestramento più dettagliate e ripetere attività di messa a punto precedenti.

Espansione del programma dei modelli personalizzati

OpenAI offre anche un programma di modelli personalizzati progettato per addestrare e ottimizzare modelli per un dominio specifico, in collaborazione con un gruppo dedicato di ricercatori di OpenAI. Dopo aver valutato le esigenze dei clienti per modelli personalizzati, OpenAI ha introdotto l’offerta di messa a punto assistita come parte del programma dei modelli personalizzati. La messa a punto assistita è un’opportunità di collaborazione con i team tecnici di OpenAI per utilizzare tecniche oltre l’API di messa a punto, ad esempio utilizzando ulteriori iperparametri e metodi di messa a punto efficiente dei parametri su larga scala. Questa opzione è particolarmente utile per le organizzazioni che necessitano di supporto nella creazione di efficienti flussi di dati di addestramento, sistemi di valutazione e parametri personalizzati per massimizzare le prestazioni del modello per il proprio caso d’uso o compito.

Ad esempio, SK Telecom, un operatore di telecomunicazioni che conta più di 30 milioni di abbonati in Corea del Sud, ha lavorato con OpenAI per personalizzare un modello per il settore delle telecomunicazioni, inizialmente focalizzato sul servizio clienti. Sono state impiegate diverse settimane per migliorare le prestazioni del modello nelle conversazioni relative alle telecomunicazioni in lingua coreana, ottenendo un aumento del 35% nella qualità della sintesi delle conversazioni, una maggiore accuratezza nel riconoscimento delle intenzioni del 33% e un aumento dei punteggi di soddisfazione da 3,6 a 4,5 (su 5) confrontando il modello messo a punto con GPT-4.

In alcuni casi, le organizzazioni hanno bisogno di addestrare un modello specifico da zero che comprenda il loro settore, attività o dominio. I modelli completamente personalizzati acquisiscono nuove conoscenze da un dominio specifico modificando le fasi chiave del processo di addestramento del modello utilizzando innovative tecniche di addestramento intermedio e post-addestramento. Le organizzazioni che ottengono successo con un modello completamente personalizzato spesso dispongono di grandi quantità di dati proprietari, come milioni di esempi o miliardi di token, che desiderano utilizzare per insegnare al modello nuove conoscenze o comportamenti complessi e unici per casi d’uso altamente specifici.

Ad esempio, Harvey, uno strumento legale basato su intelligenza artificiale per avvocati, ha collaborato con OpenAI per creare un modello linguistico personalizzato per il diritto giurisprudenziale. Dopo aver testato diverse tecniche di messa a punto, Harvey ha lavorato con il team di OpenAI per aggiungere al modello la profondità di contesto necessaria, equivalente a 10 miliardi di token di dati. Il modello risultante ha registrato un aumento dell’83% delle risposte corrette e gli avvocati hanno preferito l’output del modello personalizzato il 97% delle volte rispetto a GPT-4.

Cosa riserva il futuro per la personalizzazione dei modelli

OpenAI crede che nel futuro la maggior parte delle organizzazioni svilupperà modelli personalizzati adattati al proprio settore, attività o caso d’uso specifico. Con una varietà di tecniche disponibili per creare modelli personalizzati, organizzazioni di tutte le dimensioni possono sviluppare modelli personalizzati per ottenere un impatto significativo e specifico dalle proprie implementazioni di AI. La chiave del successo è definire chiaramente il caso d’uso, progettare e implementare sistemi di valutazione, scegliere le tecniche appropriate e essere pronti a iterare nel tempo per raggiungere le massime prestazioni del modello.

Con OpenAI, la maggior parte delle organizzazioni può ottenere risultati significativi rapidamente utilizzando l’API di messa a punto self-serve. Per le organizzazioni che hanno bisogno di approfondire ulteriormente la messa a punto dei loro modelli o di aggiungere nuove conoscenze specifiche del dominio, i programmi dei modelli personalizzati di OpenAI possono fornire assistenza e supporto.

Visita la documentazione dell’API di messa a punto per iniziare a personalizzare i modelli di OpenAI. Per ulteriori informazioni su come possiamo aiutarti a personalizzare i modelli per il tuo caso d’uso, contattaci.

Fonte dell’articolo qui.