Xinference Models Hub#

Added in version v1.13.0.

Panoramica#

Xinference Models Hub è una piattaforma unificata di Xinference per la gestione e la collaborazione sui modelli. Fornisce supporto end-to-end per la navigazione, registrazione, revisione, aggiornamento e manutenzione collaborativa dei modelli, offrendo capacità complete sia agli utenti normali che ai manutentori dei modelli.

Prima dell’introduzione di Models Hub, i file JSON dei modelli dovevano essere modificati direttamente dagli utenti tramite PR nel repository open source xorbitsai/inference. Questo approccio rendeva le versioni del modello incontrollabili, i cicli di iterazione lunghi, e gli aggiornamenti dei modelli dipendevano dal processo di rilascio del prodotto, impedendo agli utenti di ottenere tempestivamente i modelli più recenti.

Attraverso un meccanismo centralizzato di gestione dei modelli online, Xinference Models Hub richiede che tutte le informazioni del modello (inclusi metadati, parametri e README) vengano modificate all’interno della piattaforma. Il sistema genera e invia automaticamente una Pull Request (PR) al repository xorbitsai/inference in base alle modifiche apportate dal responsabile del modello, garantendo un flusso di lavoro standardizzato, automatizzato e tracciabile, evitando problemi di incoerenza dovuti a modifiche manuali.

Gli utenti possono ottenere l’elenco dei modelli più recenti in qualsiasi momento tramite la funzione Aggiornamento del modello, migliorando significativamente l’efficienza della consegna dei modelli e l’esperienza d’uso complessiva.

Guida per l’utente comune#

Questa sezione introduce le funzionalità di base che gli utenti registrati ordinari possono utilizzare.

Destinatari: Utenti normali senza autorizzazioni per la registrazione o la manutenzione di modelli.

Funzionalità principali#

Utenti normali possono navigare i modelli pubblici senza necessità di accesso.

Sfoglia il modello#

  • Funzione: Visualizza tutti i modelli disponibili pubblicamente

  • Posizione di accesso: Barra di navigazione → «Models»

  • Dettagli del modello: Per impostazione predefinita, viene mostrata l’etichetta README, che include la descrizione del modello, le linee guida per l’utilizzo e le note importanti.

Nota

Alcuni modelli avanzati o enterprise sono visibili solo agli utenti autorizzati.

Guida per i manutentori del modello#

Questa sezione descrive le funzionalità disponibili per gli utenti con permessi di registrazione o manutenzione dei modelli, inclusi il processo di registrazione, aggiornamento e revisione dei modelli.

Destinatari: Utenti con autorizzazione di registrazione o manutenzione del modello.

Funzionalità principali (richiede accesso)#

Il manutentore del modello, basandosi sulle funzionalità dell’utente normale, può utilizzare le seguenti capacità avanzate:

Centro utenti#

  • Funzione: Visualizzare e gestire le informazioni personali

  • Posizione di accesso: Icona dell’utente in alto a destra → «Centro utenti»

  • Gestione account: Aggiornamento del profilo personale, email e altre informazioni.

  • Gestione del Token: Configura un Token GitHub personale per inviare o aggiornare il modello.

Nota

Se non è configurato un token GitHub personale, il sistema utilizzerà il token predefinito per generare le PR.

Registrazione del modello#

  • Funzione: Registrare un nuovo modello e inviarlo per la revisione

  • Posizione di accesso: Dopo aver effettuato l’accesso → Icona profilo in alto a destra → «Registrazione modello»

Passaggi di invio:

  1. Compila le informazioni del modello base (nome, motore, formato, ecc.).

  2. Modificare il README (fare clic su «Ottieni README» per generare automaticamente un modello)

  3. Invia il modello (per registrare un modello pubblico, abilita il parametro «Modello pubblico»)

Nota

Durante la registrazione di un modello pubblico, il sistema creerà automaticamente una PR nel repository xorbitsai/inference.

Il mio modello#

  • Funzione: Visualizzare tutti i modelli associati all’account corrente

  • Posizione di accesso: Dopo aver effettuato l’accesso → icona del profilo in alto a destra → «I miei modelli»

Manutenzione del modello#

  • Funzione: Modifica il JSON o il README del modello

  • Posizione d’ingresso: Pagina dei dettagli del modello → Icona «Impostazioni»

Nota

Durante l’aggiornamento del modello pubblico, il sistema creerà automaticamente una PR nel repository xorbitsai/inference.

Processo di revisione#

Flusso del contributore:

  1. Invia il modello

  2. In attesa di revisione

  3. Modifica secondo le osservazioni della revisione.

  4. Per i modelli pubblici, le PR vengono automaticamente aggiornate dopo la modifica.

Autorizzazioni del revisore: accesso alla lista di revisione dei modelli ed esecuzione delle operazioni di revisione.

Flusso del revisore:

  1. Entra nella «lista di revisione»

  2. Valutazione della qualità del modello, completezza e conformità delle informazioni

  3. Approvare o respingere, fornendo il relativo feedback.