Modello sorgente

Xinference supporta il download di vari modelli da diverse fonti.

HuggingFace

Xinference di default scarica direttamente i modelli richiesti dal repository ufficiale dei modelli di Hugging Face.

Nota

Se la tua rete non riesce a connettersi a HuggingFace, puoi specificare un sito mirror di HuggingFace tramite una variabile d’ambiente: HF_ENDPOINT=https://hf-mirror.com .

ModelScope

Quando Xinference rileva che la lingua del sistema è impostata su «Cinese semplificato», imposta la sorgente di download dei modelli su ModelScope.

Puoi anche impostare manualmente la variabile d’ambiente XINFERENCE_MODEL_SRC=modelscope per ottenere questo risultato.

Verifica nella pagina dei dettagli del modello se supporta il download da ModelScope. Se un modello supporta il download da ModelScope, la voce «Model Hubs» nelle informazioni del modello includerà ModelScope.