log

Livello di log

Puoi configurare il livello di log del cluster Xinference tramite l’opzione --log-level. Ad esempio, per avviare il cluster locale Xinference con il livello di log DEBUG:

xinference-local --log-level debug

File di log

Xinference supporta file di log a rotazione. Per impostazione predefinita, quando un singolo file di log raggiunge i 100 MB, viene generato un nuovo file di backup del log e il sistema conserva gli ultimi 30 backup del log. La modalità di configurazione del livello di log sopra descritta influisce sia sui log della riga di comando che sui file di log.

Environment Variables

Xinference provides several environment variables to control logging behavior:

• XINFERENCE_LOG_CONSOLE: Enable or disable console output (default: true). When set to false, logs are written only to files, and tqdm progress bars are captured and sampled.

• XINFERENCE_LOG_FORMAT: Log format, either text (default) or json.

• XINFERENCE_LOG_DOWNLOAD_PROGRESS: Control how download progress bars are logged when XINFERENCE_LOG_CONSOLE=false. Valid values are sampled (default, logs at 25/50/75/100% per file), full (logs every frame), or off (no progress logs).

Example usage:

# Disable console output, log download progress at sampling points
XINFERENCE_LOG_CONSOLE=false XINFERENCE_LOG_DOWNLOAD_PROGRESS=sampled xinference-local

# Disable console output, log every download progress frame
XINFERENCE_LOG_CONSOLE=false XINFERENCE_LOG_DOWNLOAD_PROGRESS=full xinference-local

# Disable console output, no download progress logs
XINFERENCE_LOG_CONSOLE=false XINFERENCE_LOG_DOWNLOAD_PROGRESS=off xinference-local

Struttura delle directory dei log

Per prima cosa, tutti i log sono memorizzati nella directory <XINFERENCE_HOME>/logs, per la configurazione di <XINFERENCE_HOME> si prega di fare riferimento a Use.

In secondo luogo, Xinference crea una sottodirectory nella directory dei log <XINFERENCE_HOME>/logs. Il nome della sottodirectory corrisponde all’ora di avvio del cluster Xinference (in millisecondi).

Distribuzione locale

Nell’implementazione locale, i log di Xinference supervisor e Xinference workers sono combinati in un unico file. La struttura della directory dei log è la seguente:

<XINFERENCE_HOME>/logs
    └── local_1699503558105
        └── xinference.log

Dove, 1699503558105 è il timestamp della creazione del cluster Xinference. Pertanto, quando crei più volte cluster in locale, puoi trovare i log corrispondenti in base a questo timestamp.

Distribuzione distribuita

Nelle distribuzioni distribuite, Xinference supervisor e Xinference workers creano ciascuno le proprie sottodirectory nella directory dei log. Il nome della sottodirectory inizia con il nome del ruolo del cluster, seguito dal timestamp di avvio (in millisecondi). Come mostrato di seguito:

<XINFERENCE_HOME>/logs
    └── supervisor_1699503558908
        └── xinference.log
        worker_1699503559105
        └── xinference.log