跳到正文
原文
Hugging Face Blog·· 2026-07-23精选AI 评分69

Hugging Face Diffusers 原生支持 Nunchaku 4-bit 扩散推理

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Hugging Face 在 Diffusers 中加入 Nunchaku Lite 支持,预量化 Nunchaku checkpoint 可用 from_pretrained() 直接加载,无需自定义 pipeline、单独推理引擎或本地 CUDA 编译。

推荐理由

原文同时给出加载方式、硬件支持和基准数据,便于评估4-bit扩散推理在现有Diffusers流程中的接入成本。

来源:Hugging Face Blog · huggingface.co