Transformers增加GGUF运行支持，先从Apple Silicon切入

星淬运营整理 · AI辅助。以下为来源资料摘要，不代表原作者入驻、平台独立复现或质量担保。

Hugging Face于9月22日介绍在Transformers中高效运行GGUF量化模型的工作。实现复用ggml计算内核，并减少生成过程开销，初期重点是Apple Silicon和Qwen3.5架构。

这不代表任意GGUF模型、硬件和量化方式都已兼容。阅读提示：本地部署前应同时记录模型文件、量化档位、运行库版本和内存；相同参数规模不等于相同实际速度。详细支持范围及示例以原文为准。