https://blog.ans20xx.com/tags/gptq/Recent content in GPTQ on 安橙的博客Hugo -- 0.163.3zhSat, 20 Jun 2026 00:00:00 +0800https://blog.ans20xx.com/posts/ai/day35/Sat, 20 Jun 2026 00:00:00 +0800https://blog.ans20xx.com/posts/ai/day35/学习 LLM 推理中的权重量化:理解 INT8 / INT4、per-channel / group-wise scale、GPTQ 与 AWQ 的核心思想,并用 AutoGPTQ 或 llama.cpp 完成一次模型量化与评估。