安橙的博客
  • 博文
  • 标签
  • 搜索

Decoding

  • Day 30 · 解码算法

    2026-06-20AILLMInference

    进入 LLM 解码策略:理解 greedy、beam search、temperature、top-k、top-p 的采样语义与服务化影响;掌握 speculative decoding 的 draft/verify 思想,并用 Transformers 与 vLLM 参数做小型实验。

© 2026 安橙的博客