外观
大模型基础
Token、Embedding、训练、推理与模型部署。
本领域共 36 条问答。先读与你当前场景相关的主题，再用全文搜索查找具体问题。
训练、对齐与优化
- RLHF 的完整训练流程是什么？每一步的目的是什么？
- PPO 算法在 LLM 训练中的核心组件是什么？
- Reward Hacking 是什么？在 RLHF 中如何防止？
- DPO（Direct Preference Optimization）为什么可以替代PPO？
- Constitutional AI 中，Constitution 如何设计和更新？
- GRPO（Group Relative Policy Optimization）与 PPO 的区别是什么？
- Agent 的 Few-shot Prompting 中，示例（Demonstration）如何选择？
- LoRA 和 QLoRA 的原理是什么？在 Agent 微调中如何选择？
- Fine-tuning 中的 Catastrophic Forgetting（灾难性遗忘）如何解决？
- Agent 的 System Prompt 应该如何设计？
- Prompt Compression（提示压缩）技术有哪些？
- Agent 的 Temperature、Top-p 等采样参数如何调优？
- 什么是 In-Context Learning（ICL）？为什么 LLM 具备这种能力？
- Instruction Tuning 和 Prompt Engineering 的区别是什么？
- Agent 输出格式的约束方法有哪些？
- 多轮对话中的上下文管理有哪些最佳实践？
- Agent 的 Few-shot 示例质量如何评估和筛选？
- Agent 微调中如何处理 Tool Use 的数据格式？
- Agent 的训练和推理阶段，Prompt 设计有何不同考虑？
大模型基础
- 大模型、Token 和参数分别是什么？
- Transformer 和 Attention 可以怎样理解？
- Temperature、Top-p 与输出长度怎样影响回答？
- Prefill、Decode 与 KV Cache 是什么？
- 一条有效 Prompt 应该写清哪些内容？
- Prompt、RAG 和微调该怎么选？
- LoRA、量化与蒸馏有什么区别？
- 预训练、SFT、RLHF 与 DPO 分别做什么？
- GRPO、DAPO 先理解到什么程度？