LLM技术内幕

LLM基础

• Transformer 101

LLM预训练

LLM微调

• LLM微调技术 - QLoRA

LLM量化

LLM推理

• LLM推理入门
• LLM推理优化 - KV Cache
• LLM推理优化 - Flash Attention
• LLM推理优化 - PagedAttention
• LLM推理优化 - Prefill-Decode分离式推理架构
• LLM推理优化 - Continuous Batching
• LLM推理优化 - Prefix Caching

LLM评测

LLM应用开发

• 提示词工程简介
• 如何利用提示词攻破ChatGPT
• LLM Agent设计模式 - ReAct
• LLM Agent设计模式 - ReWOO
• LLM Agent设计模式 - Plan-and-Solve
• LLM Agent设计模式 - LATS
• LLM Agent设计模式 - Reflection
• Agent框架分析 - AutoGen

---

Star History