归档
11-15
训练基础浅解大模型训练中的数据格式与混合精度
#混合精度 #BF16 #FP8 #AMP
11-15
LLM 推理浅解码码策略与投机解码
#解码策略 #投机解码 #采样 #Top-p
11-15
GPU 与显存GPU 架构与内存层级:SRAM、L2 与 FlashAttention 分块
#GPU #SRAM #FlashAttention #显存
11-15
LLM 推理浅解 KV Cache 与 FlashAttention
#KV Cache #FlashAttention #显存优化
11-15
强化学习一个方程的四种解法:PPO / DPO / GRPO / GSPO
#RLHF #PPO #DPO #GRPO #GSPO #策略梯度
11-15
GPU 与显存10 分钟了解 SRAM、L1 Cache、L2 Cache
#SRAM #Cache #GPU












