Home

Summary

关于我 这个博客用于放一些在线笔记 📚 主要内容 NCCL 架构 - NCCL源码和二次开发 CUDA 编程 - CUDA指南和一些接口review PyTorch - 一些边角料 Megatron - LLM训练和优化 PTX - 并行线程执行汇编 Big Feature - 公司/自己的R&D project Essays 闲来无事 🦶足迹 .