Rohan Paul

微软与清华大学的新论文发现，大语言模型系统中的 GPU 内核库故障，大多来自编译器、构建过程和环境不匹配，而不是内核代码本身。 大语言模型的训练与推理服务依赖 FlashAttention、Triton 和 CUTLASS 等 GPU 内核库。一旦它们出问题，任务可能会崩溃、挂起，或在无提示的情况下产出错误结果，而且原因很难追踪。 该团队阅读了这 7 个库中 300 份已关闭的 GitHub issue 报告，包括讨论和修复记录，并按用户所见现象和实际成因逐条标注。 在这 300 个问题中，60.33% 可追溯到编译器与构建系统或运行时环境，39.67% 可追溯到内核库本身。单一最大成因是驱动程序、CUDA、框架和软件包之间的不兼容，共 76 个问题，占 25.33%。