Tri Dao

TPU与GPU具有不同的瓶颈：内核很少，因此您不需要考虑并行性，大型VMEM更容易融合内核，但矢量单元的吞吐量较低，因此任何非matmul都需要更多关注https://t.co/4ZdhowD46c