Aravind Srinivas

深入介绍 Perplexity 如何规模化提供搜索结果：用于排序的向量嵌入、基于 GPU 的模型推理、请求批处理、推理服务运行，以及时延与吞吐的权衡。