Microsoft Azure

以你构建的方式运行开放推理堆栈。在 AKS 上，vLLM、KServe、llm-d 和 Ray 的工作方式与上游相同，而 KAITO 使将模型投入生产成为一次 Kubernetes 操作。 在 #KubeCon 上现场查看：https://t.co/CD4ATtpcQl https://t.co/NWRms7iSUV