腾讯网9 小时
如何监控vLLM等大模型推理性能？
阿里妹导读本文将深入探讨 AI 推理应用的可观测方案，并基于 Prometheus 规范提供一套完整的指标观测方案，帮助开发者构建稳定、高效的推理应用。近两年来，随着大语言模型（LLM）的快速普及，AI 推理应用的需求呈指数级增长。以 ...
腾讯网8 小时
商汤、Waymo和地平线复制DeepSeek成功之道—强化学习
欢迎关注下方公众号阿宝1990，本公众号专注于自动驾驶和智能座舱，每天给你一篇汽车干货，我们始于车，但不止于车。DeepSeek ...