评估模型显存占用,支持多种主流模型与配置。
推荐合适的 GPU 配置,平衡性能与成本。
对比不同量化方案效果,选择更优精度与性能。
预估部署所需容量与增长,科学规划资源。
查看显存档位、部署定位与量化支持情况。
查看参数量、上下文、推荐 GPU 与部署特征。