AWS演示用实测配置SageMaker语音合成自动扩缩容

AWS 展示了在 Amazon SageMaker AI 上部署语音合成模型 Kokoro-82M 的方法，通过实测单实例满足服务等级目标（SLO）的并发上限和扩容总耗时，推导扩缩容阈值与冷却时间，而非凭经验设定。 方案使用原生指标 ConcurrentRequestsPerModel，无需依赖自定义指标上报，并提供测量、配置推导和验证工具。运行扩容测量前，ml.g5.xlarge 服务配额须比基线至少多出一个实例名额；示例容器固定使用的旧版 PyTorch 存在已知安全问题，该问题已在 2.10.0 版本修复。

AI 根据报道生成 · 17 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。