跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

SageMaker 推出跨区域推理路由

本地区域容量或端点出现问题时,SageMaker 可将新请求分配给预先登记的其他区域端点。

返回资讯开发工具AWS作者 · GETAI.APP查看原文

AWS 11 月 19 日宣布 Amazon SageMaker AI 正式推出跨区域推理路由,同时支持实时推理和异步推理。使用者可以登记多个区域的推理端点,让服务在本地容量不足或端点不健康时把新请求分配到其他健康端点。

AI 生成主题插画

路由优先使用本地区域。替代端点须已部署并登记,可以配置在不同的 AWS 账户;本地端点恢复后,流量逐步转回。区域范围由部署者配置。

AWS 表示,该功能已在多数商业区域提供,巴林与阿联酋区域除外。部署者仍需按各自的数据驻留要求决定哪些端点可以接收请求。

AWS · 原文

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。