Snowflake公司近日宣布,其Cortex AI服务套件已正式启用跨区域推论功能,以满足全球不同区域用户对AI推论服务的需求。这一新功能首先在Amazon Web Services(AWS)平台上进行部署。

跨区域推论功能的重要性

随着大语言模型(LLM)的不断发展和生成式AI服务的快速增长,AI应用开发的速度受到区域限制的影响。一些用户所在的区域可能没有及时部署相应的模型,这限制了应用的开发速度。Snowflake此次推出的跨区域推论功能,旨在解决这一问题。

Cortex AI服务套件升级

Snowflake的Cortex AI服务套件从测试版正式上线,用户现在可以通过简单的设置,访问不同云区域上偏好的LLM。这一新功能不仅提升了Cortex LLM的性能,还增强了Snowflake Copilot和Cortex Analyst等服务的实用性。

Cortex Analyst是Snowflake在6月份新宣布的服务,它允许企业用户利用存储在Snowflake上的分析数据,以无代码方式开发数据导向的AI助手应用。这一服务即将以公测版上线。

跨区域推论如何实现

Snowflake Cortex是一组使用LLM模型的AI功能,包括理解非结构化数据、回应自由提问以及提供智能辅助等。Cortex在AWS、Azure和Google Cloud Platform(GCP)三大云平台上都有托管服务。但目前支持跨区域推论功能的,只有AWS。

跨区域功能默认是关闭的,用户需要自行设置开启。通过管理员用户账号,在账户级别(account-level)设置参数CORTEX_ENABLED_CROSS_REGION,即可配置想要执行推论的区域。可选的区域参数值有:AWSUS、AWSEU和AWSAPJ。用户选择其中一个区域后,Cortex AI会自动选择更具体的区域,例如AWSUS中可能分配到AWS us-east-1或us-west-2。

未来展望

Snowflake表示,未来将继续将这一功能推向Azure、GCP等其他平台,以满足更多用户的需求。这一举措将有助于Snowflake在全球云服务市场的竞争中保持领先地位。

结语

Snowflake的跨区域AI推论功能,不仅解决了用户区域限制的问题,还提升了AI服务的实用性。这一创新举措,再次证明了Snowflake在云服务领域的领导力。随着未来功能的进一步拓展,Snowflake有望为全球用户提供更加完善、高效的云服务。


read more

Views: 1

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注