您的位置:首页 >> 公司信息 >> 文章正文

网宿科技推出边缘AI网关 助力开发者的AI构建之旅

加入日期:2024-7-11 16:50:55

  顶尖财经网(www.58188.com)2024-7-11 16:50:55讯:

    本报讯 (记者谢岚)7月11日,网宿科技宣布推出一项全新的AI服务——边缘AI网关,为企业用户提供安全、可靠、高性能、易观察的一体化模型服务管理方案,助力开发者的AI构建之旅。

    据悉,网宿边缘AI网关旨在为企业在模型服务与AI应用之间搭建桥梁,无论是个人开发者还是企业,都可以借助网宿边缘AI网关,更加简易地管理和集成模型服务,从而更好地开展AI应用创新。

    近年来,GPT大模型的横空出世,在全球掀起了大模型竞赛,随之而来的,AI在各行各业的应用加速涌现。在这种背景下,业界诞生了一种新的服务模式,即MaaS(Model as a Service,模型即服务)。模型提供商通过API接口,将大模型能力出租给第三方企业使用,允许企业通过HTTP请求或其他方式与之交互。服务提供商负责模型的更新和维护,企业可以直接享受到最新的模型改进。

    不过,当企业使用多个模型或提供商时,面临着高昂的AI应用成本。而为了以最优成本利用各个AI服务商的模型服务,企业又面临着管理、运维难题。另外,在使用模型服务的过程中,企业还面临着敏感数据泄露、内容不合规等风险。

    “针对以上种种挑战,业界需要一种可以降低管理和扩展模型服务难度、提升AI可用性和安全性的方案。网宿边缘AI网关可以解决这一需求,让企业和开发人员专注于构建AI应用程序,而不是管理复杂的集成。”网宿科技CDN产品研发总监曾智全表示。

    具体来看,在一般情况下,企业管理其所接入的多个大模型,需要提前做一些集成开发。网宿边缘AI网关则提供了一个通用、一体化的解决方案。企业可通过统一的控制平台,创建边缘AI网关,添加通道,实现与多AI服务商模型对接,并且平台支持多模型服务的可管、可控、可观察。

    曾智全进一步介绍,在实现多模型服务的高效接入与管理的同时,网宿边缘AI网关的核心价值,还在于确保模型服务的安全性、高性能以及可定制化。

    据悉,目前,网宿边缘AI网关已开放限时免费测试,以支撑用户的AI体验。此外,网宿科技还深入企业应用,聚焦特定的AI场景,打造了边缘向量数据库、边缘模型推理服务等,计划下一步面向公众开放。

    伴随AI技术的发展,网宿科技在AI领域的布局将不断深化。曾智全表示,网宿科技将持续构建更加敏捷、适应性更强、更安全的AI生态系统,让更多企业都能拥抱AI,从AI中获得创新与增长。

(编辑 汪世军)

编辑: 来源: