在生成式AI时代,数据问题已成为企业落地大模型的核心挑战之一。基础模型依赖于大规模高质量数据集,生成式AI的差异化优势来源于企业的专有数据,生成式AI应用产生的大量新数据也需要及时有效地加以管理和利用,如何解决好数据问题是企业脱颖而出的关键。
亚马逊云科技持续引领云上数据服务创新,以三大核心能力助力企业构建全面的数据基座。即模型微调和预训练所需的数据处理能力、利用专有数据与模型快速结合以产生独特价值的能力,以及有效处理新数据以助推生成式AI应用持续快速发展的能力,帮助企业加速生成式AI技术落地,助力企业在生成式AI时代取得成功。
北京灵奥科技(Vanus)是一家致力于推动生成式AI技术普及的初创企业,先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS产品,累计服务全球超过30000名用户。Vanus Connect大模型中间件介于大模型和应用之间,帮助企业解决数据问题,打通大模型企业端落地最后一公里,是企业构建AI应用的必备组件。
Vanus Connect大模型中间件将大模型优势和企业数据无缝结合,提供Claude 3等多模型选择,实现商品数据自动同步,包括商品数据自动更新、Shopify数据自动接入等,还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成,助力企业灵活定制机器人,自定义聊天风格、欢迎词、外感颜色等等。
据北京灵奥科技CEO厉启鹏先生介绍,“我们从成立之初就加入了亚马逊云科技合作伙伴网络(APN),Vanus整个平台都是基于亚马逊云科技构建的。亚马逊云科技不仅帮助我们构建稳定、强健的数据基座,还为我们推荐客户和合作伙伴等资源,加速我们生成式AI产品进入市场,让我们能够轻松面对用户业务的不确定性。”
为什么北京灵奥科技要选择亚马逊云科技作为合作伙伴?
首先,亚马逊云科技提供使用简单、功能强大的云服务,这是合作的基础。Vanus绝大部分的技术问题,在亚马逊云科技上都能找到答案,找到相关的云产品;
其次,亚马逊云科技还提供全方位的技术服务,包括技术方案和架构师等,加速Vanus的产品落地;
第三,通过亚马逊云科技合作伙伴网络(APN)提供全面的推广资源和支持,加速Vanus产品进入市场。
利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务,北京灵奥科技为企业构建的AI Agent平台,现已服务全球数万家用户。亚马逊云科技为Vanus提供的服务具备显著优势:
·弹性可扩展:利用Amazon Elastic Kubernetes Service(Amazon EKS)基于网络流量的弹性扩展能力,Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩。帮助企业平均成本降低30%,性价比提高20%。
·提高系统可用性:通过Amazon DocumentDB原生的3可用区、6副本的设计,提高可用性和可靠性,可以达到不低于99.99%正常运行时间的服务等级协议(SLA)。
·降低回复延时:借助Amazon Simple Storage Service(Amazon S3)及数据库高并发数据查询能力提高大模型上下文加载时间,同时借助亚马逊云科技全球网络节点加速能力,整体将Agent回复系统延时降低40%。
·推理能力强:通过Amazon Bedrock提供的Claude模型,为Vanus平台的AI Agent提供非常强的语言理解和逻辑推理能力。
基于亚马逊云科技和北京灵奥科技的深度合作,双方已经有了许多优秀的合作案例。例如Vanus AI为国内某ERP企业客服人员构建的AI Copilot。
Vanus基于Amazon S3、数据库等云服务,帮助用户从文档、数据库、SaaS软件等多个数据源中实时抽取数据,构建统一的企业知识库,解决了企业内部跨部门知识共享效率低、客服响应时间长导致用户投诉率高等问题。借助Amazon Bedrock等服务,为企业客服人员构建的AI Copilot基于全域业务数据实时推理,为客服人员秒级提供回复建议,现在,客服人员将问题回复时间从分钟级降至秒级。AI Copilot将客服团队的人效提高70%,很大程度降低了客服投入的成本。
厉启鹏表示,“我认为亚马逊云科技是最值得信赖的云服务提供商,Vanus绝大部分的技术问题,在亚马逊云科技上都能找到答案,找到相关的云产品。这些产品能够增强性能、提升稳定性,为我们提供强有力的支撑。作为全球最大的一朵云,亚马逊云科技还有非常强大的运营经验,能够帮助我们更好地服务分布在不同区域、不同国家的客户。”
未来,双方将在数据库领域、大模型领域等方面继续深化合作,助力企业的数字化进程再加速。