生成式AI正在以意想不到的方式去提高人类的生产力,生成式AI和千行百业的业务结合充满着无限的可能性。但企业在落地生成式AI的时候都会碰到非常多的挑战,比如怎么去兼顾规模和成本,怎么去选择最适合的生成式AI模型,如何去保证业务的安全性和隐私?这些问题都亟待解决。
2023年12月12日,亚马逊云科技2023 re:Invent中国行城市巡展活动开启,在北京举行的首站活动上,亚马逊云科技宣布全面发力生成式AI,推出面向企业级生成式AI的一系列新服务及功能,包括重塑未来工作方式的新型生成式AI助手Amazon Q、Amazon Bedrock更多的模型选择和全新强大功能、Amazon SageMaker助力规模化开发应用模型的五大新功能等,帮助企业更轻松、安全地构建和应用生成式AI。
亚马逊云科技围绕底层基础设施、生成式人工智能(AI)、数据战略等推出了一系列新服务及功能,以创新性的技术重塑帮助客户加速创新。
亚马逊云科技大中华区产品部总经理陈晓建表示:“作为全球云计算的开创者和引领者,亚马逊云科技在每年的re:Invent全球大会上都会发布众多新服务、新功能和新应用。我们在基础设施、计算、存储、数据等领域持续重塑云计算,并围绕当今最具变革性的技术生成式AI推出重磅新服务及功能。我们希望通过这些技术创新,帮助更多企业加快创新速度,利用生成式AI全面重塑未来。”
·全面发力生成式AI——帮助企业更轻松、安全地构建和应用生成式AI
生成式AI在技术变革、重塑人们的行为方式方面拥有巨大潜力。亚马逊云科技为千行百业应用生成式AI降低门槛,重塑每个产业,改变每个人的生活。
亚马逊云科技为生成式AI提供三层架构,包括利用基础模型构建的应用程序、使用基础模型进行构建的工具和用于基础模型训练和推理的基础设施,并在每一层都持续创新,帮助客户更轻松、安全地构建和应用生成式AI,进一步降低使用生成式AI的门槛。
亚马逊云科技在生成式AI的端到端的3个不同层面展开持续投入:
在底层,提供用于基础模型训练和推理的基础设施。包括新发布的用于生成式AI和机器学习训练的专用芯片Amazon Trainium2和Amazon SageMaker HyperPod服务。Amazon Trainium2针对训练具有数千亿至数万亿参数的基础模型进行优化,相较 Amazon Trainium 4 倍性能提升,65 exaflops的按需超级计算性能。
Amazon SageMaker HyperPod 服务可大规模加速基础模型训练,能够缩短高达40%的训练时间,并可以确保持续数周或数月的训练过程不中断。
在中间层工具层,亚马逊云科技提供使用基础模型进行构建的一系列工具。
Amazon Bedrock是利用大模型构建和扩展生成式人工智能应用的最简单方法。Amazon Bedrock现已支持更多模型选择和全新强大功能,助力安全构建和规模化生成式AI应用。来自Anthropic、Cohere、Meta、Stability AI和亚马逊的最新高性能模型为客户提供更丰富的行业领先模型选择,以支持各种用例。此次发布进一步降低了生成式AI应用的门槛——为客户提供了更多行业领先的模型选择和评估模型新功能,以简化客户使用相关和专有数据定制模型的方式;提供自动执行复杂任务的工具;并为客户配备了提供负责任地构建和部署应用程序的保障。
企业创造真正价值的生成式人工智能应用程序的关键就是能够用企业自己的数据进行定制,用数据进行定制才能构建企业的差异化壁垒。Amazon Bedrock持续预训练功能已支持对Amazon Titan Text Lite与Express持续预训练。持续预训练一种使用大量未标记数据(如内部报告、财务计划或研究成果的原始文本)来提高基础模型对特定领域的知识和推理能力的技术,这种方式是适合想要拥有“领域大模型”,或者说将领域知识以及技能嵌入大模型能力的场景。
新推出的Amazon SageMaker五项新功能让企业更轻松快速地构建、训练和部署支持各种生成式AI使用场景的机器学习模型,助力规模化开发应用模型。新功能包括:可大规模加速基础模型训练的Amazon SageMaker HyperPod;可平均降低50%的部署成本和20%的推理延迟的Amazon SageMaker Inference;可以帮助客户评估、比较和选择最佳模型的Amazon SageMaker Clarify可以帮助客户评估、比较和选择最佳模型以及使客户能够更轻松、更快速地将生成式AI集成到他们的工作流程中的Amazon SageMaker Canvas。
在顶层应用层,亚马逊云科技提供利用基础模型构建的应用程序。
新发布的Amazon Q预览版是专为客户业务量身定制的生成式人工智能工作助手,可以通过自然语言交互快速获得答案,可以根据客户业务进行定制,专门用于满足办公场景需要。客户可以快速获得复杂问题的相关答案、生成内容并采取行动 - 所有这些都基于客户自身的信息存储库、代码和企业系统的见解。此外,客户的内容绝不会用于训练Amazon Q的底层模型。无论是在亚马逊云科技上进行构建、使用内部数据和系统,还是使用亚马逊云科技应用程序实现商业智能(BI)、联络中心和供应链管理的客户,Amazon Q都是良好的基于生成式AI的助手,能够帮助各个行业、各种规模的企业安全地使用生成式AI。Amazon Q已向客户提供预览版,Amazon Connect中的Amazon Q已正式推出,Amazon Supply Chain中的Amazon Q即将推出。
强大的数据支持对生成式AI至关重要,一个强大的数据基础应该是全面的、集成化的,可治理的。亚马逊云科技围绕数据基础设施、集成以及治理等推出多项服务及功能。
进一步丰富向量数据库选择,确保业务数据和向量数据同步支持生成式AI。亚马逊云科技推出了Amazon OpenSearch Serverless向量引擎、Amazon DocumentDB和Amazon DynamoDB的新向量搜索功能、Amazon Memory DB for Redis向量搜索预览版,提升生成式AI应用在响应和延迟方面的性能表现。亚马逊云科技还正式推出图数据库分析引擎Amazon Neptune Analytics,帮助Snapchat这样的应用在几秒钟内对数十亿个连接进行图形分析。
在数据治理方面,亚马逊云科技为Amazon DataZone推出了AI描述建议功能预览版,它能够为企业的数据集自动生成更易理解的业务描述,并提供该数据集的使用建议。亚马逊云科技还推出了Amazon Clean Rooms ML预览版,可帮助企业及其合作伙伴在集合数据上应用机器学习模型,而无需相互复制或共享原始数据,并为其推出了第一个专门帮助公司为营销用例创建相似细分市场的模型。
·重塑云计算——自研芯片、存储、无服务器的持续创新
作为17年前云计算的开创者,亚马逊云科技今天仍然拥有业内最广泛、最深入的功能,通过安全可靠的企业级能力赢取了客户信任,不断追求重塑创新,不断探索用不同的方法,更优化的方式来找到解决客户痛点的最优解。
通过重塑云基础设施、重塑存储、重塑通用型计算芯片和重塑无服务器Serverless等方面,亚马逊云科技正在革新自我,重塑云计算。
芯片是企业所有工作负载的基础。亚马逊云科技十多年来持续针对自研芯片进行创新,每一代自研芯片都提升性价比和能效;同时为客户提供了基于AMD、Intel以及英伟达等的最新芯片和实例组合。在2023 re:Invent全球大会上,亚马逊云科技推出Amazon Graviton4和Amazon Trainium2自研芯片,为机器学习训练和生成式AI应用等广泛的工作负载提供更高性价比和能效。
Graviton4与当前一代Graviton3处理器相比,性能提升高达30%,独立核心增加50%以上,内存带宽提升75%以上,为在Amazon Elastic Compute Cloud (Amazon EC2)上运行的工作负载提供最佳性能和能效;基于Graviton4的Amazon EC2 R8g实例目前已提供预览。值得一提的是,通过与光环新网和西云数据的紧密合作,基于Graviton3处理器的Amazon EC2 C7g、M7g、R7g实例目前均已在亚马逊云科技中国(北京)区域和中国(宁夏)区域正式可用,为中国客户广泛的云上工作负载带来更高性价比和能效。
Amazon Simple Storage Service(Amazon S3)自17年前推出以来,已成为最受欢迎的云存储服务之一,在全球拥有数百万各行各业的客户。在本次大会上,亚马逊云科技宣布Amazon S3 Express One Zone正式可用,与Amazon S3 Standard相比,数据访问速度提高至多10倍,数据请求成本降低50%,为机器学习训练和推理、交互式分析以及媒体内容创建等请求密集型工作负载提供最高性能存储。
亚马逊云科技在17年前就开创性地推出了无服务器技术,为客户提供极致的弹性和自动扩展能力。在2023 re:Invent全球大会上,亚马逊云科技推出了三款无服务器服务创新,帮助客户以任意规模分析和管理数据并显著简化运营,客户无需花费时间和精力去配置、管理和扩展其数据基础设施。其中,Amazon Aurora Limitless数据库可跨多个Amazon Aurora Serverless实例自动分发和查询数据,并能够扩展到每秒百万次的事务级写入并管理PB级数据。Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存,并实时进行垂直和水平扩展以支持客户复杂的应用程序,且无需管理基础架构。Amazon Redshift Serverless利用人工智能(AI)预测工作负载并自动扩展和优化资源,帮助客户实现高性价比的目标。
艾瑞咨询研究总监王成峰表示:“本次亚马逊云科技re:Invent大会继续在生成式AI领域推陈出新,同时对基础产品升级迭代。其中,令人印象深刻的主要包括:全面深化Serverless,推进数据库、数据分析、AI等全线产品的‘无服务器化’,继续保持在云原生方面的领先布局;继续为生成式AI的发展提供强大能力支撑,不仅包括与英伟达等芯片商合作带来的更先进算力资源,也通过Amazon Bedrock产品提供‘精选’多模型接入的能力平台,更加强调生成式AI领域的生态打造。”