过去的两年时间里，大模型、AIGC成为热词，生成式AI正成为人工智能领域最重要的应用之一。但要关注的是，各行各业的场景千变万化，与AI的结合特点不同，即使大模型的技术能力再强，也不会有一个基础模型能适用所有业务场景。因此对于企业的生产来说，仅仅依靠大模型是远远不够的，企业需要一系列周边的能力来正确、合理、安全、高效地使用大模型。
作为云服务行业的领导者，亚马逊云科技在生成式AI领域为客户提供了三层技术架构。从最底层的高性能基础设施，到中间层提供最广泛的基础模型选择，这些模型来自多个领先的提供商，客户可以在此基础上定制这些模型，同时保持他们自己的数据私有和安全，并与其他在亚马逊云科技上的工作负载无缝集成。最上层的是应用GenAI技术的开箱即用的云服务。
亚马逊云科技大中华区产品部总经理陈晓建表示，“从模型能力到真正的运营生产之间，企业还需要增加很多辅助能力。Amazon Bedrock提供一系列广泛的能力，例如预置吞吐量功能以保障业务拥有稳定独享的底层资源，模型微调能够将自身的业务数据与大模型快速进行结合，以及能够全面监管大模型的Guardrails功能等，这些工程化的能力是企业在真正上生产环境时一定会需要的。此外，对用户来说，大模型与业务结合必须要有非常强的数据基石——Data Foundation，我们认为数据基石与大模型的能力同等重要。”
亚马逊云科技Amazon Bedrock提供各种领先的基础模型供客户选择：既有知名的开源模型，如Stable Diffusion XL、Llama、Mistral 7B和Mixtral 8*7B，也有如Anthropic Claude 3、AI21labs Jurassic、Cohere Command、Amazon Titan等非开源模型。
今年3月，亚马逊云科技发布Anthropic Claude3模型之后，获得了业界极大关注。事实上，亚马逊和Anthropic在生成式AI领域进行了广泛的深度合作，已经完成对Anthropic的40亿美元投资。
Anthropic在Amazon Bedrock上提供的Claude 3系列模型是全球最领先的大模型之一，共包含三个模型：具有几乎即时响应能力且最紧凑的Claude 3 Haiku；在技能与速度之间达到理想平衡的Claude 3 Sonnet；以及为处理高度复杂任务设计的最智能模型Claude 3 Opus。客户可以根据自己的商业需求，从中选择最合适的智能、速度和价格组合。
Claude 3在数学问题、编程练习和科学推理等标准评估中超越了所有现有模型，创造了模型智能水平的新纪录。客户可以借助AI驱动的响应，自动化完成任务并保证高准确率，例如在制造业中优化特定领域的实验程序，或基于上下文数据审计财务报告等。特别是Claude 3 Opus，它不仅在大多数常见的AI系统评估基准测试中表现优异，例如本科生水平专业知识（MMLU）、研究生水平专业推理（GPQA）、基础数学（GSM8K）等，并且在复杂任务中表现出优秀的理解能力和流畅性，走在通用智能的最前沿。
Claude 3还具备多模态能力，可以接收基于图像的输入，经过专门训练，它们非常擅长理解图片、图表、图形、技术图解及光学字符识别 (OCR)。评估显示，Claude 3模型在图像输入能力方面与前沿模型相当，并且Claude 3 Haiku的速度优于所有能力相当的前沿模型。
Claude 3模型还兼具低延迟和强大的功能，在需要处理大量图像、图表、报告和其他视觉资产的企业用例中表现出色。在处理挑战性开放问题(100Q Hard)方面，Claude 3能够降低幻觉，提升回答准确率，并且减少错误答案。
Claude 3系列模型均提供200K超长上下文准确召回，此外针对某些特殊场景，会开放支持1M token的上下文窗口；大海捞针（Needle In A Haystack, NIAH）召回率表现优异；甚至还能识别出测试本身的局限，比如发现某“目标”句子明显是后来人为添加进原始文本的。
Claude 3拥有丰富的应用场景，包括内容续写、代码辅助、电商商品描述撰写、长文本知识召回总结等。
除了提供对全球领先基础模型的接入，Amazon Bedrock还拥有知识库、代理、Guardrails等各种便捷工具，同时确保数据隐私和安全，让其成为企业构建和应用生成式AI的首选。
·知识库功能Knowledge Bases for Amazon Bedrock：为基础模型和Agent提供来自企业私人数据源的上下文信息，用于检索增强生成 (RAG)，以提供更相关、更准确和更个性化的响应。从Amazon Bedrock知识库检索到的所有信息均附有引文，可提高透明度并最大限度地减少幻觉。
·代理功能Agents for Amazon Bedrock：使生成式AI应用能够使用自然语言来执行多步骤的业务任务。代理功能会使用基础模型的推理功能分解问题，并通过分步骤的方式解决用户提出的问题。Agent会利用推理功能将这个需求分解并逐步执行。Agent能够访问组织的企业系统、流程、知识库以及一些基础构建模块，进而制定出解决问题的逻辑步骤，确定调用哪些API以及调用时机，确保事务按照正确顺序完成。如果需要用户输入特定信息，Agent会主动询问，用自然语言获取所需的附加细节。最重要的是，Agent始终利用最新的信息，并在保证安全与隐私的前提下为用户提供解决方案。
·加速实现负责任AI的Guardrails for Amazon Bedrock：允许客户根据应用程序特定要求和负责任的AI策略来管理用户体验。构建适合其应用场景且符合其安全和隐私要求的生成式人工智能应用程序，能够为Amazon Bedrock上的多种基础模型和代理提供保护；根据用户设置的负责任AI策略来配置有害内容过滤器；能够通过简短的自然语言描述来定义并拒绝生成被禁止的话题；能够在基础模型的回复结果中屏蔽个人隐私数据。
·合规：Amazon Bedrock是基于全面的数据保护和隐私保护构建的，传输中数据和静态数据都会被加密，数据不会与模型提供者共享，也不会用于改进基础模型。Amazon Bedrock提供全面的监控和日志记录功能，为治理和审计需求提供支持。符合包括ISO、SOC、CSA STAR 2级在内的常见合规标准，符合HIPAA资格，客户可以在符合GDPR的情况下使用Bedrock。
亚马逊云科技提供了丰富的专业技术支持资源，包括与客户一起寻找场景与解决方案的架构师、根据客户需求来提供产品构建的专家、人工智能实验室、帮助客户打造端到端的数据创新尝试的数据实验室、快速原型团队以及提供专业咨询到实施的全流程服务的专业服务团队等，帮助客户打通应用生成式AI的“最后三公里”的工程化挑战，这就是亚马逊云科技一系列产品所提供的价值所在。
