Amazon Bedrock为生成式AI领域开辟出一条新道路，凭借其能使尖端技术普及化、专有化优势，一出生就被赋予众望，成为革命性平台。
一年前，亚马逊云科技宣布，将Amazon Bedrock纳入使用生成式AI进行构建的新工具集，提供来自领先AI公司的高性能基础模型，包括AI21 Labs、Anthropic、Cohere、Stability AI等。同期发布的，还有亚马逊云科技“三层架构”产品，即Amazon Titan模型以及底层基础设施层面的Amazon EC2 Trn1n和Amazon EC2 Inf2实例，以及应用层的Amazon CodeWhisperer代码助手。
时光荏苒，转眼已进入2024年4月。在这个春意盎然的季节里，生成式AI的战火硝烟仍在弥漫，Amazon Bedrock也以一种更特别的方式，迎来了自己的一周岁生日。
专有模型导入功能带来无限想象
4月23日，对于全球生成式AI领域而言，无疑是一个里程碑式的日子。亚马逊云科技在这一天宣布了多项关于其领先的生成式AI平台Amazon Bedrock的重大更新，其中最引人瞩目的便是专有模型导入功能的发布。这一功能的推出，为用户进行生成式AI应用开发带来了更广阔的想象空间，标志着Amazon Bedrock在推动AI技术应用方面又迈出了坚实的一步。
所谓“专有模型导入功能”，是为特定应用场景选择模型的模型评估功能，包括可以为生成式AI应用程序提供内置了安全防护功能的Guardrails，以及新增了更多可选择的新模型。
对于用户来说，有了全新的专有模型导入功能，意味着企业可以自由发挥，接入其定制模型，从而能够利用内置的一系列强大功能。从降本增效的角度看，这项新发布将有利于客户降低模型成本，同时享受Serverless提供的易用性，全面加速应用开发。
亚马逊云科技全球同步发布最新消息，其官方博客一口气发布了8篇Amazon Bedrock相关的文章。其中，亚马逊云科技AI和数据副总裁Swami Sivasubramanian博士还发布了署名文章，详细阐述了新功能升级带来的重要意义。
据了解，Amazon Bedrock专有模型导入功能现已推出预览版，并支持三种最受欢迎的开放模型架构，包括Flan-T5、Llama和Mistral，未来计划会支持更多模型。
另外，用户可以在Amazon SageMaker 上使用定制模型，该模型提供超过250种预训练基础模型。这些基础模型包括Mistral、Llama2、CodeLlama、Jurassic-2、Jamba、pplx-7B、70B 等尖端型号，以及更强大的Falcon 180B。使用Amazon SageMaker，有助于企业组织和微调数据，构建可扩展且高效的训练基础设施。更重要的是，可以通过低延迟和更经济高效的方式大规模部署模型。
而对于开发人员来说，Amazon SageMaker改变了游戏规则，不管是为AI准备数据、管理实验，还是更快地训练模型、降低推理延迟，都有更卓越的表现，可以明显地提高开发人员的工作效率。现在，用户在Amazon SageMaker中定制的模型将能够在Amazon Bedrock中使用，以获得后者提供的更多强大功能。
现在，借助全新的Amazon Bedrock专有模型导入功能，用户能够将本地微调后的开源模型（Llama，Mistral及Flan-T5框架)上架Amazon Bedrock，以托管API方式来调用，无需运维。只需通过点击操作，客户即可以在Amazon Bedrock中访问其定制模型，无论这些模型是它通过Amazon SageMaker开发，还是采用其他工具开发，只需通过模型自动验证流程，即可使用Amazon Bedrock的一系列功能来加速其生成式AI应用开发。
更多新功能触达模型应用体验的“天花板”
“Amazon Bedrock拥有广泛的基础模型选择以及用户友好的功能，是构建和扩展安全生成式AI应用的最快、最简单的方法。” Swami Sivasubramanian博士强调。
Amazon Bedrock之所以能够在全球范围内引起广泛关注并火爆一时，其强大的安全保护能力无疑是最大的亮点之一。特别是在最新功能发布过程中，亚马逊云科技宣布Amazon Bedrock Guardrails功能已正式可用，这一功能进一步提升了Amazon Bedrock在AI应用安全领域的领先地位。
Guardrails可以控制FM输出内容合规性，是真正负责任的AI。它允许客户在单一服务中同时拥有内置和定制的防护机制，并可与Amazon Bedrock中的所有大语言模型（LLMs）以及经过微调的模型一起使用，能够帮助客户阻止高达85%的有害内容。
为了进一步提升模型应用体验，亚马逊云科技还发布了Amazon Bedrock其他诸多新功能。比如：模型评估功能正式可用，可支持默认测试集程序自动评估、内部测试集人工评估等多种方式评价模型效果；代理（Agent）功能，引入简化的创建和配置体验，使得开发人员轻松上手，同时推出了控制权返还（return of control）功能，允许在代理调用工具的时候接管控制权，为用户提供更多的选择权；知识库功能，支持通过跨账号的数据源构建知识库。
值得一提的是，知识库功能支持 Ephemeral RAG（chat with your document），用户直接上传文件，而无需使用向量数据库的方式来构建RAG，便于开发者快速测试验证。
你的模型你做主
Amazon Bedrock之所以受用户欢迎，不仅仅是因为其功能强大，模型选择的多样性同样是一个关键因素。继之前对Claude 3的支持之后，Amazon Bedrock近期又有了新的模型更新，进一步丰富了其模型库，为用户提供了更多的选择空间。
这次更新中，Amazon Bedrock引入了一系列新的模型，这些模型各具特色，能够满足不同领域和场景的需求。无论是对于需要处理大量文本数据的用户，还是对于追求更高精度和效率的用户，都能在Amazon Bedrock找到适合自己的模型。
如今，最强开源模型已经登录Amazon Bedrock，Meta Llama 3 (8B和70B两个版本）正式可用，客户现在可以在Amazon Bedrock中使用两种新的 Llama 3 模型。其中，Llama 3 8B非常适合有限的计算能力和资源以及边缘设备，该模型擅长文本摘要、文本分类、情感分析和语言翻译。而Llama 3 70B 非常适合内容创建、对话式 AI、语言理解、研究开发和企业应用程序，该模型擅长文本摘要和准确性、文本分类和细微差别、情感分析和细微差别推理、语言建模、对话系统、代码生成和遵循指令。
除了Meta Llama 3，亚马逊云科技还宣布支持Cohere 的 Command R 和 Command R+ 企业级基础模型。这两款模型具有高度可扩展性，并针对长上下文任务进行了优化，例如：检索增强生成 (RAG)，通过引用来减轻幻觉，使用多步骤工具自动执行复杂的业务任务，可支持 10 种语言进行全球运营。Command R+ 是 Cohere 最强大的模型，针对长上下文任务进行了优化，而 Command R 则针对大规模生产工作负载进行了优化。
Amazon Bedrock在持续引入业界更多优秀大模型的同时，也在不断精进自家的Titan系列模型。其中，预发布的Titan Text Embedding v2凭借其出色的准确性、更加灵活的向量空间维度以及更低的价格，引起了广泛的关注。
Amazon Titan Text Embeddings V2模型降低了存储和计算成本，同时提高了准确性。通过为客户提供灵活的嵌入（embeddings）功能，将存储需求降低至原来的四分之一，显著降低了运营成本，同时在RAG应用场景中保持97%的准确性，表现优于其他领先模型。
Titan Image Generator的正式可用无疑是Amazon Bedrock的一次重大更新，其支持版权问题赔偿及水印检测功能的特点，更是为这款模型在市场竞争增加了一抹亮色。
Amazon Titan Image Generator 现已在Amazon Bedrock中全面推出，这将为用户提供了一种简单的方法来构建和扩展具有新图像生成和图像编辑功能（包括即时自定义图像）的生成式 AI 应用程序。
同时Titan Image Generator 的水印检测现已在Amazon Bedrock 控制台中全面推出。亚马逊云科技在Amazon Bedrock 中引入了一个新的 API（预览版），用于检查此水印是否存在，并帮助您确认图像是否由 Titan Image Generator 生成。
在新功能及新模型更新消息中，亚马逊云科技展示了创建“鹦鹉吃香蕉”图像的成果：
这是两张参考图像
这是最终生成的图像，左侧为未提供参考图像时生成的，右侧为提供参考图像后的生成图
小结：
一年前，Amazon Bedrock凭借其强大的功能和卓越的性能，赢得了众多用户的青睐。如今，在一周年生之际，Amazon Bedrock专有模型导入功能和诸多新模型的引入，再次展现了其在生成式AI领域的领先地位和持续的创新力。未来，我们有理由相信，Amazon Bedrock将继续引领生成式AI走向更高阶段，为用户带来更多惊喜和收获。
