亚马逊云科技re:Invent全球大会已连续举办13届,作为技术创新风向标式会议,今年大会再次落地中国,探讨生成式AI、数据战略和云服务带来的无限可能。
众所周知,每年re:Invent都有诸多重磅产品发布,这两年的发布重点几乎都围绕生成式AI展开。与去年相比,今年透漏出几个关键信号:1,更加侧重于产品的实际应用和工具优化;2,生成式AI创新产品发布节奏已大幅加快;3,从数据存储、治理到管理的全流程提升,旨在简化AI对数据的使用。
▲亚马逊云科技大中华区产品部总经理陈晓建
“亚马逊云科技不仅是全球云计算的开创者和引领者,更是企业构建和应用生成式AI的首选,今年re:Invent全球大会的一系列重磅发布再次印证了这一点。” 亚马逊云科技大中华区产品部总经理陈晓建表示,基于云的核心服务进行持续创新,实现从芯片到模型再到应用的全技术栈突破,这是亚马逊云科技一系列创新背后的基本逻辑。
从卷参数、卷性能,再到卷场景,生成式AI今天的突破点在于如何从技术变革走向生产应用。正如陈晓建所言,生成式AI要想缩短技术和应用之间的距离,需要解决几个关键问题,即:模型、成本、数据和信任。
1、提供丰富的可选模型。
虽然,大模型的参数和性能水平一直在不断跃进,但今天处于领先地位的大模型在未来几个月未必始终领先。所以,亚马逊云科技在生成式AI层面战略定位是,通过Amazon Bedrock接入所有优秀模型,并且通过强化底层基础设施、模型和应用三层技术栈,确保用户生产场景的稳健性,让用户的大模型应用不会因为模型变化而受到影响。
此种背景下,不管是最新发布的Amazon Nova六款基础模型(Nova Micro、Nova Lite、Nova Pro、Nova Premier、Nova Canvas、Nova Reel),还是之前的Amazon Titan都通过Amazon Bedrock统一接入,旨在降低基础模型的使用门槛。与此同时,为了给用户提供更丰富的选择权,Amazon Bedrock也会接入更多热门、新兴及专业模型,比如:首家提供Luma AI和poolside模型,更新了Stability AI的最新模型,并通过新推出的Amazon Bedrock Marketplace功能为客户提供100多个模型等动作,终极目标都是在为打造可选择的模型平台而努力。
除了优化基础模型、提升模型平台支持能力,亚马逊云科技也在不断扩展应用场景。这次re:Invent全球大会上,Amazon Q Developer增加了三款新的智能体,能自动执行单元测试、文档编制和代码审查流程,并通过与GitLab深度集成,扩展应用场景。为了让智能化应用走向关键业务场景,Amazon Q Developer还在加速Windows.NET、VMware和大型机工作负载的迁移和现代化进行了功能更新,以缩短用户业务转型时间并降低成本。另外,针对业务层面的多维度赋能,还体现在对Amazon Q Business和Amazon Q in QuickSight更多功能的强化上,亚马逊云科技正在从不同层面简化用户复杂工作流程的自动化实现方式。
2、能够可持续发展,管理好模型训练和推理成本。
打造模型平台不是只把模型接入进来就够了,还要考虑可持续性发展问题。为了让用户更好地使用不同模型,降低模型的使用成本,亚马逊云科技进行了诸多更新,比如:优化推理、模型蒸馏、提示词缓存、支持GraphRAG、自动推理检查功能和多智能体协作等功能,都是模型平台不断进化的表现。
在重要的基础设施层面,亚马逊云科技推出关于Amazon SageMaker AI的四项创新,包括Amazon SageMaker HyperPod的新训练配方功能、灵活训练计划和任务治理功能,以及在Amazon SageMaker中使用亚马逊云科技合作伙伴的热门AI应用,这些功能将帮助客户快速使用主流模型。
在训练方面,Amazon SageMaker HyperPod新增三项强大功能可以有效管理训练资源、训练计划,并可降低40%的成本;推理方面,Amazon Bedrock的三项更新也能极大降低成本,包括:提示词缓存功能最高可将成本降低90%,并将延迟最多缩短85%;提示词智能路由功能可在不影响准确性的情况下,将成本降低多达30%;模型蒸馏可实现提速500%,运行成本降低75%。
3、更好地使用数据,将数据集成到AI中去。
数据是企业最重要的资产,也是生成式AI能否被引入核心业务场景的关键。
在之前的数据管理体系下,亚马逊云科技提供了最全面、最深入的专用服务组合,包括:数据仓库Amazon Aurora redshift、大数据处理Amazon Aurora、用于搜索分析的Amazon Elasticsearch Service(OpenSearch)、流数据分析Amazon Kinesis、Amazon MSK,还有数据聚合应用Amazon Glue、交叉分析Amazon Athena以及BI工具Amazon QuickSight 等,很多客户已经在使用这些服务构建数据分析应用。比如:金融客户在构建实时欺诈检测系统,他们通过自己构建的数据目录服务,把数据进行分类,导入数仓,进行存储和SQL分析,再通过Amazon Glue的ETL能力,在数仓和Amazon EMR 之间建立可靠的数据管道,最后把数据导入Amazon SageMaker进行AI的数据训练和分析,从而完成实时欺诈检测系统在云端的部署。
有没有一种更简便的数据处理方式,既能满足关键业务数据分析需求,也能解决AI场景对数据的需求?亚马逊云科技在数据分析和AI融合的赛道上进行了全面整合!
为了更好地使用企业内部数据,实现数据与AI的集成,做了如下更新:
Amazon Bedrock Knowledge Bases:现已提供对结构化数据和GraphRAG的支持,进一步拓展了客户利用自身数据提供定制化生成式AI体验的途径;
Amazon Bedrock Data Automation:能够在无需编写代码的情况下,自动将非结构化、多模态的数据转换为结构化数据,以帮助客户将更多数据应用于生成式AI及分析工作中;
自动化推理检查:是首个也是唯一的生成式AI保护措施,有助于防止因模型幻觉而导致的事实性错误,从而开辟需要最高精度的新的生成式AI用例;
多智能体协作:可帮助客户轻松构建和编排多个AI智能体,共同解决问题,从而扩展客户应用生成式AI来解决最复杂用例的方式;
新一代Amazon SageMaker:将客户所需的快速SQL分析、PB级大数据处理、数据探索和集成、模型开发和训练以及生成式人工智能(AI)等功能统一到一个集成平台上。
4、解决信任问题。
企业对于生成式AI的应用是一个长期过程。只有解决了信任问题,才能持续投入。
为了推动生成式AI从原型实验阶段走向生产阶段,亚马逊云科技正在从工具层面扫除一切障碍。比如:防止幻觉问题,减少模型幻觉对事实性错误的影响;实现多agent的协同工作;利用RAG构建知识图谱以有效利用私有数据;优化延迟推理等。这些应用可以有效解决客户在实际生产场景中遇到的挑战。
展望未来,生成式AI正在加快向各行各业渗透,企业智能化升级存在更大想象空间。届时,客户需求会变得更加复杂,不仅要选择模型,还需要有各种技术支持。而Amazon Bedrock的最终目标是:不仅提供模型市场,更重要的是提供模型运行时所需的全栈式生产力和生产环境工具,这才是Amazon Bedrock的真正价值所在。