在生成式AI浪潮下，有人徘徊、有人畏惧，但勇敢者正抓住新的机遇，创造无限可能。北京灵奥科技就是这样一家企业，凭借卓越的技术实力和更具前瞻性的战略眼光，成为了行业佼佼者。
那么，北京灵奥科技是如何玩转生成式AI，化“神奇”为商业的呢？一切都是业务推动的结果！
AI变革之初
“Vanus整个平台都是基于亚马逊云科技构建的。特别感谢亚马逊云科技为我们带来了确定性，帮助我们构建稳定、强健的数据基座，让我们能够轻松面对用户业务的不确定性。”北京灵奥科技CEO厉启鹏，在媒体采访中表示，面对生成式AI的崛起，北京灵奥科技没有安于现状，而是积极拥抱变革，以开放的心态和坚定的步伐，踏上了构建AI Agent的征程。
▲北京灵奥科技CEO厉启鹏
北京灵奥科技属于初创公司，最早接触亚马逊云科技是从生态伙伴开始，之后把所有的业务都迁移到云上来构建。选择亚马逊云科技作为底层技术支撑平台，主要是基于公司的实际业务考虑，能够推动公司实现快速发展。
“我们从成立之初就加入了亚马逊云科技合作伙伴网络（APN）。成为合作伙伴的好处是，不仅带来了有利的技术支撑，还带来了客户和合作等资源，帮助我们把生成式AI产品快速推向市场。”厉启鹏强调，基于亚马逊云科技，北京灵奥科技不仅实现了自身技术底座的升级，还可以更好地去服务用户，用AI的能力实现业务创新。
在拥抱AI技术变革中，北京灵奥科技先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS产品，累计服务全球30,000+用户，曾获得靖亚资本、PNP等机构的多轮融资。为帮助更多企业加速商业化进程，该公司携手亚马逊云科技打造了可以构建AI Agent的SaaS平台。
数据成为最后一公里难题
现在，很多企业都在从实用角度构建大模型。而大模型落地，必须需要一个中间件平台，来支撑不同行业的不同Agent，比如：法律行业有律师Agent，房地产行业有房屋经纪Agent。如何让这些Agent服务企业，更好地解决用户的实际业务问题？最大的挑战，不只包括技术的复杂性，还有更严峻的数据问题！
具体来看，企业落地大模型面临的数据挑战如下：
1.模型对业务数据的理解。让模型真正能用起来，需要深入理解企业多样化的业务数据。然而，现实情况是，企业面临的数据的类型繁多，格式杂乱且来源无法统一，大模型构建寸步难行；
2.模型对业务数据的学习。业务数据随着企业运营实时变化，模型需不断学习不同来源的、持续变化的业务信息；
3.数据隐私和安全合规。安全合规是企业业务不能触碰的红线，企业既要让模型理解好数据，又需要做到安全合规；
4.数据偏见和公平性问题。不同大语言模型由于训练数据来源不同，侧重点有差异，导致模型会存在偏见。企业需要评估不同模型的能力，并为不同业务场景选择合适的模型。
Vanus将模型优势和业务数据无缝结合
Vanus大模型中间件介于大模型和应用之间，可以帮助企业打通数据瓶颈，解决大模型企业落地最后一公里难题。
具体是如何做到的呢？Agent要想在企业落地，需要三个核心能力：第一，业务感知能力；第二，业务决策能力；第三，执行能力。
整个过程的技术实现原理是，Vanus Connect能感知业务变化，通过事件驱动的方式实现用户咨询、退款等操作。在神经网络层，Vanus Connect可以连接企业不同的数据源，实时感知企业业务事件的变化，并推送给神经中枢，然后接收神经中枢的指令去做执行。同时，这一事件会传递给Vanus AI这个神经中枢。在神经中枢层，Vanus AI结合知识库（向量数据库）和大模型，帮助企业做业务的决策。
Vanus AI会自动去知识库里加载上传的语料，然后通过大模型去做推理，推理结果作为指令再发给Vanus Connect。如果语料里找不到相关答案怎么办呢？Vanus Connect会连接其他工具集，通过调用第三方API再去查，然后按照上下文的逻辑用AI回复给用户。
大模型中间件Vanus将大模型优势和企业数据无缝结合，可提供Claude 3、等多模型选择，实现商品数据自动同步，包括商品数据自动更新、Shopify数据自动接入等，还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成，助力企业灵活定制机器人，自定义聊天风格、欢迎词、外感颜色等等。例如，VanChat是基于Vanus AI专门为Shopify店主打造的销售类AI Agent，它既是Shopify店铺的销售机器人，也是消费者的AI购物助手，可以帮助电商企业将网站访客转化成付费用户。
据厉启鹏介绍，Vanus整个平台都基于亚马逊云科技构建，利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务，为企业构建出AI Agent平台，现已服务全球数万家用户。
Vanus通过亚马逊云科技获得的技术能力如下：
1.弹性可扩展。利用Amazon Elastic Kubernetes Service（Amazon EKS）基于网络流量的弹性扩展能力，Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩。用具体的数据来表示，可帮助企业平均成本降低30%，性价比提高20%。
2.提高系统可用性。通过Amazon DocumentDB原生的3可用区、6副本的设计，提高可用性和可靠性，可以达到不低于99.99%正常运行时间的服务等级协议（SLA）。
3.降低回复延时。借助Amazon Simple Storage Service（Amazon S3）及数据库高并发数据查询能力，大大提高了大模型上下文加载时间，同时借助亚马逊云科技全球网络节点加速能力，整体将Agent回复系统延时降低40%。
4.推理能力强。通过Amazon Bedrock提供的Claude模型，为Vanus平台的AI Agent提供非常强的语言理解和逻辑推理能力。
以ERP大模型构建场景为例，Vanus AI为国内某ERP企业客服人员构建了一个AI Copilot。该企业各部门沉淀大量内部数据，但是跨部门知识共享效率低，需花费大量时间对客服进行培训。同时，客服人员基于传统搜索方式获取知识，响应时间长导致用户的投诉率较高。
Vanus基于Amazon S3、数据库等云服务，帮助用户从文档、数据库、SaaS软件等多个数据源中实时抽取数据，构建统一的企业知识库；借助Amazon Bedrock等服务，为企业客服人员构建AI Copilot。
可以说，大模型为企业带来了实实在在的价值，基于全域业务数据实时推理，客服人员将问题回复时间从分钟级降至秒级，客服团队的人效提高70%。
