云计算·大数据 频道

企业落地大模型的“五步法”

  大模型已经从概念普及阶段迅速过渡到落地应用阶段,鉴于大模型的复杂性,企业需要一个系统性的框架来开展大模型试点工作。沙丘智库提供了一个大模型的试点工作路线,为企业探索大模型应用提供参考。

  第一步,与业务部门一起挖掘可能的大模型应用场景,充分关注大模型的颠覆性创新能力。

  企业试点大模型一定要以业务为导向,让业务部门参与到大模型的试点项目中,得到至少一名企业高管的支持,这位高管不仅要对大模型感兴趣,也要在组织内部有足够的影响力,推动试点项目的开展并清除可能出现的障碍。

  第二步,通过对用例的业务价值和可行性进行评分,对用例的优先级进行排序,选择其中最可行、具价值的几个用例开启试点工作。

  场景的优先级排序是大模型试点成功的关键,因此在短暂的试点期间,企业应该从众多用例中选择几个开展试点。企业可以通过对用例的业务价值和可行性进行评分,对用例的优先级进行排序。

  以平安银行为例,平安银行通过价值评估体系和大模型应用成熟度评估体系判断应用场景的优先级。同时,对于任何场景的落地,必须通过业务指标衡量对业务的价值,判断应用深度和技术深度是否需要继续提升。从实际投产的场景来看,平安银行将值得重点探索的方向总结为:信息抽取、个性化文案、辅助编程、文生图、报告生成和阅读理解问答。

  具体可查看:平安银行大模型应用实践与落地经验

  第三步,为试点工作组建一个跨IT和业务部门的融合团队,包括业务专家、IT专家以及人工智能专家。

  以中国一汽为例,大模型项目由业务(包括高级经理、AI专员)、战队(包括AI产品经理、IT开发人员、初级算法工程师)和AI能力中心(包括算法工程师、AI架构师、prompt工程师、数据工程师)共同参与,在不同阶段发挥各自的职责。

  具体可查看:中国一汽GPT-BI与大模型应用实践

  第四步,确定试点目标和关键考核指标,为每个用例设计一个MVP验证版本,选择建设路径和风险应对措施。

  第五步,在规定时间内交付测试用例的MVP版本,然后决定是终止还是进一步拓展。在初步成功的基础上继续投入和建设,总结在试点中获得的价值和经验教训,并扩展更多的大模型应用。

0
相关文章