AI大模型在汽车行业应用探索
ChatGPT之类的大模型诞生后,国内的公司基本上分出了两条路线:一条是做自己的AI大模型,另一条是在AI大模型的应用上发力,解决使用场景的问题。
作为高科技工业的代表,汽车行业天然适合AI大模型的使用。这篇文章,就讲述了大模型在汽车行业的探索情况。
一、AI大模型的前世今生
1. 大模型发展概述
人工智能早在1956年就已出现,后面在此基础上又出现了机器学习。在发展过程中,算法层面变得更为丰富。进一步发展,又出现了深度学习,引入了神经网络。基于深度学习,在2021年出现了预训练大模型。2023年ChatGPT的发布,引起了人们更多的关注和更广泛深入的探索。
2. 什么是大模型
到底什么是大模型,大模型大在什么地方?
首先,算法模型不一样,最早是transformer奠定了后续各类大模型的模型基础。其次是海量参数,以前的模型最多只有百万级参数,而现在的大模型常常是亿级、十亿级,甚至百亿级。第三是海量数据,预训练会用到很多的数据,比如ChatGPT完全是基于网上数据去进行预训练。
3.大模型很强大,但仍处于早期发展阶段
大模型能力很强大,真正比较深入的应用还不是很多,整体上还处于早期的阶段,因此在行业应用中会碰到各种问题。
1)成本高
如果去做一个垂类的大模型应用,首先考虑部署,私有或者共有。私有部署需要基础数据标注、训练成本、算力成本、预训练团队成本。在训练完成后,上线使用还会有推理成本。
2)垂类应用难
现在应用较多的还是通用大模型,通过文字输入一些问题,以知识库的形式去回答,一旦聚焦到解决具体行业问题时,经常难以满足一些垂类应用。比如AIGC做一些营销素材的生成,如果嫁接到汽车行业里面去解决一个具体的问题,还是比较难的,中间会需要很多的调整,以及预训练。
3)安全问题
大模型应用时,尤其是知识库,会涉及到各种各样的敏感问题,答案输出也需要考虑是否符合国家相关规范,因此大模型需要解决合规的一些问题。
4)隐私问题
与个人相关,包括法律法规规定的一些敏感数据,一定不能通过通用大模型去输出。
4. 大模型催生“效率革命”,为产业提质增效
经常会有人问,大模型能够创造什么价值?其价值的核心在于效率,为各个产业降本增效起到积极的作用。
1)能力比较强
大模型在专业领域,包括推理能力上比人强很多。
2)效率更“高”
AI大模型,以及衍生出的AI数字员工,能够代替一部分人工的工作,提高效率。
3)场景更“广”
AI大模型的应用场景广泛,比如汽车营、销、服、研、产、供等各个环节,包括智能驾驶、智能座舱等等,各个车企都已经开始实现大模型上车,在车上真正的去使用大模型。
4)应用更“深”
无论是行业级应用,还是具体产生直接价值的应用,大模型+AI将推动全链路的智能化。
二、AI大模型在汽车营、销、服领域的探索
1. 汽车营、销、服业务全景图
在整个营、销、服阶段有很多环节都可以基于AI大模型去进行赋能。我们对这些环节逐一进行了探索和尝试,寻找可以真正落地的场景。
2. 营销:提高内容产出效率,助力线索提升
1)舆情问题智能匹配
在舆情问题发生后,需要质量部门的人员进行识别和判断,再发到研发侧。
可以通过AI大模型去做预判,把每天舆情的问题自动转换成一些匹配,分给对应的质量部门和研发部门。
2)媒介投放
投放广告的时候,需要写关键词,可以通过AI大模型去做拓词,拓展关键词把它放进去。
还可以通过大模型去做标题和素材的生成,批量生成多个标题和对应的落地页素材。
3)AIGC智能生成内容
在车企营销部门会做专门的品牌素材,这些素材创作出来视频以后,需要到对应社交媒体平台去做矩阵式分发。
可以通过AIGC基于这些素材进行二次创作,在分发给销售人员进行分发获取对应的线索。
我们在汽车行业聚焦在小红书训练一个垂直大模型,进行销售内容的二次创作,在新车发布上市、品牌日等场景下做一些内容发布。
还有一些赋能设计师的工作,辅助海报的设计、落地页的图文设计等。
3. 销售:强化销售能力,赋能线索转化
1)AI销售助手
在销售线索跟进时,大模型能进行一些AI洞察,包含线索的一些属性、偏好以及对应的跟进话术策略。在AI销售助手里,将整个话术知识库挂载到大模型上进行训练。
2)AI销售培训对练
AI模拟销售和用户做真实场景的对练培训,可以检验介绍的点有没有到位,如产品功能介绍,以及对应话术有没有说,比如引导试驾。
在AI的培训对练中,模拟过程也可能会拆成几步,如邀约跟进过程的话术,或者出单相关话术和遇到的问题。
3)AI外呼摘要
在AI外呼时,可以通过大模型做外呼摘要的处理,其实是对语音的数据处理,包括对方言的处理,还可以在销售环节中进行探索。
4)AI销售培训师
可以通过数字人的形式去做培训,批量培训销售人员。讲课时的数字人在语音上可以达到逼真的效果。
4. 服务:洞察用户诉求,赋能个性化服务
1)客服知识库
AI大模型可以对客户提问做综合管理,客服人员无需自行探索,使用大模型提供的答案即可给出满意的回答。
2)AI售后诊断
在车联网数据平台上的智能诊断平台,其中有驾驶的数据、电池的数据、信号的数据等,根据对应的问题可以发现规则中没有的诊断问题。
通过大模型,可以把诊断的这些规则形成一个专有知识库。
5.数据:变革取数模式,助力数据管理
1)AI取数(chatBI)
AI取数chatBI,替代了传统BI,目前还存在取数不准的问题。
另外,还可以通过大模型的BI工具去做快速的看板搭建,还可以帮助写SQL。
在未来,可以直接通过语音问答,即可获取到底层数据,改变看数据的场景和取数的交互方式。
2)AI口径管理
在指标管理平台里面,各个指标口径不一致,通过大模型的工具,可以解答指标的口径,同时能告知上下游指标间的关系。助力指标管理。
3)AI元数据管理
通过元数据管理平台,可以赋能上游业务系统去做表的建设,保持元数据的统一规范,同时赋能数仓的建模以及下游模型的搭建。
三、大模型的基建策略
1.碰到的难点
目前大模型建设中遇到的难点主要包括以下几方面:
1)大模型使用场景怎么设定
大模型的使用场景该如何去设定,比如前面讲到的最开始不是一上来就要做小红书这样的垂直大模型,而是要做一个AIGC,在后续交流过程中逐渐发现场景越来越聚焦,最终聚焦到小红书素材生成的场景。
2)基于场景的语料怎么准备和处理
每次大模型训练都可能会涉及到场景和语料,怎么准备怎么处理,并且在准备和处理时,不仅仅是技术人员,还有产品人员、业务人员都要共同参与。
如AI销售培训场景中,进行了3-4轮的改进,耗时两个多月,每准备处理一次,都会想到一些新的处理点,在语料的处理上也不断发现了一些技巧。
3)大模型怎么训练(prompt和微调)
训练包括两种,一种是直接训练和做微调,需要有比较好的平台和算法团队;第二种是轻量级,用prompt做提示词先把场景做好,在需求验证的情况下,对prompt进行调试,在场景和需求固定以后再去做微调和算力调整。
4)大模型的成本怎么评估:训练成本和运行成本
大模型的训练成本,在调研时发现各个厂家大模型有很多是共有token的方式,还有的是私有化部署,需要卡和平台的资源。
另外就是开源,开源的就是卡的资源。在成本上需要充分开绿,项目能不能持续的成本投入很重要,除了训练时的成本,在运行时成本更高。
5)大模型部署:共有VS私有
各个公司的部署方式不同,私有大模型平台成本是非常高的,至少千万级以上,启动这种项目不是小项目,需要业务价值能够承载。
如果仅为探索,可以调用共有大模型API去进行尝试。
如果有对应的算法团队,可以做一些开源模型的尝试,这样场景验证可以有比较好的冷启动。
6)大模型效果怎么评估
大模型的评估包括三个角度,第一个是精准度,第二个是拟人的角度,第三个是提问的关联角度。
在大模型评估时,可能内容人员无法评估,可以借助外部进行,如供应商,评估内容不仅包括技术指标,还有业务指标。
7)是否安全合规
安全合规方面,有的同学可能会使用OpenAI等工具,这在合规上是不允许的,需要尽量避免。
在大厂的模型里面,都具备一些能力针对安全合规的内容进行审核和过滤。
8)业务价值怎么衡量
在业务价值的衡量上有个策略是离钱近容错高,也就是离业务很近,如销售业务容错率比较高,不会因为回答不精准导致很大的问题,但如BI,回答错了影响则会非常严重。另一方面是覆盖范围,覆盖范围广,提效的影响就更大。
2. 建设AI大模型能力的痛点
目前建设大模型主要痛点包括:技术变化快,人才短缺,初始投入大,缺少成熟的工具链,产业链分工尚未成熟,场景落地缺乏经验,以及应用效果难评估等。
3. 如何构建AI大模型基础设施
构建AI大模型的基础设施,可以采用公有云实例的方式,如果有专有云实例的话,可以嫁接一些自己的向量数据库。如果数据不敏感,就用纯公有云的方式。
另外就是私有部署,私有化的大模型是最贵的,基于通用的行业大模型,训练公司自己的垂直大模型,或者进一步训练各个业务场景的大模型,如营销的、销售的、售后的大模型等等。
四、未来的展望
大模型应用落地分为三个阶段,最终带来应用的爆发:
1)人与AI协作
在2023-2024年,这个时候更多的是人和AI的协作,现在AI已经应用于内容生成、文字处理、图片设计等场景中。
2)部分自动化
这一阶段自动化可能会出错,在一些容错高的地方可以先行应用,比如广告的场景、培训的场景等等。
3)全自动化
在全自动化阶段,整个的训练决策,执行的动作,以及整个agent都将实现自动化。
作者:赵松,极氪汽车大数据产品负责人,多年汽车数字化从业经历。
本文由@本生编辑,datafun韩宣宣、李瑶校稿
微信公众号:松果子聊数字化
本文由 @松果子聊数字化 原创发布于人人都是产品经理,未经许可,禁止转载。
题图来自Unsplash,基于CC0协议。
该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。
- 目前还没评论,等你发挥!