定制报告-个性化定制-按需专项定制研究报告
行业报告、薪酬报告
联系:400-6363-638
《艾瑞咨询:2024年中国工业大模型行业发展研究报告(43页).pdf》由会员分享,可在线阅读,更多相关《艾瑞咨询:2024年中国工业大模型行业发展研究报告(43页).pdf(43页珍藏版)》请在本站上搜索。
1、2024 iResearch Inc.中国工业大模型行业发展研究报告靡不有初,鲜克有终2摘要ABSTRACT大模型落地工业的探索中,还处于非常早期的阶段,供需双方都在尝试,当然,也有很多问题值得探讨与思考。1)大模型落地工业的竞争要素:基础能力、模型能力、模型应用是主要竞争点,且在不同行业发展阶段,其相对竞争优势有所不同,具体而言:短期主要看大模型技术,长期则主要看模型应用深度。2)大小模型间的关系:大小模型间不存在替代关系,是并存且是协同融合赋能的关系。3)工业大模型服务走向平台化:大模型落地工业的服务平台化特征以开始显现,且逐步形成垂直行业大模型+智能体+小模型+机理模型为主的平台化调用方
2、案。4)产业数据拉通助力工业大模型能力进化的同时,对大模型落地工业的广度、深度都大有裨益。工业大模型玩家与工业互联网平台玩家重合度高,其成长路径目前也表现出高度相似的特征,但目前市场产品、服务、落地场景都处于探索阶段,大家都在同一起跑线。就参与玩家而言,大模型技术底蕴、行业know how、运维资源等方面是各类玩家主要锚定的优势,且都是基于自身优势点,围绕具体应用场景摸索大模型在工业的落地性进行市场切入的。就具体产品形态而言,整体还较为稚嫩,目前大模型的能力更多还是依附于已有产品体系,鲜少有独立的产品出现,未来随着大模型流量入口特性明朗,有望独立成产品。就应用场景而言,当前大模型的不可解释性和
3、幻觉等特性,与工业“0容错”的特性相悖,因此当前大模型落地工业的探索更多聚焦于偏运营的、具有一定容错能力的场景(如知识问答、辅助设计/代码生成等),而生产制造等核心场景的探索需要静待模型进化以及CV大模型、多模态大模型的发展。就发展挑战而言,模型、数据、应用、商业变现是无法避开的话题,且各方相互影响,互利共赢。工业大模型伴随着大模型技术的发展,逐渐渗透至工业,处于萌芽阶段。就大模型的本质而言,是由一系列参数化的数学函数组成的计算系统,且是一个概率模型,其工作机制是基于概率和统计推动进行的,而非真正的理解和逻辑推理,因此,当前大模型具有不可解释性和幻觉不可消除等主要特征。就大模型落地工业的情况而
4、言,工业互联网、等工作已经让部分工业企业遍历了数据采集-数据存储-数据处理-数据分析-数据资产沉淀-数据应用的过程,部分场景已经准备好了向基础大模型投喂的“数据原料”,当经过简单数据处理、微调、适配后,可以解决部分垂直细分场景问题,具有落地可行性。就工业大模型的发展进度而言,工业大模型与工业互联网一样,都是要挖掘数据资产的价值,而数据准备的阶段性工作在工业互联网时期大部分已经准备好,故我们预计工业大模型的进程在技术不受限的前提下,可能会快于工业互联网。当然,工业大模型是以大模型技术为驱动,其进程快慢很大程度受限于大模型本身能力的进化。3目 录CONTENTS01背景篇02市场篇03思考篇大模型
5、落地工业具有可行性玩家纷纷涌现,但产品和服务形式尚在摸索中模型能力进化带来不确定,合作利大于弊04专家篇一线企业专家的项目实践经验分享及前瞻的思考4背景篇-基本概念厘清大模型落地工业具有可行性0152024.9 iResearch I当我们在说AI时,在说什么?AI本质就是一系列参数化的函数所组成的计算系统,并在一定的框架环境下,进行数据计算和参数调优的过程整体来看,AI通用技术框架主要分为基础层、技术层、应用层三层,不同公司,在整体框架上都保持一致,只不过针对基础层和技术层的部分内容划分,略有区别,但主旨就是为各类函数组成的计算系统提供环境、数据、算力等支撑,最终达到模型运行并输出结果的目的
6、。具体到不同层级的主要玩家而言:1)基础层和技术层的AI框架和算法/架构上,其玩家比较类似,主要是国内外领先的科技巨头、云厂等参与,如谷歌、Meta、微软、亚马逊、阿里、百度、华为等;2)应用层和技术层的工具组件、通用技术,其玩家更加百花齐放,针对行业、场景、功能等各角度发力,推动AI工具和应用的落地。当前,大部分大模型玩家的侧重点更多聚焦于通用技术的提升、应用的领域的拓展。来源:深度学习入门by斋藤康毅,艾瑞咨询研究院自主研究及绘制。AI的通用技术框架情况硬件设施金融、工业、教育等行业解决方案智慧城市、自动驾驶等领域或者场景解决方案基础层软件设施数据集技术层应用层AI框架算法/架构工具组件通
7、用技术B/G端解决方案C端产品及服务通用数据行业数据,包含内部数据整合、外部合规数据等操作系统数据库云计算平台计算资源,如CPU、GPU、NPU等存储资源网络资源传感器安全资源几点说明硬件类:智能汽车、机器人、XR等智能硬件产品软件类:ChatGPT、智能客服等软件应用大数据平台国外:TensorFlow(Google)、PyTorch(Meta)等国内:MindSpore(华为)、PaddlePaddle(百度)等机器学习,是核心,包含有监督、无监督、半监督学习等类别深度学习,包含CNN、RNN、GNN、Transformer等类别其他,如增强学习、强化学习、回归、分类等类别全流程开发工具、
8、可视化分析工具、安全可信组件、预训练模型应用工具、模型评估工具、云上任务提交工具、并行及优化组件等,目的是便捷AI能力开发通过机器学习、深度学习、NLP、计算机视觉、语音识别等算法的组合应用与优化,可以衍生一些相对通用的技术,如生成式AI、NLP大模型、CV大模型、多模态大模型等等本质AI框架:是AI领域的“操作系统”,AI算法的训练及应用等都是通过AI框架进行,主要提供模型训练和模型推理支撑能力。算法/架构:具体的运算函数,一般由大型公司、学术机构和研究所、开源社区或平台等提供。AI框架+算法:在AI框架的基础上,不同特性算法的组合和变体,在某些能力上相对更加强大,可称为不同的模型类别。如果
9、参数足够多,其推理、泛化等能力更加强,则可以称为大模型。大模型厂商主要服务内容:通用技术及相关工具组件。模型的本质是由一系列参数化的数学函数组成的计算系统。模型训练是不断调整参数及其权重的过程,部分可能需调整算法架构。输入层输出层中间层简易的深度学习架构62024.9 iResearch I大模型是什么?大模型的能力如何获取?大模型是从海量数据中学习并记住泛知识后,在域内数据+提示数据集的修正下,具备在某类具有相对更准确能力的计算系统,其本质是概率模型来源:Andrej Karpathy、张奇的演讲,艾瑞咨询研究院自主研究及绘制。大模型能力获取的流程概览据Andrej Karpathy所言,大
10、模型本质由巨大的参数文件+运行参数的代码文件两大核心组件构成。其中:1)参数文件是通过大量数据训练获得的,代表从数据中提取的有用信息和模式(可称为“知识”),其参数量与对知识的记忆能力,与数据量、数据按照不同说明进行曝光的次数有关。2)代码文件有点类似“大脑”,主要是指导参数文件进行推理和产出,其中,可根据域内数据、提示数据集等进行调参,不断提升模型的准确性。因此,总结来看,大模型能力获得主要有四步:1)针对大量数据进行预训练,让大模型学习并记住知识;2)明确大模型能力侧重点,即给一定高质量、针对性强的域内数据集微调,让大模型在某些能力更加突出;3)通过标注人员对大模型给出的答案进行排序,给予
11、大模型正向反馈;4)强化学习。以上,也说明大模型的能力不是只要参数量足够大就具备涌现能力,是需要逐项优化才逐步具备某些能力的。需要注意的是,大模型本质是一个概率模型,可从2个角度理解:1)具有不可解释性:虽然可以调参,但是并不知道这些参数在做什么,如何协同工作,表示的是什么意思;2)幻觉不可消除:模型的工作机制是基于概率和统计推断进行的,而非真正的理解和逻辑推理,且与预训练的数据量、曝光次数、微调数据量及数据的选择、奖励函数偏好等息息相关。预训练TB级别,来源广,包括通用数据(如书籍、论文、网页、新闻等)、开放数据集等监督微调奖励函数强化学习知识压缩和知识表示-让模型学习并记住知识类人对齐-目
12、标是提升模型的准确性大概操作范围比较广,以模型目的为主,几百-数百万,甚至上亿。微调侧重于通过较小但高质量、针对性强的数据集来进一步优化模型,使其更好适应特定应用场景不固定,主要依据应用场景和任务的复杂度,一般百万个任务用户指令范围比较广,几千-数亿不等,一般数十万条任务用户指令较为常见预训练大模型有监督微调大模型模型能力提升能力注入-模型能力确认,即主要让模型完成什么工作?操作目的最终结果情景学习域内数据+目标答案提示数据集,标注人员对答案质量进行排序模型应用72024.9 iResearch I大模型及其相关概念的关系是什么?AI是泛技术的统称,机器学习、深度学习是各类算法,大模型、生成式
13、AI等是对各类算法组合运用的能力的体现,而ChatGPT则是算法应用的具体产品。通常说的大模型是已经预训练完成的具有一定泛化能力的基础模型来源:艾瑞咨询研究院自主研究及绘制。大模型相关概念梳理各类算法算法的组合或者变体,即算法的应用融合算法应用的具体产品AI技术统称AI机器学习深度学习大模型生成式AILLMGPTChatGPT大模型和小模型对比具体应用产品,如ChatGPT、文心一言、通义千问、Kimi、CodeGeeX等算法能力体现,经过海量数据训练后,形成的具有大量参数规模的、具备一定通用、涌现能力的大模型,大模型又可分为基础大模型和领域/业务垂直大模型。具有不同功能的算法,不同算法可进行
14、自由组合,经过训练、调整后,可形成具有一定侧重功能的模型。模型根据参数量、泛化能力等不同,可以分为大模型、小模型。AIGC、生成式AI、ChatGPT等基础大模型(参数量大、泛化能力强)领域/业务垂直大模型加持海量数据算力微调预训练应用机器学习深度学习(transformer架构)从基础大模型到领域/业务垂直大模型的简单路径大模型小模型/传统AI能力算法均以机器学习和深度学习相关算法为主,但大模型通常采用transformer架构,尤其是处理NLP任务时;而小模型没有统一的架构,主要取决于任务需求、数据量等训练数据量高,避免过度拟合可以在较少数据上训练参数规模数亿到数千亿参数几千到数百万参数算
15、力需求高,需要高性能GPU/TPU和大量内存可在普通计算机上运行泛化能力相对较好,但可解释性相对低相对受限,但可解释性相对高目的:在已经训练好的基础大模型的基础上,结合具体应用场景的特点对其进行调整和优化,以适应特定的任务或特定领域,通常会形成领域/业务垂直大模型。内容:一般,主要聚焦于权重更新、神经网络层数调整、损失函数调整等方面。特点:具有训练数据需求少、参数更新有限、训练时间短等特点。针对微调的几点说明82024.9 iResearch I大模型在工业应用是否具有可行性?数据积累、数据资产沉淀等基础以具备,大模型落地工业领域成为可能大模型的本质是由一系列参数化的数学函数组成的计算系统,是
16、人工智能系统对知识的一种表示和处理方式,本身就具备“数据喂养认知构建”的“学习”能力。因此,在已经学习海量通用数据、具备一定泛化能力的基础模型的基础上,向其“喂养”特定行业/场景的数据及规则,经过定制开发、调整、训练、调优等操作后,该基础模型将获得特定行业/场景能力的“认知能力”,在一定程度上可称为特定行业/场景大模型。就工业领域而言,工业互联网、工业智能制造等工作,已经让部分工业领域企业遍历了数据采集-数据存储-数据处理-数据分析-数据资产沉淀-数据应用的过程,部分场景已经准备好了向基础大模型投喂的“数据原料”,当经过数据处理、适配、微调,甚至是训练后,逐步演进为工业大模型,可以解决部分垂直
17、细分场景问题,大模型落地工业成为可能。来源:企业访谈,2023年全球AI采用指数,IBM,艾瑞咨询研究院自主研究及绘制。大模型落地工业领域的可行性特定领域优化数据适配系统集成性能调优基础大模型(如NLP大模型、CV大模型、多模态大模型等)工业适配工业大模型落地应用研发设计生产制造经营管理安全服务工业物联网平台工业互联网平台工业数据智能平台工业AI平台工业视觉平台研发设计设备排产质检供应链及仓储物流RAG微调工业大模型数据沉淀知识图谱知识工程工业机理模型行业know how积累项目服务难点处理经验预训练数据采集数据处理数据分析工业APP软件硬件行业自动化、数字化、智能化(积累行业、场景等数据)工
18、业大模型的难点?-工业里面的数据通常不具备出现次数多的条件,且这些数据还要以多次不同的说法进行大量曝光。通常需要模型服务提供方基于自己积累的数据训练集去做一些调优或者优化,此时,行业积累就尤为重要。工业大模型通常需要的参数量大概是多少?-工业大模型进行应用时,参数量要求通常与应用场景、企业规模等有关,通常8-10亿左右是平衡点,企业基本上可以用了。是否存在万金油的大模型?-大目前来看,没有万金油的大模型,脱离场景/问题的大模型暂时不成立。但市场各供给方在追求通过Agent的组合方案去适应不同的场景需求。43%45%9%4%正在积极应用正在探索未应用也未探索不知道/不确定9市场篇-初期的产品和服
19、务02玩家涌现,但产品和服务形式尚在摸索中102024.9 iResearch I工业大模型主要玩家有谁?如何切入市场?厂商类型多样,覆盖软硬件厂商,基因不同所形成的优势各有侧重,但切入市场的角度类似,在市场竞争打法、客户选择、市场策略等方面趋同来源:艾瑞咨询研究院自主研究及绘制。数据连接、管理、分析能力强大,对特定场景的分析挖掘经验丰富有一定行业know how积淀,并积累部分数据,对大模型的能力理解相对深刻大模型技术积累深、资金雄厚、人才充足,品牌影响力强大多样化的客户资源和服务经验,交付灵活,运维资源强大阿里云、百度云等华为、浪潮、移动等中工互联、朗坤苏畅、达观数据、中控技术等研华科技、
20、寄云科技、雪浪云、蘑菇物联等智谱AI、创新奇智、思谋科技、梅卡曼德等互联网大厂ICT企业传统软件厂商数据及物联厂商AI厂商1-具有通用基础模型的厂商:以技术为切入,强调自身大模型 的 能 力,如 微 调 能 力、prompt工程能力等。2-不具有通用基础模型的厂商:多会引入多种通用基础大模型,他们主要强调自己工业领域的客户服务经验,主要分为2类:其一,以RAG服务为切入;其二,自身产品+大模型,为自身产品的性格、功能、效率等赋能,如质检、安全等厂商。基因代表企业优势主要切入点行业know how、工业机理积淀深厚,工业领域相关数据丰富,品牌影响力大卡奥斯、格创东智等制造业大厂根据基因不同可将工
21、业大模型厂商分为8类:1)互联网大厂、ICT企业、AI厂商,强调AI原生能力和基础大模型能力;2)传统软件厂商凸显客户服务经验、运营资源优势;3)制造大厂、机器人厂商彰显行业know how、行业数据、设备应用等优势;4)安全厂商侧重在企业全局运维中的安全保障。综合来看,虽然各家优势有异,但切入市场的策略相似,即:锚定自身优势点,围绕具体应用场景摸索大模型在工业的落地性,且目标都是有钱、技术底蕴、有意愿的头部客户。当前,对比国内外企业的市场切入思路,主要差异有二:1)在合作方上,国外企业具有资源顶端优势,强调从算力底层出发,构建算力-推理的能力地图,而国内企业则强调底层大模型的能力与丰富性;2
22、)在服务思路上,国外企业相对更强调将数据链路服务体系做深,而国内企业更强调各功能模块间的组合。对具体场景对设备的需求了解深,与大模型能力结合时相对更了解其应用范畴达闼机器人、拓斯达等机器人厂商安全服务经验丰富,能更好的从安全运维的角度思考系统安全问题天融信、启明星辰等安全厂商算力、网络能力、联网能力、整合集成能力强大国内外企业切入点对比两类打法客户选择:数字化程度高的、引入新技术意愿强的、有资金预算的大客户是供给方的共同选择,也是争相合作的对象,打造标杆案例是首选。一种选择市场策略:从具体应用场景出发,探索大模型+具体应用场景的落地是共性,市场整体更多聚焦于某个点的解决方案,尚未出现同一套解决
23、方案覆盖不同场景、不同行业的现象。一种策略非常重视人机交互方式、知识问答等基础能力围绕数据的服务关注辅助代码的能力1-合作方:多与微软/OpenAI、英伟达合作,重视算力能力+推理能力构建,如西门子、倍福、施耐德等2-服务思路:更多从数据采集出发,围绕数据价值挖掘提供服务,但是重视的是数据完整性的服务,即从数据收集-分析-应用的完美闭环,且重视IT和OT的结合,希望能将数据链路服务做深,如Sight Machine、SymphonyAI1-合作方:多与国内多家基础大模型厂商合作,如百度、智谱AI等2-服务思路:更多的是各能力模块服务平台方的聚合,涉及物联网平台、数据平台、AI平台、大模型厂商等
24、多方共性差异性-国外差异性-国内工业大模型主要玩家类型及市场切入点企业产品场景挑战112024.9 iResearch I工业大模型的产业价值流转情况如何?注释:1)每个类别企业并未详尽;2)企业排名不分先后。来源:2023年中国AIGC产业全景报告,艾瑞咨询研究院自主研究及绘制。上游服务方整体集中,且头部效应明显;中游市场参与玩家众,虽服务能力各有侧重,但结合行业know how/行业数据积累进行基础大模型微调、RAG是主要服务思路;下游市场需求广阔,但尚处于探索阶段2024年大模型落地工业领域的产业链及图谱智算中心AI框架AI开发平台AI芯片智能云服务企业自建智算中心城市智算中心AI基础数
25、据服务数据集向量数据库公共开源数据集高校数据集企业私有数据集政府数据集盘古通义文心Llama混元GPT星火MOSSChatGLM工业网络传感器工业安全算法基础数据基础基础大模型厂商模型服务其他算力基础大模型落地工业领域的服务层互联网大厂ICT企业数据及物联厂商安全厂商制造业大厂机器人厂商AI厂商传统软件厂商生产制造设备管理排产管理/优化质量检测机器人管理销售管理订单管理营销获客知识问答客户服务销售预测合同合规安全场景信息安全设备安全研发场景辅助设计/验证工业模拟/验证工艺流程优化产线布局优化供应链场景采购管理库存管理物料管理布局优化大模型落地工业领域的应用层上游中游下游智能服务器企业产品场景挑
26、战大模型工具服务AI Agents企业及智能体商店模型服务及AI开源社区122024.9 iResearch I工业大模型玩家将如何挣钱?定制化的综合解决方案是当前核心收费模式,更多收费模式可能需探索来源:2023年中国工业互联网平台行业研究报告,艾瑞咨询研究院自主研究及绘制。工业大模型企业盈利变现可能根据需求提供整体解决方案(如工艺优化、工业质检、智能集控等),统一进行报价一般还会包含咨询费用软硬件一体功能产品的销售费用,目前多集中在视觉监测设备、边缘盒子等方面目前主要收费方式补充收费方式大模型能力调用收费,如API调用等,可按调用次数、调用量收费,也可按年/月订阅套餐收费部分智能体调用及订
27、阅云资源订阅应用商店分发抽佣测试/认证/培训Prompt工程模型训练收费,如针对某些特定领域进行针对性模型训练积累探索期,尚待验证的变现方式大模型具有持续进化性,当前表现出来的能力还是只是冰山一角,其未来能力有非常强的想象力,对应的服务和潜在的收费模式也有非常强的不确定性新功能新场景开发可能带来新的变现可能0201040305综合解决方案服务收费软硬件一体产品收费功能订阅服务收费平台其他服务收费尚未可知的收费方式大模型落地于工业领域尚处于萌芽期,其产品形态、服务内容都还在逐步摸索中,其变现方式虽有一些相近服务或行业可以参考,整体不确定性非常高,但一切尝试也都有意义。工业大模型供给方常规的做法是
28、:与基础大模型厂商合作-测试大模型特点、性能-结合自身产品/能力进行微调-根据客户需求进行客制化服务。因此,目前相对比较确定的变现方式是类似于“保姆式”的针对某个场景/具体功能的综合解决方案服务收费。除了定制化的解决方案收费外,部门供给方也开始尝试通过软硬件一体产品进行补充收费。虽然一些基础大模型的厂商API调用是目前较为普遍的变现方式,但深入到工业大模型服务领域,API调用、智能体调用及分发抽佣等方式的变现还处于积累阶段,目前市场还需要验证。值得注意的是,大模型的能力具有很强的进化性,2024年9月OpenAI推出的最新的o1版本,表现出比较强的复杂推理能力,这又是扔工智能新水平的一个重要进
29、展。因此大模型未来的能力极限在哪里,我们尚未可知,大模型能为工业领域带来哪些类型的赋能和服务,同样也未知。正是这份未知,未来工业大模型的变现将存在诸多可能。企业产品场景挑战132024.9 iResearch I工业大模型玩家的成长路径为何?目前尚处于产品雏形期,探讨成长路径为时过早,但很大可能会借鉴工业互联网平台产品-项目-平台的成长路径来源:2023年中国工业互联网平台行业研究报告,艾瑞咨询研究院自主研究及绘制。工业大模型企业可能的成长路径情况工业大模型市场还处于非常初期的阶段,大模型能力更新迭代快,还有非常多尚未可知的潜力,故工业+大模型的应用可能也有无限想象空间。工业大模型的成长路径可
30、借鉴与参考工业互联网平台的,主要原因有2点:1)二者在客户定位、服务内容、服务目标等各方面的重合度比较高;2)当前阶段,工业大模型表现出来的能力,更像是在工业互联网平台的基础上,对数据信息价值的挖掘进一步深入和易用化,服务思路是一致的。但大模型的成长路径也具有极强的不确定性,因为:1)大模型能力具有进化性;2)工业大模型市场仍处于产品雏形期,很多能力仍然停留在产品设想与理论实验阶段,尚未进入真正的工业实践。因此目前急需解决的是产品-项目的积累与闭环链路构建,打牢基础后,项目-平台及生态才有机会逐步验证。工业互联网平台厂商具备核心平台能力具有成熟解决方案框架在某些软件、硬件产品能力非常突出在某些
31、应用场景的落地能力非常突出软硬一体产品产品项目平台及生态工业大模型厂商两点讨论基本覆盖了政府/国企项目、高校、园区等各个领域的客户部分企业在某些行业和场景进行深耕积极探索生态建设,逐步形成销售平台、撮合平台,并为同行业生态和产业链生态积极赋能,如金融贷款服务等产品形态、应用场景仍在探索RAG技术应用较多模型微调下,针对某个具体场景,通过自研、合作等方式,在逐步摸索并确定解决方案软硬一体产品有钱、有意识、有信息化基础的头部客户还在影响和渗透中积累项目服务经验,寻找落地可能性是当前重点,也是未来的长期重点只有非常少的企业有智能体应用商店,且品类较少生态理念尚未明确产品项目平台及生态工艺、方法、落地
32、等经验反馈工业大模型的平台化将是什么样的?-除了供大模型运转的基础底座能力外,可能出现自主研发+第三方上传的不同功能模块方案,通过模块方案组合+一定调整,可至少解决同类型企业、通过类型场景60%-70%左右的需求。工业大模型的进程会更快吗?-工业大模型本质还是围绕数据价值挖掘的工作,在易用性、自动化属性等方面更有优势。而工业互联网平台在很大程度上已经完成了大部分的数据准备工作,故工业大模型的发展进度有可能更快。VS工艺、方法、落地等经验反馈企业产品场景挑战142024.9 iResearch I大模型落地工业的产品服务架构是怎样的?来源:艾瑞咨询研究院自主研究及绘制。模型及服务是大模型落地工业
33、的核心,也是大部分工业大模型厂商对外赋能的基础2024年大模型落地工业领域的服务体系架构图模型应用基础底座AI芯片智算中心模型及服务预训练模型通用基础大模型模型服务算力基础智能服务器智能云服务数据基础数据集公共开源数据集企业私有数据集高校数据集政府数据集向量数据库AI基础数据服务AI相关服务通用AI架构AI框架AI开发平台垂直任务大模型行业垂直大模型汽车石化钢铁生物计算科学计算代码生成CV大模型NLP大模型多模态大模型主要提供开发套件(如语义理解、图像分割等)、工具组件(如预训练模型应用工具、联邦学习)等服务主要提供模型训练、推理、评估、调优、部署、压缩、调用等服务主要提供工业数据清洗/转换、
34、分析、扩充、标注等服务数据相关模型相关工具相关主要提供大模型相关的学习交流与实训社区、模型安全等服务主要提供智能体开发、智能体应用集成、分发等服务智能体相关其他研发设计生成制造产品、工艺、产线等设计、验证、优化经营管理安全运维生产排产、质检、设备、机器人、自动化等管理优化销售及售后、知识问答、智能客服等信息安全、生产安全等大模型落地工业领域的服务框架依然分为基础底座-模型及服务-模型应用三层。其中,模型及服务是核心,主要提供两大类型的服务:1)提供预训练模型,可供其他企业通过调用/部署,提供基础的大模型能力;2)提供预训练模型后服务,如辅助微调、提示工程、训练、压缩、优化等,可供模型能力进一步
35、适配与适用。当前,工业大模型市场的模型应用都是在大模型的基础能力+模型的适配与适用的基础上进行定制衍生的。提供模型能力的基础,吃技术资源积累与头部集中效应红利具体应用场景,如产品赋能、交互体验提升在预训练模型的基础上:1-进行微调、训练、压缩等处理,形成垂直应用;2-处理并优化模型输出的内容;提供训练好的模型,也可根据需求重新定制,是重资产服务一般由基础的通用大模型厂商提供提供模型应用服务的企业或多或少会提供部分模型服务的内容企业产品场景挑战152024.9 iResearch I大模型落地工业的应用思路有哪些?4种应用形式各有千秋,其中RAG、微调是目前较为普遍的用法目前大模型落地工业主要有
36、4种应用思路,分别是直接使用、RAG、结合函数调用、微调。其中,RAG结合向量数据库进行检索、微调是目前落地性相对最常见的思路。RAG的语料库都是比较贴近实际的工业生产运营的know how、流程、制度等信息,能为生成结果做验证,在一定程度上有利于纠正“幻觉”。目前安全、问答系统等场景用的比较多。微调则是会结合一些域内数据或者具有行业know how的提示数据集对模型进行额外训练,使模型能深入学习特定领域的知识,提升专业性和准确性。大模型落地工业应用的几种思路来源:顶层架构领域,艾瑞咨询研究院自主研究及绘制。数据测试准备用对话应用验证可行性是否要补充知识?要对接其他系统?值得尝试微调?交付RA
37、G函数调用用历史数据做微调大模型应用的技术路线简图应用思路1:纯粹prompt提示词法应用思路2:RAG(检索增强)应用思路3:主动提问与函数调用应用思路4:微调应用程序基础大模型PromptResponse应用程序Agent基础大模型向量数据库向量化RAG内部/外部APIPromptResponse函数调用微调应用程序Agent基础大模型向量数据库向量化RAG内部/外部APIPromptResponse函数调用应用程序Agent基础大模型PromptResponse函数调用特点:与大模型直接交互,可即时互动特点:多轮对话可理解用户需求,还可通过调用函数执行特定功能,如查询等内部/外部API特
38、点:结合向量数据库进行检索,生成优化特点:对预训练模型进行额外训练,使其能深入学习特定领域的知识,提升专业性和准确性目前工业领域较为常见的应用思路目前工业领域较为常见的应用思路企业产品场景挑战162024.9 iResearch I大模型落地工业的常见架构有哪些?大模型落地工业时有5种常见架构,没有最好,只有相对最优目前大模型落地工业主要有4种应用思路,每一种应用思路都可能有不同的架构去实现相应的结果或目的。目前,大模型落地工业时常见的架构有5种,不同架构各有特色。对于供给方或者需求方而言,不同架构没有绝对的优势,更多是根据不同需求,结合效果、性价比等考量后,做出的架构选择。大模型落地工业应用
39、时常见的几种架构来源:CSDN博主-musicml,艾瑞咨询研究院自主研究及绘制。企业产品场景挑战Prompt查询架构1:路由分发架构模式架构2:大模型代理架构模式架构3:基于缓存的微调架构模式架构4:面向目标的Agent架构模式架构5:智能体组合架构模式路由转发模块小模型A小模型B小模型C可识别的Prompt查询类型A可识别的Prompt查询类型B可识别的Prompt查询类型C特点:路由转发模块扮演着对输入Prompt进行分类的角色。如果Prompt查询是可以识别的,那会被分配适合的小模型进行处理,响应快、结果准确度高、成本低。如果Prompt查询不能识别,则由大模型处理。Prompt查询大
40、模型(任务规划和拆解)小模型A小模型B小模型C子任务A子任务B子任务C输出A输出B输出C最终答案特点:适合解决复杂问题,因为问题涉及不同方面的专业知识,每个专家负责处理一部分问题,最终汇聚成答案。初始的Prompt查询后续的Prompt查询大模型结果缓存最终答案特点:将缓存和微调引入大模型架构中,可以减轻成本高、推理速度慢以及幻觉等问题。通过缓存初始结果,能够在后续查询中迅速提供答案。积累足够数据时,微调层将启动,早期交互反馈会促使模型逐步完善成相对专业的私有大模型。Prompt查询大模型Planning规划Action执行Observation观测最终答案特点:Agent会基于大模型先做规划
41、,然后拆解成若干子任务,对每个子任务分别执行,同时对每一步的执行结果进行观测,若观测合格,则直接返回给用户最终答案,反之或执行出错,则重新规划。特点:通过使用各种自主代理框架和体系结构来开发每个Agent。不同Agent有专注的方向,如预测、预约查询、生成消息、更新数据库等,通过组合不同Agent模块来实现结果输出。该架构强调了灵活性,通过模块化 AI系统,能自我重新配置以优化任务性能。Prompt查询智能体选择器AgentAAgentBAgentC子任务A子任务B子任务C输出集成统一结果最终结果选择规则调整微调172024.9 iResearch I大模型落地工业的产品落地模式有哪些?大模型
42、落地工业时主要以软件为主,但具体产品形态还在摸索中目前大模型落地工业时的产品切入角度主要有5大类:基础底座、工具、软件服务、硬件产品、硬件赋能。1)基础底座与工具主要由一些基础模型厂商提供,具有较强的头部效应,未来随着大模型能力的提升,有助于赋能软件开发、测试等全流程,以及硬件端的具身智能。2)针对具体应用时,以一些工业互联网平台厂商推出为主,但各方尚在探索大模型与自身产品及服务的结合点,产品形态还较为稚嫩,多以基于通用大模型进行微调、RAG验证后形成自己的大模型,然后依附于已经存在的产品(如工业APP)上,单独形成具体应用产品的并不多。未来,随着大模型能力稳定性、准确性提升,大模型有望成为新
43、的流量入口,独立成一个新的产品的也并非不可能。来源:艾瑞咨询研究院自主研究及绘制。大模型落地工业的产品情况产品属性主要服务内容主要价值收费模式产品形态典型玩家未来畅想基础底座大模型技术框架服务基础大模型提供模型开发、训练环境、技术等提供已经预训练好的大模型云服务、模型API调用收费等软件调用,一般都会结合工业APP进行功能调用百度、阿里、腾讯、华为等模型能力提升,模型服务的生态越来越健全,工具链趋于完善,为软硬件赋能:1)软件端:赋能软件开发、测试、验证等;2)硬件端:应用场景敏捷调整、具身智能、端到端执行复杂任务等。通用数据趋于集中,但行业数据还是分散,未来政府主导的数据交易可能会让部门垂直
44、行业数据标准逐步走向流通。工具模型全流程开发模型优化、评估、压缩、增强、部署调用等模型安全数据管理模型开发等服务根据具体服务内容进行收费,如部署、精调、评估等具体应用软件服务基于通用大模型的能力,提供具体的大模型产品多轮对话、代码生成、图片生成等API调用收费项目定制服务收费百度、阿里、智谱AI、新华三等加强时序数据的处理,海量工业设备与过程数据得以利用,赋能生产制造等核心环节多模态能力创新与增强,从赋能经营管理软件逐步渗透到研发设计(如仿真验证等)、生产控制软件(如人机交互、生产数据分析等)基于通用大模型的能力,提供微调、RAG等,形成新的大模型服务产品知识问答、代码生成、工艺设计/优化、A
45、I检测、设备运检助手、AI客服等百度、格创东智、浪潮云洲、朗坤苏畅、天融信、创新奇智等硬件产品软硬件一体化产品大模型一体机硬件产品付费硬件产品卡奥斯、华为、科大讯飞、达观数据、智谱AI、开普云、思谋科技等硬件赋能成熟产品叠加大模型能力,如与机器人、scada、PLC、客户端产品等结合机器人控制指令更改、辅助编程等软件调用达闼机器人、ABB、倍福、西门子等企业产品场景挑战182024.9 iResearch I大模型落地工业的应用场景有哪些?偏运营的、有一定容错能力的场景是当前重点,生产制造等核心场景的探索需要静待模型进化以及CV大模型、多模态大模型的发展目前大模型落地工业主要表现为3大特征:1
46、)大模型无法保证输出的准确性,故当前有容错能力的场景是各家探索重点;2)大模型的应用无法脱离行业know how的加持,基本是都是通过微调或者RAG技术进行调整,故掌握着丰富工业数据、工业机理模型的企业在工业领域将更有优势;3)目前还是以分析和预测为主,决策还是非常初级的辅助决策,未来控制和应用决策能力的发展需要充分发挥时序数据(如设备、产线运转数据、监控数据等)、IT和OT数据相结合后的价值,故大模型能力进化与其他类型大模型的成熟变的非常迫切。注释:1)应用场景的梳理主要是按照工业核心流程展开;2)代表在该场景下,有相应的落地案例展示,且排名不分先后。来源:艾瑞咨询研究院自主研究及绘制。大模
47、型落地工业的主要应用场景总览产品、工艺、产线设计及验证研发设计订单及排产规划、采购&仓储物流生产制造管理质量管理设备管理机器人+自动化控制管理经营管理安全管理销售及售后财务其他信息安全+生产安全大模型落地工业的主要思路分类或识别经验知识推理决策类系统最优知识沉淀及管理-外观设计辅助-仿真优化-工艺流程优化-产线布局优化-排产调度规划优化-原料采购&产成品库存调度优化-物料路径优化-仿真优化-视觉检测增强-缺陷样本生成-质量关联分析-设备故障诊断-运行参数设置优化-设备建模、维修养护、配件管理助手-能耗排放优化-设备知识库建立-语音交互-机器人场景识别-场景应用包、PLC、SCADA等控制代码辅
48、助生成-市场营销辅助-智能客服-销售分析/预测-合同合规性检查-销售与产品培训-财务指标分析-风险交易预警-智能审核-财务报告辅助生成-智能搜索/知识问答-运营分析助手-报告辅助撰写-IT安全-DT安全-OT安全,如视觉安监-运维安全大模型落地工业的主要应用场景几点说明1)场景探索依托于大模型的特性展开:当前以大语言模型为主,生成式、相对强的泛化能力且存在结果不准是其本身特性,各玩家在探索应用落地时,无法避免。各家整体能力输出还是以辅助性为主,故偏运营(如销售、售后)、信息比较结构化/标准化的场景(如设备管理)领域是各家尝试重点,在工业领域,除了常规的智能客服、知识问答外,安全运维、设备管理是
49、各家推出的比较多的场景,除此之外,也有企业尝试赋能工艺流程优化、生产整个环节赋能。(详情见案例)2)应用价值需要行业know how的叠加:大模型的应用需要行业数据和工业语料的投喂,需要解析并内化工业专家“看不见的经验”,这些域内数据可对大模型的认知及输出能力进行纠偏,方能在一定程度上保证准确度。3)潜力场景值得期待:当前大模型应用时的能力侧重于分析和预测,决策与控制是将是下一步的重点,也是渗透核心工业场景的关键。未来随着模型能力进化与其他模型的成熟,赋能软件全流程开发测试、赋能硬件具身智能、赋能操作系统自我进化等场景都是非常值得期待的。企业产品场景挑战192024.9 iResearch I
50、工艺优化落地案例案例-卡奥斯来源:卡奥斯,艾瑞咨询研究院自主研究及绘制。卡奥斯天智工业大模型落地实践案例卡奥斯工业大模型服务思路开源模型厂商4300+专业机理模型库200+专家算法库卡奥斯基于1个数据底座+3大能力引擎+N个应用场景的整体架构为企业赋能,实现原始生产数据到到模型能力转化的闭环卡奥斯天智工业大模型工艺参数优化设备故障维修智能办公助手专属AI客服卡奥斯数字工业操作系统卡奥斯天智工业智能体应用平台研发设计生产制造办公经营客户服务需求背景落地场景:海尔天津洗衣机互联工厂(全球双灯塔:端到端+可持续)应用效果(注塑机):生产节拍5%-12%能耗6%-10%卡奥斯天智工业大模型为海尔天津洗
51、衣机工厂优化注塑工艺(海尔天津洗衣机的工厂注塑)应用成果传统:注塑工艺、参数复杂:温度、压力、成型周期、模具健康、能耗传统人工经验调试需求:人工主观经验升华为科学易用的工业智能底层物联上位机数据治理&模型应用运营管理PLC数据接口/服务/账号通讯点位SCADA数采盒子数采点位设备台账卡奥斯大数据卡奥斯大模型依据具体业务匹配、改善并探索更多算法,如模具设备匹配、最优工艺推荐等设备信息来源,如设备采购、新品导入等工厂间效率运营人机竞比大赛设备管理工艺模型应用产业运营集成至HWork台账匹配到资产内存实时数据同步KFK设备采集物联结合自身行业经验积累微调天智工业大模型架构:以大连接、大数据技术为核心
52、的卡奥斯数字工业操作系统为数据底座;以天智工业大模型、机理模型库、专家算法库为3大能力引擎;以为企业量身打造的天智工业智能体应用平台为核心赋能N个应用场景。企业产品场景挑战202024.9 iResearch I智能集控落地案例-格创东智OctopusGPT是章鱼大模型平台的基座,向上基于数据资产和行业理解提供文本、控制、检测等各类服务基于章鱼大模型平台的智能集控系统,实现了智能知识推荐、知识库系统,报表智能生成、告警内容深度分析、智能派工等核心功能,全面提升了工厂运维管理的智能化和高效化水平,为企业持续创造价值和赢得竞争优势。来源:格创东智,艾瑞咨询研究院自主研究及绘制。格创东智工业大模型赋
53、能智能集控落地案例格创东智-章鱼AI底座需求背景开源厂商成本:通过智能集控的优化调度和管理,运营成本降低了30%,包括人力成本、能源消耗以及维护成本。质量:告警溯源和分析使得故障预警更精准,故障处理时间缩短45%。效益:整体效益提升了5%。智能知识推荐和知识库系统的应用,还使得员工的工作 效 率 提 高 了60%。闭源厂商第三方集成矢量知识检索数据OctopusGPT 章鱼工业大模型行业垂直大模型Octopus X 章鱼智能中枢Octopus M 章鱼算法模型开发平台Octopus Z 章鱼集成平台格创东智章鱼大模型平台赋能某半导体企业实现智能集控应用成果难察问题,缺乏数据监控:生产过程缺乏核
54、心指标实时追踪监控。难找短板,业务数据散落:生产、设备、制程、质量等重点生产管理相关的业务模块数据散落,无法统一监控查找短板。告警滞后,异常处理缓慢:告警信息散落在多个系统、机台,未集中管控,处理不及时。难查违规,点检管理落后:过度依赖人员点检的方式管理违规行为,导致需要增加点检人力,然而即便如此,也经常难以发现违规人员的存在。难找文档,知识难以沉淀:事件处理没有形成资料、知识的沉淀,无法指导问题优化。源系统EDARPTERPMESWMSFDCEAP以某半导体的智能控制为例数据平台链接数据孤岛业务数据化数据资产化数据业务化大模型服务大模型智能体知识管家章鱼大模型平台智能控制AI DESK工单生
55、成报告生成知识问答技术咨询智能推荐AI战情中心访客大屏Chat BI监控大屏业务小屏AI 告警中心品管异常告警辅料异常告警设备异常告警人员异常告警大模型分析中心大模型TOP问题总结与分析异常告警溯源大模型智能派工中心自动派工方案推荐人员能力评价大模型知识库异常履历异常报告SOP行业知识/“黑话”通存管用格创东智章鱼大模型平台企业产品场景挑战212024.9 iResearch I待修车辆车辆维修人员大模型维修助手维修辅助落地案例-智谱智谱通过提示语工程-外挂实时库-微调-二次训练-预训练等流程推动大模型落地于汽车维修辅助,提升故障排查效率智谱GLM系列大模型赋能维修助手,一线的售后咨询人员,车
56、辆维修人员可以通过耳机+麦克+触屏的智能终端方式,实时与维修人员交互,提供需确认问题/处置方案/预诊断结论等。来源:智谱,艾瑞咨询研究院自主研究及绘制。智谱大模型赋能汽车维修辅助落地案例智谱AI大模型应用优化路径需求背景提示语工程售后接待维修(动态排故流程)单轮对话抽取达到业务人员80%的准确率多轮对话修正后可达到90%外挂实时库(RAG)微调二次训练智谱赋能汽车维修AI师傅的应用方案应用成果售后/维修工能力水平一致性希望从当前状态得到进一步提升。需要增强总部支持的“预诊断”功能,赋能维修工,统一积累经验知识。以汽车维修AI师傅为例以现有对话语料及手册为数据基础,通过All Tools构建以模
57、型为主不受流程限制的售后服务的Agent。未来展望核心流程车辆维修手册车辆排故手册历史维修案例车辆基本数据初诊:初诊计划+概率排序、过程引导、实时描述+计划修正、初检结论(可能故障+概率排序)。诊断:诊断方案+概率排序、过程引导、实时描述+计划修正、排查结论/故障定位。修理:修理计划、过程引导、实时描述+计划修正。验收:验收测试计划、过程引导、实时描述。报告:过程记录自动生成维修记录。智谱GLM系列大模型赋能维修助手,一线的售后咨询人员,车辆维修人员可以通过耳机+麦克+触屏的智能终端方式,实时与维修人员交互,提供需确认问题/处置方案/预诊断结论等。单轮对话实现多特征抽取,以及语义判断,并通过业
58、务多轮反问实现问题定位。大概思想技术难点主要步骤预训练企业产品场景挑战222024.9 iResearch I工业安监落地案例-中移上研来源:中移(上海)产业研究院,艾瑞咨询研究院自主研究及绘制。依托中移动智算能力及九天众擎基座大模型能力,构建“1个 基座大模型+1个工业大模型(含工具链平台)+N个应用场景”的“1+1+N”工业人工智能技术能力体系和应用生态系统中国移动九天工业大模型及AI应用体系架构N个L2行业场景应用网络存储算力工业安监智能体智慧工厂安防矿山安全生产化工园区安监1个L0 基座大模型基座大模型九天 众擎基座大模型九天 工业大模型工业视频/图像分析工业文本生成工业知识问答工业智
59、能体开发工业数据分析产业分析智能体工厂管理智能体设备运维智能体1个L1工业大模型(含工具链平台)研报信息提取产业信息归集产业报告生成智能路径导航智能设备分析智能报告生成设备知识管理智能派单智能总结工业多模态大模型工具链平台工业数据治理工业模型训推工业智能体开发安全保障企业产品场景挑战232024.9 iResearch I工业安监落地案例-中移上研来源:中移(上海)产业研究院,艾瑞咨询研究院自主研究及绘制。针对客户需要提升安全监管效率的需求,依托中移工业大模型,经过模型选型-训练共建-部署应用等流程完成工业安监落地,实现全方位、7*24小时视频违规分析,提升安全监管效率中移(上海)产业研究院九
60、天工业大模型落地于工业安监的案例工业安监产品介绍技术背景内蒙古鄂尔多斯文玉煤矿5G+工业安监标杆项目依托AI监管能力实现矿区安全巡查自动化,提升安全监管效率项目背景1.优化安全监控,精准度提升8%,漏检率降低5%,违规事件减少30%以上;2.减少人工巡检需求,人力成本降低50%,巡检成本减少30%;3.异常预警时长缩短90%,2秒内追溯异常问题,5秒内告警;4.减少安全问题造成的停产,生产效能提升5%-10%实现效果大致工程化实施流程依托中国移动自研工业大模型视频/图像分析、文本理解和知识问答能力,构建AI+工业安监产品核心功能AI增强安全感知自定义特征检索AI智能统计分析AI安监百事通AI主
61、动实时监测智能体综合调度AI安全作业巡查适用行业及场景矿山、石油化工、电力、装备制造等高危生产作业行业场景,针对关键生产点位工人安全操作和设备操作监管等核心诉求核心痛点模型选型训练共建部署应用应用场景资源采购业务形态数据评估资源评估环境搭建服务开通交付方案项目排期训练数据准备模型训练知识控掘+增强数据清洗+切块向量库建设+维护训练环境搭建无监督训练有监督训练人工反馈强化学习训练框架加速脱敏合规模型测评模型管理服务发布内容安全应用联调性能评测效果评测模型注册模型发布推理服务部署推理框架加速生产作业环境复杂,人力监控费时费力,安全问题漏报概率高,安全监管难度大企业产品场景挑战242024.9 iR
62、esearch I安全运营落地案例-天融信来源:天融信,艾瑞咨询研究院自主研究及绘制。以“双安融合”为基础,结合工业业务本身,致力于为客户提供“发现-判定-处置”的闭环服务融合工业安全大模型的工业安全运营服务体系工业安全大模型应用定位与目标定位不脱离工业业务本身信息安全与功能安全相结合减少模型幻觉,保证模型可用赋能服务场景威胁预测天问安全大模型基座产品及生态策略利用大模型的能力与人工相结合的方式梳理及分析数据之间的关联性,形成“发现-判定-处置”的闭环,进而形成知识库,生成的知识库反向为安全运营提供语料支持。三类主要应用场景如下:工业安全小模型大模型赋能工业安全运营服务目标降低人力与成本投入将
63、运营过程流程化,如资产管理、时间管理等大小模型协同并进,形成“知识+数据”闭环,共同赋能安全应用安全对话大模型安全代码大模型深度行为检测引擎异常操作识别引擎工艺逻辑校验引擎恶意软件分析引擎漏扫安全检测引擎智慧安全知识库工业基础知识业务系统知识工艺流程知识工业安全知识管理运营知识安全情报知识平台能力认知能力行动能力进化能力沟通能力推理能力决策能力协同威胁检测数据日志接口(本地数据接口)系统API接口(外部系统接口)告警数据日志数据工艺数据工业安全漏扫工业安全入侵工业态势感知知识管理安全运营安全风险推断、安全攻击预测、安全关联分析增强安全监控、安全策略优化、自动化安全响应专家经验共享、智能问答辅助
64、、智能响应辅助态势感知平台模型层应用层产品策略:平台按照原子化、模块化的思路去拆成各种小模块,方便响应客户需求生态策略:注重与产业链上下游深度合作,包括设计院、建设集成单位、工业生产环境中的应用设备单位(如控制方、自动化数通供应商)等,通过持续延展合作的广度与深度,扩大有效数据源事件监测分析协助追踪溯源信息抽取生成引导响应处置微调企业产品场景挑战252024.9 iResearch I安全运营落地案例-天融信天融信基于工业安全大模型的安全运营平台提供监控管理生产流程,智能优化安全策略,构建资产、威胁、脆弱性的安全风险运营管理闭环天融信基于项目业务特点与安全需求,聚焦安全事件深度治理与智能分析,
65、整合多源安全数据,利用工业安全大模型构建安全运营管理平台,通过AI模型实时监测工业控制领域的安全威胁,预测潜在风险并智能制定应对策略。同时,通过安全策略引擎驱动决策辅助,结合安全知识与威胁情报进一步优化告警降噪,不断加强通报预警与事件处置的管理,大大提升安全运营效率,保障生产业务的连续性、稳定性及安全性。来源:天融信,艾瑞咨询研究院自主研究及绘制。某电力装备制造集团安全风险运营管理案例服务流程需求背景基础调研天融信安全大模型赋能某电力装备制造企业实现安全风险运营管理闭环预期成果设计方案二次调研画模型判断可行性出具整体解决方案,包含方案落地的风险评估等验证方案的合理性+结合客户组织管理制度小模型
66、了解运转机制+大模型学习+联合客户写语料上线及监测前期减少幻觉+长期监测与优化集团下属生产制造工厂分布在不同省市地区,虽已打通了生产各环节数据的融合汇聚,但仍存在以下难点:复杂异构的网络接入设备自身漏洞无法修复勒索病毒防护机制不足网络安全监测安全风险评估风险管理威胁识别威胁建模分析威胁管理资产分类分级资产监控优化资产管理安全知识库数据采集汇聚数据存储数据管理数据共享关联分析数据分析行为分析深度分析智能分析数据治理基于大模型的工业安全运营平台工业基础知识业务系统知识工艺流程知识工业安全知识管理运营知识安全情报知识协同威胁检测事件监测分析协助追踪溯源引导响应处置AI人机交互信息抽取生成辅助研判运营
67、基础数据平台 智能检测引擎 行为基线建模 主动防御模型 未知威胁监测智能防御检测ERP系统基础数据平台 智能威胁分析 智能告警降噪 威胁知识图谱 智能威胁研判智能威胁分析数据管理系统基础数据平台 安全告警解读 安全决策辅助 安全策略生成 安全处置建议智能响应处置AI-工业防火墙AI-工业网闸AI-工业监测审计 AI-工业主机卫士 AI-工业日志审计AI-工业入侵检测AI-工业漏洞扫描AI-工业安全管理工艺点表模型工艺逻辑模型通用威胁模型行为分析模型工业威胁模型安全编排模型以某电力装备制造企业为例企业产品场景挑战262024.9 iResearch I大模型落地的主要挑战有哪些?模型本身有缺陷、
68、数据准备不足、应用不够深入等是当前遇到的主要挑战,且各方相互影响大模型落地工业的主要挑战来源:企业访谈,艾瑞咨询研究院自主研究及绘制。大模型落地工业的挑战主要聚焦于模型、数据、应用、商业变现几方面。针对模型:其根本是模型本身的问题,即存在幻觉、不可解释性、成本高等问题。针对数据:更多是数据共享性、数据质量等问题。针对落地应用:则关乎决策成本和应用深度等问题。针对商业化:则与前面三大挑战息息相关,即模型与数据相互促进,模型进步将推动应用落地,应用的推进能带来更好的商业化变现。模型数据应用生态+商业 化可靠性问题:大模型的幻觉问题不可忽视,这有悖于工业场景容错率低的问题可解释性问题:当前是基于概率
69、和统计推断生成的,而不是明确的因果关系,具有不可解释的问题实时性问题:目前大模型还不能利用工业的时序数据,无法快速响应生产过程中的变化成本问题:私有化部署成本高,动辄百万级别起步,企业难以承受中文语料问题:中文语序灵活、语义内容复杂,且偏重语境,目前中文标注语料相对欠缺模型相关生态和商业化相关数据相关落地应用相关生态方面:1)目前处于需求市场主导合作的阶段,供需合作推进相对难;2)供给市场整体解决方案尚未明晰,生态伙伴网络尚未建立商业化方面:定制化为主,其他变现可能还在萌芽数据数量问题:1)企业数字化程度参差不齐,很多数据没有采集;2)行业内数据开放共享机制尚未建立,数据共建困难,工业语料匮乏
70、;3)时序数据尚未得到有效利用数据质量问题:1)工业数据复杂多样,关联性强,生产/设备/环境等数据的准确性、完整性不足;2)工业数据标注需要咨询专业人士帮助,解析“暗数据”的实质,耗时又费力数据安全问题:若要深入到核心应用环节,数据往往涉及企业核心竞争力,安全性和合规性要求高ROI:企业需要明确可量化的评估方案,这与当前大模型应用很难评估量化价值相悖,客户决策成本高应用场景:1)目前还是以浅层的工业知识问答为主,工业执行应用层面尚未渗透;2)往往存在客户数据量小但结果要求高的悖论企业产品场景挑战27思考篇-持进化思想看待行业03模型能力进化带来不确定,合作利大于弊282024.9 iResea
71、rch I思考1-大模型落地工业的竞争要素有哪些?基础能力、模型能力、模型应用是主要竞争点:短期看,具有模型技术优势的企业占优,长期看,则是模型应用更深的企业有望后来居上大模型落地工业服务的核心竞争要素来源:企业访谈,艾瑞咨询研究院自主研究及绘制。大模型落地工业,本质上还是以能解决客户需求为导向。从需求方角度看,客户主要关心两点:结果准确性+服务于业务。因此,对于供给方而言,模型技术与业务理解缺一不可,只不过具有不同基因的企业,在基础能力、模型能力、模型应用这三方面所具备的优势不同,但这三方面是大模型落地的主要竞争要素,且不同发展阶段其相对优势也有所不同。具体而言:从短期来看,工业大模型行业是
72、大模型技术发展带来的,以模型技术推动行业发展为主,此时,具有技术优势的企业将占领先机;从长远来看,技术本身是为行业服务的,故具有行业know how积累的企业反而能推动行业走的更远,其相对优势将会更加明显。大模型服务厂商的核心竞争要素大模型落地工业时的主要评价维度具有什么特性的团队将相对更有优势?大模型本身对工业知识的覆盖,,即是否与业务有所结合大模型的推理能力、多模态能力情况输出结果的准确性服务过程中对数据的利用和积累产品或功能是否有模块化设计思路算力:是否有进行生态合作,是否有稳定的高端芯片供应渠道算法:是否有相关技术团队数据-重点是工业语料的生态:数据广度-公开资料整合为主:如行业标准、
73、企业建设标准等相关数据,与数据交易所合作等数据厚度-自身积累为主:通过自身实践、项目服务等积累的行业know how,如工业机理模型、小模型等基础能力模型能力通用能力:理解、理解、生成、编程、学习、推理等能力服务服务:提供模型服务相关的工具产品,并逐步体系化多模态能力时序数据处理能力模型应用模型易用性:配置简便、生态适配(如与客户企业内部权限做无缝对接)、与已有产品的可集成性、API调用的精确性场景应用情况:场景广度:研产供销服等各个环节的覆盖场景深度:基础的知识问答、辅助设计生成等功能,还是涉及到核心的环节,如工艺优化、设备管理等环节突破多模态、时序数据等限制推理能力提升,且能做辅助决策甚至
74、是应用决策能够进行半自动、自动化微调技术层面数据角度:有大量行业 know how、行业机理模型、行业小模型等积累业务角度:客户服务经验多,对行业业务流程、业务价值流转的理解深,产品和服务更贴合客户需求现阶段实际是技术+行业know how的结合,市场的发展更多还是大模型技术发展驱动的,因此:如果是从短期看,具有技术优势的企业可能会短暂占领先机;从长远看,具备行业know how积累的企业有望后来居上。大模型落地工业,本质上还是以能解决客户需求为导向,故大模型技术+业务理解缺一不可。技术和行业未来的竞争优势点可拆解为以下几个方向:行业层面推动模型应用落地促进应用场景探索292024.9 iRe
75、search I思考2-工业需要的是大模型还是小模型?工业大模型与工业专用小模型并存,且是协同融合赋能工业应用的关系大小模型融合赋能于工业应用来源:企业访谈,艾瑞咨询研究院自主研究及绘制。大小模型优劣势对比通过构建庞大的参数体系来深入理解显示世界的复杂关系泛化能力强大模型小模型优势不足大小模型在工业的应用特点通过学习输入和输出之间的关系,进行判断、分析和预测成本低、训练速度快、预测结果相对准确数据量需求大对算力有要求,成本高有幻觉,且具有不可解释性训练出来的模型适用范围有限,通常模型A适合于A领域,模型B更适合B领域,通用性不高。新场景通常需要走一遍“数据收集-标注-训练-部署-应用”等一些列
76、流程当前更适合创造类的工业场景,或者一些需要复杂计算的场景创造类场景:主要依托于强大的内容生成能力,如数据/图片/文案/报告等生成、知识问答/搜索等复杂计算场景:主要利用捕捉并模拟多个系统/流程/要素之间的复杂关系,如汽车模拟碰撞测试、材料性能预测等已经有深厚的应用基础和经验积累,在生产过程中均有应用小样本数据:能够基于有限数据支撑精准的判别和决策对准确性和稳定性要求高的场景:能够针对具体场景进行精细化的调整和优化大小模型的相互影响大模型促进小模型性能提升:1)辅助语料生成:通过大模型生成的数据、图片等信息,可以助力小模型训练,进而提升小模型的性能和鲁棒性2)知识转移/转移:知识蒸馏促进了从大
77、模型到小模型的知识转移,增强了小模型的推理能力3)辅助调用:大模型通过Agent等方式调用小模型,可负责全局的调度与决策,而小模型可负责具体执行和控制小模型促进大模型的应用:主要利用小模型归纳总结业务/场景运转原理,预判大模型方案的可行性在进行工业应用时,大小模型各有所长,其能力都不可忽视,当前也不存在谁替代谁的情况。大模型落地工业应用时,主要依托于强大的生成能力和针对复杂信息的捕捉与构建能力,因此在知识问答、文本/图片生成等以创造见长的场景应用比较多。而小模型则凭借高性价比、预测结果相对准确等优势,在工业质检、设备维护等场景高度成熟。整体来看,大小模型融合赋能工业应用是必然。原因主要有二:其
78、一,大模型除了能有效促进小模型推理能力、鲁棒性性能提升外,还能通过调用的形式充分利用小模型,进一步发挥小模型应用的敏捷性;其二,通过小模型归纳总结业务/场景的运转原理后,可帮助供给方预判针对项目设计的大模型行动方案的可行性,进而降低项目时间和金钱成本。302024.9 iResearch I思考3-工业大模型的服务将会走向平台化?大模型落地工业的服务平台化特征以开始显现,且逐步形成垂直行业大模型+智能体+小模型+机理模型为主的平台化调用方案工业大模型的落地服务将走向平台化来源:企业访谈,艾瑞咨询研究院自主研究及绘制。大模型虽然在一定程度上具有泛化能力,但具体到应用时,需要进行微调等操作,其具有
79、很强的定制属性,如何减少重复性工作,甚至减少定制化是各供给方共同探讨的命题。而行业大模型+智能体+小模型+机理模型为主的平台化调用方案似乎成为大部分企业的共同选择。但有两点需要注意:1)平台化强调知识沉淀、工具等调用的便捷性,而不拘泥于存储形式/路径;2)大模型工业应用时,其演进具有一定阶段性,基本遵从场景-垂直细分行业-工业领域的路径。场景化随着工业大模型的逐渐推进,逐步形成并填补垂直细分行业的各个应用场景,形成垂直细分行业的行业大模型,如汽车、家电、化工、新能源等垂直行业化平台化工业领域化产品、工艺、产线设计及验证研发设计订单及排产规划、采购&仓储物流生产制造管理质量管理设备管理机器人+自
80、动话控制管理经营管理安全管理销售及售后财务其他信息安全+生产安全人力各垂直细分的行业大模型各垂直细分行业的机理模型各垂直细分行业的小模型各垂直细分行业的知识图谱注:平台化的内涵强调调用的便捷性,并不意味着所有的内容都在一个平台/服务器/数据库上应用商店的品类趋于丰富,除了工业互联平台就有的常规的机理模型、部分场景应用SaaS外,部门企业已经已经开始出现智能体应用,比如百度、腾讯、浪潮云洲等市场玩家开始逐步构建自己的应用生态,除了开发者生态、底层基础设施生态外,还重视数据生态,即关注行业语料的丰富性,如卡奥斯市场玩家开始有意识的关注标准化,除了开发智能体应用外,在服务能力上会进行结构,充分考虑模
81、块化构建,如卡奥斯、天融信平台化的某些特征开始显性未来,工业领域,可能会逐渐形成垂直行业大模型+智能体+小模型+机理模型为主的方案,其好处主要有二:1)减少定制化:通过智能体+小模型等组合的方案,再加以修正,可以敏捷满足不同场景需求,在一定程度上减少定制化,提升盈利能力2)提升智能协同能力:智能体具有一定的感知、调度、编排和决策能力,能编排各类智能体的workflow,还能在workflow中关联各类工具/应用,高效完成任务目标312024.9 iResearch I思考4-数据拉通对大模型落地工业的影响?产业数据拉通,有利于产业数据资产化,助力工业大模型能力进化的同时,对大模型落地工业的广度
82、、深度都大有裨益产业数据拉通对大模型落地工业的影响来源:2023年中国制造业数字化转型落地实践报告,企业访谈,艾瑞咨询研究院自主研究及绘制。数据成为资产的共识逐步形成,但如何安全规范的集成并使用数据是当前亟待研究并解决的问题。对于工业而言,企业数据往往关系企业核心机密,很难共享,因此数据拉通的思想主要聚焦于两点:1)分离出远离企业核心机密的数据,助力对区域/产业/行业数据链体系化、资产化的形成,如行业产品标准、物流等数据;2)构筑可信赖的第三方数据交易+数据交互平台,促成供需双方基于某种共同利益/价值,让数据进行流转,如关键设备供需双方数据交互,共同推动设备性能提升。未来,随着产业数据的拉通,
83、工业领域将有望积累更多有效的工业语料,助力工业大模型学习与训练,更好赋能工业场景。中游-工业企业,以单一企业为例上游-国内&海外产品生命周期设备链供应链生产链研发设计生产制造营销销售售后支持更新升级报废退市车间/工厂1车间/工厂2车间/工厂3车间/工厂n行业1供应商1供应商n行业n供应商1供应商n下游-国内&海外行业1客户1客户n行业2客户1客户n低端制造向东南亚转移,高端制造业回流欧美海外业务部分产品,如协作机器人出海区域1、区域2区域n仓储物流价值流向及覆盖范围出海市场企业内部数据IT数据OT数据工程数据产业相关数据企业区域数据(含国内外)、产业数据、行业数据、供应链数据、少量行业共识数据
84、(如行业通用规范标准等)等,一般多由政府主导、产业链主企业推动企业私域数据,如质检数据库、仿真数据库、工艺数据库、运维数据库等积极响应产业标准,授权共享部分离企业核心机密较远的数据,如产业&行业通用规范标准数据、仓储物流等数据可完成数据汇聚、部分数据治理等工作可完成数据汇聚、部分数据治理等工作,让数据资产化大模型能力提升:数据本身的可信、可溯源,使得有效的工业语料的数量、广度、深度都可能增加,推动大模型对工业领域的认知提升,其能力与应用场景的匹配度、结果准确度将有所改善产品及服务体系的可探索性提升:随着大模型能力提升,供给方可拓展服务内容的广度和深度。且随着项目的积累,其产品服务体系将逐渐明朗
85、,将有助于供给市场生态网络的形成。供给端市场需求端市场企业经营赋能:产品优化、预测维护、订单/销量预测等产业&区域发展赋能:产业结构优化、产业价值重构等各数据交易中心产业标准企业建设标准可完成数据汇聚、部分数据治理等工作,让数据资产化数据交易、数据交互32附录篇-各家观点及鸣谢Inspiration04332024.9 iResearch I来源:卡奥斯,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声 卡奥斯客户服务卡奥斯客户服务思路:尽可能降低客户使用大模型的成本思路:尽可能降低客户使用大模型的成本 前前瞻趋势思考瞻趋势思考卡奥斯总结过往客户服务的共性能力后,主要做了3
86、件事情:在模型使用界面上,持续优化、标准化,并在生态上做了适配,卡奥斯提供了web端,能与企业内部权限做无缝对接、能与卡奥斯平台上的智能体能力做对接;对接企业已有办公工具:卡奥斯对接了钉钉、飞书、企微等已经有的办公工具,与企业内部的办公环节就可以无缝集成;中小企业的场景需求相对聚焦,卡奥斯提供一体机产品。面向客户服务时,卡奥斯做了两个端的服务:客户-研发人员:企业的IT人员可在平台上开发自己的智能体,具备一定可扩展性。客户-应用端:可直接使用IT人员开发出来的智能体。大模型+多个智能体的智能平台是企业所需要的:现阶段,大模型落地工业更多是技术+行业know how的结合,更多的是强化企业自身的
87、产品,给行业带来的变化,可能是点状的变化,还没有面的变化。当行业所有的产品都集成了大模型后,或者都被大模型集成以后,整个行业可能会出现人、软件、设备间交互方式等发生变化。未来,还是需要一个大的以大模型为核心的平台,可以覆盖面的需求。基于大模型形成行业垂直场景方案/工具,推动行业智能化:在每个行业中,根据行业自身特点,结合大模型,形成专业的工具,让研发设计、生产制造越来越智能化。大模型+智能体快速组合工业各领域/场景解决方案:基于场景、行业去通过大模型改造后,将逐渐形成一个有各类大模型、各类工具的生态,能将工业领域所有的服务性的企业都整合到生态中,可以很快捷衍生出基于大模型做智能化改造或者转型的
88、整体方案。秦承刚秦承刚卡奥斯工业智能研究院院长342024.9 iResearch I来源:格创东智,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声 市场服务主要难点市场服务主要难点 前瞻趋势前瞻趋势思考思考1、数据问题:尽管工业大模型对数据量的需求不如基础模型那般庞大,但为了构建一个可商用的行业大模型,我们仍需整合整个行业大量的背景知识和业务数据。然而,我们面临着一些现实挑战:一是训练数据集往往都是小样本数据,单一企业也难以单独覆盖全面的行业数据,而且存在数据权限等数据安全问题;二是数据准备度不足,大量数据尚未经过有效的治理,质量不尽如人意。2、ROI问题:虽然大模型应
89、用技术的门槛在不断降低,但大模型应用的业务价值依然难以量化。对于那些不希望公开数据的客户,我们只能本地部署大模型,那么昂贵的AI基础设施势必导致前期的投入巨大,短期内也难以看到明显的业务效益的话,大多数应用项目过不了ROI这关。1、大模型对市场的影响:大模型技术和其他新兴的信息技术(如前期的大数据)一样,从落地应用探索期到成熟期,我认为基本上是一致的,真正有研发投入且能持续有效地把技术应用落地解决好客户问题的企业将在市场竞争中胜出。2、市场趋势:大模型将不断进化与企业的各种数据做紧密结合:一方面,业务领域智能知识库和实时智能检测等方向将会加快发展;另一方面,大模型将会深入到工业智能里面的核心生
90、产制造环节,如智能调度机器人/智能排程、AI+BI实时决策等场景会逐步落地。模型的可信度越来越高:大模型的自我进化、自学习能力会越来越强,在自学过程中,它可能动态的提供一些推理能力和解释能力,最后它的可解释性和可信度可能会越来越高,逐步赢得B端市场的信赖。陈高平陈高平格创东智CIO352024.9 iResearch I来源:天融信,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声 前瞻趋势思考前瞻趋势思考 给从事大模型安全服务的建议给从事大模型安全服务的建议输出能力:垂域安全模型能够提高安全处置的辅助决策,甚至是安全策略应用决策。过去依靠自动化响应+人工研判的方式处置安全
91、问题,未来,大模型可以完成全自动化辅助决策,甚至代替人工研判,直接做出安全策略应用执行。输入能力:大模型在安全应用中需要考虑如何将安全威胁评估与风险预判结合,形成综合性的解析能力,通过输出的结果集作为风险管理流程化、处置自动化的输入,代替原本人为判定的输入方式。预测性的统计分析能力:大模型可以代替人工完成复杂繁琐的统计分析工作。统计分析是基于原始数据,目前,该种统计分析已经成熟。未来,大模型将基于海量的业务数据、安全数据、外部威胁情报数据进行整合,形成预测性的统计分析应用。安全建设阶段,能否在行业场景具有落地化能力至关重要,如果单从安全视角出发,而放弃业务的本质因素,将难以形成安全能力的有效应
92、用,与安全建设的初衷背道而驰。垂域安全大模型可以充分考虑将不同安全能力进行模块化、原子化,全面满足客户需求,帮助企业降低成本。大模型应结合工业机理模型赋能于行业应用,将行业知识积累到本地,细化内容层面,才可以在某个特定的细分垂域中更加贴合用户需求,同时要注重对客户服务积累,才能构筑竞争壁垒。大模型落地服务的难点大模型落地服务的难点减少幻觉工作繁琐:安全垂域模型依赖于大规模的训练数据,然而企业往往缺乏与外部知识源的整合,导致在需要特定领域安全知识时产生幻觉,在此过程企业需长期标注与对齐模型的训练数据,保证数据高质量,从而避免模型输出安全知识不准确。需要供需双方共同主导项目:企业用户需要将自身涉足
93、行业领域进行know-how知识化,便于推进安全运营建设。马霄马霄天融信科技集团助理总裁362024.9 iResearch I来源:中移(上海)产业研究院,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声 工业大模型落地的难点思考工业大模型落地的难点思考数据挑战:工业数据分散在不同系统中,存在数据孤岛问题,且数据的质量和完整性不足,导致大模型训练效果受限。算力限制:算力需求大,而高性能算力成本高且可能难以获得,限制了模型的训练和部署。技术泛化性:工业领域细分行业众多,应用场景复杂多变,大模型需要具备较强的泛化能力以适应不同的工业环境和需求。专业知识缺乏:工业大模型的开发和
94、应用需要深入理解行业知识和技术,目前缺乏既懂AI技术又熟悉工业领域的复合型人才。成本和投资回报:工业大模型的研发、部署和维护需要大量资金投入,而短期内可能难以看到明显的投资回报,影响企业的投资决策。工业大模型市场服务难点总结工业大模型市场服务难点总结客户私有化需求高:客户出于安全考虑,往往希望模型能部署在自己的私有云或本地环境中。解决思路:提供定制化的私有化部署方案,确保数据安全和隐私保护;与客户合作,建立数据共享和保密机制。对时延要求高,推理速度快:工业场景中的自动化生产线,对模型推理速度有极高的要求。解决思路:优化模型结构,采用轻量化模型设计;使用高性能计算硬件,如GPU或FPGA;实施模
95、型压缩和加速技术。幻觉容忍度低:在工业应用中,对模型的准确性和可靠性要求极高。解决思路:通过高质量数据的收集和清洗,提高模型训练的质量;采用多模型融合技术,提高预测的准确性;实施严格的模型测试和验证流程。工业行业门类多、应用五花八门:不同行业和应用场景对模型的需求差异大,难以一概而论。解决思路:开发模块化和可配置的模型架构,以适应不同行业的需求;与行业专家合作,深入理解各行业特点,提供定制化解决方案。工业样本难获取:高质量的标注数据,限制了模型的训练和优化。解决思路:利用迁移学习,将在大规模数据集上预训练的大模型应用到特定工业场景;开发小模型,专门针对数据稀缺的工业应用,通过少量数据实现快速部
96、署和迭代。周威周威中移(上海)产业研究院,工业能源产品部,支部书记、总经理372024.9 iResearch I来源:上海电力设计院有限公司,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声 生产经营过程中遇到的主要难点生产经营过程中遇到的主要难点 工业大模型落地的主要难点思考工业大模型落地的主要难点思考日常管理方面:内部众多的规章制度需要员工耗费大量时间精力学习,大模型的出现,让困难出现了转机,通过大模型对于文本处理方面强大的能力,搭建“办公助手”,为员工提供问答式流程辅助、提升日常工作效率。设计业务方面:电力设计作为高度知识密集型工作,对于人员的有较高的要求,不同工龄
97、、行业背景的人员在能力方面存在较大差异,如何将院内专家的经验性知识以及过往成功设计案例、图纸等形成知识库,进而通过大模型,搭建“专家型数字员工”,是我们下一步想要进一步研究的方向在总承包业务方面:院内承接过大量总承包项目,总承包项目中设计阶段与实际施工过程中发生的差异,如工程造价等,对于公司而言是非常宝贵的数据,如何通过大模型将这些数据用起来,指导院内新项目的建设至关重要,这也是我们的研究方向之一。数据安全和隐私方面:电力行业涉及大量敏感数据,数据安全和隐私保护是必须考虑的重要因素。如何在保证数据安全的前提下,有效利用数据训练大模型是一个挑战。模型的泛化能力方面:电力行业具有高度专业化和复杂性
98、,大模型需要具备良好的泛化能力,以适应不同的应用场景和需求。法规和标准方面:电力行业受到严格的法规和行业标准约束,大模型的应用需要符合这些规定,可能需要时间和努力来适应。人才培养和技能升级方面:应用大模型需要相应的专业知识和技能,电力行业需要培养或引进具备相关能力的人才。叶军叶军上海电力设计院有限公司 副总经理 总工程师 工业大模型应用展望工业大模型应用展望大模型在工业领域的应用正朝着集成化、自动化、个性化定制、供应链优化、能源管理、智能质量控制等方向发展。它们通过预测性维护、增强现实集成、跨领域知识迁移等手段,提高生产效率和产品质量,同时促进可持续发展。随着技术进步,大模型还将与边缘计算结合
99、,实现更快速的数据处理,同时注重数据安全和法规适应,以确保技术的健康发展。382024.9 iResearch I来源:通答AI,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声 通答通答AIAI大模型在工业领域的应用方向情况大模型在工业领域的应用方向情况1、主要服务内容微调:项目不多,主要是集中在设备销售场景,结合设备参数+企业设备话术展开。RAG:基于RAG做知识问答是当前主要方向。2、大模型落地过程中主要难点:主要是数据准备的问题数据集成问题:工业企业部门多,数据零散分布在各个部门,在项目执行过程中,将数据整理汇总起来,在企业内部有一定门槛,且会花很长实践。数据采集问
100、题:若是需要的一些数据,企业没有收集,则会面临“企业是否愿意改造?ROI是什么?”等问题,影响最终决策。对下一步大模型落地工业场景的重点的看法对下一步大模型落地工业场景的重点的看法工业大模型+小模型相融合:底层可能会有一个比较通用的,由行业组织协会牵头做的几类或者大类的通用的工业大模型,上层有很多小模型,比如之前说的预测维护、质检等小模型,可以实现小模型的多种组合。潜在机会点:对于大部分做应用的企业,可能机会更多的是做小模型。因为国家或者协会会去做引导,不会让我们重复造轮子,进而减少投入,最终期望形成合力。对新进入者的建议对新进入者的建议技术积累:要考虑技术积累,因为直接关系到客户体验深入业务
101、:尽量要深入到行业里面去,要对行业的业务有非常清晰的认识,才能知道大模型怎么去跟他做结合,才能满足客户需求。唐定唐定通答AI高级产品经理392024.9 iResearch I来源:智谱,艾瑞咨询研究院自主研究及绘制。iResearch 工业大模型专家之声-智谱相关专家 智谱针对大智谱针对大模型在工业领域的应用模型在工业领域的应用方向的思考方向的思考可以从任务或者模型的角度+生产制造流程的环节这两个角度去理解大模型在工业领域的应用场景,整体可以分为:识别类的任务,用的比较多的技术是多模态大模型。优化任务,可能用知识图谱+大模型结合,当然会加一些垂直领域,就像之前的机器学习的方式去做一些相关的工
102、作。辅助决策任务:这个是基于最终的目标,中间使用一些基础大模型和知识图谱相关的一些技术,这个是从算法上的角度去思考的。如果是从工业流程环节去理解,还有研发与规划、生产过程管控、经营管理优化、产品与服务这四类。因此,大模型在工业领域的应用其实是可以在34的矩阵框里面可以做一些相关的工作。对下一步大模型落地工业场景的重点的看法对下一步大模型落地工业场景的重点的看法隐形资产的沉淀,即怎么能把老师傅的经验积累沉淀下来,不管是工艺还是设计,可能是所有工业企业现在急需的,语言大模型、CV大模型、多模态大模型等都需要。在工业的场景下,除了人以外,设备是最重要的,可能更多的工作是在设备级别的,包括这种设备的维
103、修、预测性养护等相关的工作是都是要做的。大大模型对工业应用市场的影响模型对工业应用市场的影响价格:相比于之前的CV小模型,现在价格可能有所下降合作对象:之前的CV小模型,更多是软件厂商与硬件厂商合作;现阶段,更多是大模型厂商与购买硬件的软件厂商合作,把大模型的能力结合软件加在对方购买的硬件里边,来协助软件公司去服务客户。402024.9 iResearch I单位及人员鸣谢本报告离不开业内企业及从业者的支持,特此鸣谢注释:排名不分先后。来源:艾瑞咨询研究院自主研究及绘制。单位人员名称卡奥斯秦承刚格创东智陈高平智谱专家不愿透露姓名天融信马霄中移(上海)信息通信科技有限公司周威上海电力设计院有限公
104、司叶军中国移动通信集团有限公司文静中移(上海)信息通信科技有限公司熊诚锋中移(上海)信息通信科技有限公司张泽宇中移(上海)信息通信科技有限公司陈旭中国移动通信集团有限公司黄迪中移(上海)信息通信科技有限公司熊冠楚通答AI唐定41BUSINESS COOPERATION业务合作官网企 业 微 信新 浪 微 博微 信 公 众 号400-026-联系我们42LEGAL STATEMENT版权声明本报告为艾瑞数智旗下品牌艾瑞咨询制作,其版权归属艾瑞咨询,没有经过艾瑞咨询的书面许可,任何组织和个人不得以任何形式复制、传播或输出中华人民共和国境外。任何未经授权使用本报告的相关商业行为都将违反中华人民共和国
105、著作权法和其他法律法规以及有关国际公约的规定。免责条款本报告中行业数据及相关市场预测主要为公司研究员采用桌面研究、行业访谈、市场调查及其他研究方法,部分文字和数据采集于公开信息,并且结合艾瑞监测产品数据,通过艾瑞统计预测模型估算获得;企业数据主要为访谈获得,艾瑞咨询对该等信息的准确性、完整性或可靠性作尽最大努力的追求,但不作任何保证。在任何情况下,本报告中的信息或所表述的观点均不构成任何建议。本报告中发布的调研数据采用样本调研方法,其数据结果受到样本的影响。由于调研方法及样本的限制,调查资料收集范围的限制,该数据仅代表调研时间和人群的基本状况,仅服务于当前的调研目的,为市场和客户提供基本参考。受研究方法和数据获取资源的限制,本报告只提供给用户作为市场参考资料,本公司对该报告的数据和观点不承担法律责任。法律声明THANKS艾 瑞 咨 询 为 商 业 决 策 赋 能