人工智能

2023爱分析·通用大模型市场厂商评估报告:出门问问

依托通用大模型能力,结合企业数据、IT系统进行能力建设,支撑多种业务场景。

2024年02月04日
  • 人工智能

 

01 研究范围定义

研究范围

大模型是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的模型。2023年以来,ChatGPT引爆全球大模型市场。国内众多大模型先后公测,众多互联网领军者投身大模型事业,使得大模型市场进入“百团大战”阶段,2023年成为公认的“大模型元年”。
企业用户方面,大模型的应用速度之快超乎想象。2023年初,企业管理层对大模型的话题还停留在大模型是什么,是不是概念炒作。短短半年,大模型已经从饭后谈资走向落地应用。大企业管理层们希望了解到大模型能为企业发展带来哪些变革,大模型的应用路径是什么,如何提升大模型的投资回报率,以及应该为拥抱大模型做哪些准备。而且,大模型吸引的人群也愈发广泛,不仅吸引CIO、CTO等技术管理者的关注,CEO、CMO等非技术类管理者同样期待大模型在业务中发挥价值。这些转变表明,大模型的变革之力正日益得到产业界的认可。
通过对市场规模数据的分析,能较为直观地体现出企业对大模型应用落地的热情。爱分析数据显示,2023年中国大模型市场规模约为50亿元(人民币,下同)。2023年,企业在大模型方面的采购特点是论证多、采购少,各企业计划在2024年开始大量释放大模型预算,因此市场规模将大幅增长,预计达到120亿元。
爱分析认为,大模型市场从技术架构角度可以划分为基础层、模型层、中间层和应用层。基础层是指为大模型训练推理而提供的基础环境,包括湖仓一体、向量数据库、智算中心、大模型安全流通平台等。模型层是指基础大模型以及微调后的大模型,包括通用大模型、行业大模型、领域大模型和企业大模型。中间层是模型层和应用层之间的“桥梁”,有利于大模型在各种实际场景快速落地,包括大模型应用开发工具、LLMOps工具等。应用层是指大模型应用和解决方案,包括知识库问答、智能客服、对话式分析等。大模型市场划分详见下图。

本评估报告聚焦通用大模型市场,爱分析遴选出具备成熟解决方案和成功案例的厂商,供企业做厂商选型时提供参考。同时,在该市场下,爱分析重点选取了通用大模型厂商出门问问进行能力评估。

02 通用大模型市场分析

市场定义

通用大模型是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的非开源免费模型。

甲方终端用户:   

行业头部企业IT部门

甲方核心需求:   

大多数企业只需要大模型应用,而头部企业对大模型的需求则不局限于此。通用大模型是头部企业IT基础的重要拼图之一,企业需要依托通用大模型进行能力建设。企业需要通用大模型可以支撑业务,发挥价值。并且,企业需要“通用大模型+算力”的综合解决方案来应对“卡荒”。
  • 企业需要依托通用大模型进行能力建设。大多数企业只需要大模型应用,而头部企业对大模型的需求则不局限于此。通用大模型是头部企业IT基础的重要拼图之一,企业需要依托通用大模型进行能力建设。企业需要通用大模型支撑多种业务场景,例如客服、数据分析、营销素材生成等。这些场景映射到模型本身,则对模型能力提出要求,包括文本生成、SQL生成、多模态等。当前,尚不存在“六边形战士”类的全能大模型,头部企业可以通过采购、部署多个通用大模型,共同完成大模型能力建设。
  • 企业需要通用大模型可以支撑业务,发挥价值。部署通用大模型并不能直接为企业带来价值,还需要“改造”和“开发”。改造是指结合企业私有数据进行微调甚至后训练,以便其更好地执行特定任务。开发是指需要基于通用大模型开发全新的上层应用或者赋能已有的IT系统。
  • 企业需要“通用大模型+算力”的综合解决方案来应对“卡荒”。通用大模型的微调、推理需要高端AI芯片作为算力底座。但是,美国政府持续扩大针对中国芯片的出口限制,加剧了国内算力供应的压力,AI芯片价格持续走高且一卡难求。企业通常需要“通用大模型+算力”的综合解决方案来应对“卡荒”,解决对算力的后顾之忧。

厂商能力要求:  

企业基于对通用大模型的需求,向厂商提出多项能力要求。一是通用大模型需要具备鲜明的能力特点。二是厂商需要提供大模型应用开发工具、LLMOps工具、AI Agent等工具层产品。三是厂商需要具备足够的高端AI芯片,并具备以华为昇腾为代表的国产化芯片替代方案。

  • 通用大模型需要具备鲜明的能力特点。头部企业需要依托通用大模型进行能力建设。当前,尚不存在“六边形战士”类的全能大模型,头部企业可以通过采购、部署多个通用大模型,共同完成大模型能力建设。因此,通用大模型需要具备鲜明的能力特点,与企业需求进行匹配。能力特点包括文本生成、SQL生成、多模态、知识检索、多轮对话、提示词长度等。

  • 厂商需要提供大模型应用开发工具、LLMOps工具、AI Agent等工具层产品。处于成本和安全等因素考量,企业需要实现大模型改造和开发能力的内化。除通用大模型和算力之外,厂商通常需要提供大模型应用开发工具、LLMOps工具、AI Agent等工具层产品。涵盖大模型应用开发、大模型微调、大模型运维、AI Agent构建与运维等多个方面。

  • 厂商需要具备足够的高端AI芯片,并具备以华为昇腾为代表的国产化芯片替代方案。企业需要“通用大模型+算力”的综合解决方案来应对“卡荒”。相应地,厂商需要具备足够的高端AI芯片,才能满足企业需求。鉴于美国芯片供应的不确定性持续增加、国产芯片的崛起以及国产化替代事业的推进等多重因素,将国产芯片应用于微调、推理场景是大势所趋。厂商应具备以国产化芯片替代方案。当前,华为昇腾910是最热门的替代方案。

入选标准说明: