大模型方向行业研究报告 2023-HG海伯高斯管理咨询

大模型方向行业研究报告 1 1 1 2 2 9 10 10 11 18 20 20 22 24 25 26 28一、大模型行业概览大模型的起源可以追溯到2012年。当时，深度学习领域取得了两个重要的突破：AlexNet和GPU的应用。AlexNet是一个包含5000万个参数的深度卷积神经网络，它在ImageNet图像分类竞赛中取得了很好的成绩。同时，GPU的应用也为大模型的训练提供了强大的计算能力。这两个突破为大模型的快速发展奠定了基础。2017年，谷歌提出了Transformer结构，该结构成为了自然语言处理领域的重要里程碑。Transformer结构包含亿级别的参数，具有强大的语言理解能力，为自然语言处理领域带来了突破性的进展。随着计算能力的提升和算法的优化，越来越多的公司和机构开始投入到大模型的研究中。2018年，脸书推出了FacebookAI大模型（又称ERNIE-Health该模型包含33亿个参数，用于医疗健康领域的知识问答任务。2019年，谷歌推出了SwitchTransformer模型，该模型包含1.6万亿个参数，成为了目前最大的NLP模型之一。大模型是指具有庞大的参数规模和复杂程度的机器学习模型。在深度学习领域，大模型通常是指具有数百万到数十亿参数的神经网络模型。一般来讲，参数量超过10亿、具备泛化能力的模型，可以被称为大模型。大模型的概念大模型的概念资料来源：百度：关于大模型的定义，海伯高斯研究团队整理12023.11HyperGr1)参数规模巨大：大模型可以处理更加复杂、庞大的数据集，从而获得更好的性能。缺点：大量的数据和参数会占用大量的内存空间。2)深度结构复杂：更好地捕捉数据中的复杂模式和特征，从而提高模型的准确性和性能。缺点：更加复杂和细致的计算，提高了时间和计算成本。3)泛化能力（通用能力）强：大模型能够从已有知识中提取普适规律，并将其应用于新的情况和问题上。4)语义理解与生成/自然性：大模型能够更好地处理语言语义，生成更自然、连贯、富有逻辑的文本、图像、音频等内容。大模型发展的时间线大模型发展的时间线资料来源：海伯高斯研究团队整理1)市场规模从2023年3月开始，国内的AI大模型如雨后春笋般涌现。据统计，截至2023年7月底，中国累计已经有130个大模型问世；国外大模型发布数量累计达138个。22023.11HyperGr全球大模型数量分布情况（个）资料来源：海伯高斯研究团队整理根据国际数据公司IDC预测，全球AI计算市场规模将从2022年的788.4亿人民币增长到2026年的4555.2亿人民币。其中，生成式AI计算市场规模将从2022年的60亿人民币增长到2026年的802.3亿人民币。而中国庞大的市场需求和丰富的人才储备，为大模型的发展壮大提供了有利的客观条件，据专业机构预测，中国大模型产业市场规模2023年将达到147亿元人民币，并在2028年达到1179亿元。2020-2026年全球及中国大模型市场规模（亿人民币）资料来源：钛媒体国际智库，海伯高斯研究团队整理32023.11HyperGr图5：2020-2026年全球及中国大模型市场规模（亿人民币）资料来源：钛媒体国际智库，海伯高斯研究团队整理从数量来看，截至目前，国内大模型发布数量与以美国为首的国外大模型差距不大，但从整体的影响力来看，国内大模型还没像OpenAI、谷歌一样形成世界性的影响力。此外，由于大模型对人才、资本和技术的制约，国内一级市场对大模型项目的投资并不如美国那样火热，国内更倾向于利用龙头企业的开源模型来做应用落地的创业。2)产业价值链海内外科技公司聚焦于大模型开发以及商业化落地，越来越多的知识计算能力融入到行业大模型中，行业AI应用的渗透率将全面提速。大模型中的应用层和场景层，涵盖了金融、医疗、办公、影视、游戏、电商、广告、工业、芯片、算法平台等各个领域，目前各行业的大模型均有了长足进展。大模型产业价值链大模型产业价值链资料来源：海伯高斯研究团队整理42023.11HyperGr大模型场景层落地实例资料来源：海伯高斯研究团队整理大模型各场景应用实例（1）资料来源：海伯高斯研究团队整理52023.11HyperGr大模型各场景应用实例（2）资料来源：海伯高斯研究团队整理大模型产业价值在于降低AI使用门槛，提升行业效率。大模型拥有数据的强大处理和分析能力，能够处理和分析大规模、复杂的数据，从中发现隐含的模式和规律。这使得企业能够更准确地了解市场需求、优化业务流程，做出更明智的决策，提高效率和竞争力。大模型的多模态能力为行业提供了更多的可能性，能够处理语音、图像、文本等不同类型的数据，并将它们综合起来进行分析和理解。这使得在跨行业合作和创新方面有了更广阔的空间。大模型还具备持续学习和自适应能力，随着不断的训练和迭代，大模型可以不断提升自身的性能和准确度，适应不断变化的业务需求和环境。这种灵活性和适应性使得大模型成为行业创新和优化。3)资本投入2023上半年，全球人工智能领域共计发生融资1387件，筹集融资金额255亿美元，平均融资金额达2605万美元。2011-2023年共计3658个AI领域融资项目（仅统计500万以上融资金额的项目，且融资公司所在地为美国美国AI领域融资项目数及融资金额稳步增长。2022年美国风投AI领域融资项目数为574个，2011-2022年CAGR达29.3%；2022年美国AI领域融资金额为243.5亿美元，2011-2022年CAGR达422.5%62023.11HyperGr2011-2023年美国资料来源：钛媒体国际智库，海伯高斯研究团队整理2023上半年，国内人工智能领域共发生161起投融资事件，其中包括人工智能核心技术44起，人工智能基础支撑43起，人工智能应用场景40起，人工智能通用场景34起。较去年同期减少153起，同比下降49%；2023上半年度国内人工智能领域投融资交易事件涉及总金额61.74亿元，较去年同期减少99亿元，同比下降62%。毫不夸张地说，“百模大战”已开启。IDC预测，2026年中国AI大模型市场规模将达到211亿美元，人工智能将进入大规模落地应用关键期。2023年1-6资料来源：钛媒体国际智库，海伯高斯研究团队整理72023.11HyperGr今年四月底的中共中央政治局会议提出，要重视通用人工智能发展，营造创新生态，重视防范风险。五月初召开的第二十届中央财经委员会第一次会议指出，要把握AI等新科技革命浪潮。随后全国各地相继根据各自的情况和条件截至目前统计数据来看，国家共发布有关大模型行业的政策17条，其中地方162023年（2023-2025）》“南京样板”。82023.11HyperGr《上海市推动人工智能大模型创新发展的若干措施》《成都市新一代人工智能产业发展规划（2022－2025）》建设技术水平全国领先的人工智能创新策源地。在计算机视觉、人脸识别、无人智能、深度学习等技术领域自主创新能力和产业竞争力达到全国领先水平资料来源：中央及各地方政府网站，海伯高斯研究团队整理改善自身产品，提高用户体验，吸引并留存用户，未来或基于流量向商家端变现，如百度文心，阿里淘宝问问。提供面向C端的AIGC工具，通过订阅模式变现，如百度文库、各家的A个人助理、文生图工具等。通过大模型增强自身产品竞争力，如讯飞的“智能办公本”和“AI学习机”。大模型调用，做公有云，如AP1、精调大模型。私有云部署。大模型平台，提供数据、算力或精调、评测以及推理等服务，如百度、阿里、腾讯、字节和商汤。大模型行业可能面对的问题大模型行业可能面对的问题具体阐述训练大模型成本较高训练一个通用大模型，可能需要花费5000万元左右，而这只是一次的训练成本，还不包括后续的优化、更新、部署等费用92023.11HyperGr市场生态不足大模型的基础是深度学习框架，美国有深耕深度学习框架生态基础，国内市场考验还不够，生态还有待打造未达到标准化和数据融合将AIGC扩展到产业应用可能需要不止一个大模型，如何将多个大模型高效地整合，有标准化和数据融合的挑战数据类型不够全面，可信度低大模型需要海量数据训练，我国互联网企业各自的数据类型不够全面，同时可信性不足，中文可供训练的语料仍需大量挖掘国产GPU的性能不足，算力效率低大模型训练所依赖的GPU芯片以英伟达公司的A100芯片为代表，但该芯片已被美国限制向中国出口，国产GPU的性能还有待进一步考验，目前在算力的利用效率上还有差距关键人才短缺在中国但具有架构设计能力和AIGC数据训练提示师水平的人才短缺非通用模型很难直接应用在实体产业的生产制造过程目前国内的多模态通用模型数量不多，只有少量实体企业可直接在生产过程中使用大模型存在机器人变态和伦理失范及行为失控的风险目前ChatGPT机器人的思考过程不透明，人类对它的推理过程并不完全掌握，可解释性不足，会出现不可控情况资料来源：腾讯研究院，海伯高斯研究团队整理整体上看，大模型产业公司可粗略分为“算力厂商、基础大模型厂商、行业大模型厂商、大模型应用厂商和大模型技术服务商”国内外大模型厂商总览国内外大模型厂商总览资料来源：海伯高斯研究团队整理102023.11HyperGr二、大模型人才现状前言今年春招期间是大模型创业高峰，人才需求急速上涨。2月，AIGC新发岗位量增幅75.3月持续上升，环比增幅上涨12.56%。随着春招结束和创业潮告一段落，人才需求有所回落。6月份，大模型公司风云再起，人才需求再度上扬4.16%。行业薪资：招聘网站数据显示，如机器学习、语音识别、AIGC算法工程师、自然语言处理等岗位，最高薪资均超过90万；更核心的推荐算法、算法工程师、计算机视觉这些岗位，最高则均超过百万年薪。资料来源：脉脉高聘人才智库，海伯高斯研究团队整理教育&工作背景：目前，大模型相关岗位中硕士及以上教育程度要求已成主流，占比超过五成自2022年11月起，大模型相关岗位工龄需求明显提升。一方面，ChatGPT成熟度远超预期，大模型技术需产品落地，拥有更多项目经验的资深技术人才更受企业青睐；另一方面，目前主流大模型产品技术门槛较低，拥有丰富业务经验、行业经验的非技术人员能在较短时间内上手并快速体现生产力。总体来看，拥有三年及以上工作经验的硕士人才，是大模型相关岗位的重点引进目标。2023.11HyperGr大模型相关岗位教育程度要求资料来源：脉脉高聘人才智库，海伯高斯研究团队整理大模型相关岗位工作年限要求大模型相关岗位工作年限要求资料来源：脉脉高聘人才智库，海伯高斯研究团队整理2023.11HyperGr行业分布：1.大模型人才行业分布：IT行业占超五成，多行业人才猎取积极超半数大模型人才就职于IT/互联网/游戏行业的同时；电子、金融大模型人才存量逐年升高。在过去的一年，国家重点支持了高新技术、专精特新小巨人等高端制造企业发展，吸引了大量算法类人才从事于企业数字化转型、中国智造等方向。电子企业则多吸引此类人才从事芯片设计、研发等工作。金融行业则吸引了大量人才从事科技金融、绿色金融等工作。算法类人才行业分布资料来源：脉脉高聘人才智库，海伯高斯研究团队整理数据类人才行业分布 资料来源：脉脉高聘人才智库，海伯高斯研究团队整理2.IT/互联网/游戏：技术人才储备优秀，模型类人才仍显招聘难IT/互联网/游戏行业无疑是大模型的基石——它贯穿了大模型技术的的模型、数据与产品全阶段。根据行业历史招聘趋势与2023年一季度招聘趋势分析，在今年IT/互联网/游戏行业大模型岗位将同比提升15.7%。因此这类企业有着相对较好的人工智能人才基础并且与大模型适配度较高，对于大模型的人才招聘职责职能相对清晰，如在周期内有杀手级应用的诞生，大模型人才需求将远超预期。对于大型组织、独角兽企业而言，高级深度学习工程师仍是在短期内供不应求的存在，数据显示虽然企业需求持续增加，但所获主动投递较少。此类人群主动求职意愿低，企业或可调整招聘资源分配，多种招聘方式相结合，以达到更好的效果。IT行业代表性岗位企业所在细分赛道所属大模型领域大模型业务场景机器学习工程师人工智能模型层-细分模型通过优秀的特征工程与大量人工参与，使得在模型在较少样本量训练后即可达到预期效果，有着“上限低，下限高”的特征，使得细分赛道中大模型技术实现快速的商业落地深度学习工程师人工智能模型层-大模型相比于机器学习，深度学习的成本极高，目前此类人才是大型组织里或独角兽公司争夺的大模型核心人才，包含但不限于文本分析、图像识别、视频生成等大模型算法工程师数据库工程师云计算/大数据基础层-数据运维和管理数据库管理系统，包括数据库的安装、监控、备份、恢复等基本工作算力平台工程师云计算/大数据基础层-算力机器学习和人工智能的研究人员和大模型应用的开发者，可以用尽量小的研发投入，来使用AI超级计算机下面的硬件计算能力资料来源：猎聘人才库，海伯高斯研究团队整理3.广告/传媒：文本、图片生成应用型人才需求显著增加美国版本头条BUZZFEED因采用ChatGPT上岗写稿，市值2天暴涨3倍的背后，并不是资本无理由的狂欢与盲目跟投；目前美国Roku、Gannett、CNN等主流媒体的大规模裁员皆彰显着目前这个行业所受到的前所未有的变革冲击。传媒虽然并不是传统的“高科技”类型企业，但其收益于ChatGPT所体现的“涌现”能力，使得整个行业瞬间有了无限的想象空间。无论是需要严谨措辞的政治新闻以及重视实时性、真实性的2023.11HyperGr突发新闻，大模型都是广告/传媒行业的时代转折点，预计在2023年将实现同比41.6%的增长。4.消费品：视频生成、语音生成类应用人才需求走高大模型带来的虚拟人技术已相对成熟，目前国内多家电商平台已投入使用并取得了不错的效果，虚拟人技术使得消费品营销成本进一步降低。同时，也一定程度上提高了用户的体验，大模型技术已在消费品这个万亿赛道里多点开花。针对消费品大模型岗位分析，随着2023年消费回暖，居民消费正逐渐升温，消费品行业大模型人才招聘趋势增长较高，视频生成方向的高端技术人才是当下招聘的难点所在，数据显示消费品行业大模型人才平均薪酬略低于其他行业，可适当提高薪酬待遇以吸引更多人才主动投递。人才分布城市：根据招聘网站中过往大模型方向岗位发布的工作所在地分析，北京在大模型岗位发布方面常年占有绝对领先的地位。在新一轮生成式AI热潮中，全国已经出现了106个大模型，其中北京的大模型公司数量和研发数量均占据“C位”，多达54个，位居2022年中国人工智能城市排行榜首位。在近一年AIGC新发职位城市分布TOP10中，北京职位最多，占比为22.21%。除北京外，深圳、广州、杭州、成都等城市也都有多个大模型公司。由于大模型创业门槛比较高，需要顶尖人才，偏基础研究，在大模型发展早期，北京这样高校多的城市有优势。深圳制造业发达，将来会强在应用端和产业化。大模型企业各城市分布数量资料来源：猎聘人才库，海伯高斯研究团队整理2023.11HyperGr2023年1-102023年1-10月大模型行业高层人事变动一览公布时间高管/高级人才调整后单位/职位原就职单位/职位2023年2月智元机器人(AgiBOT)联合创始人，CTO、首席架构师前华为昇腾AI边缘计算专家2023年3月19日零一万物联合创始人前创新工场创始人2023年3月19日零一万物联合创始人；数据安全相关、infra建设、2C百度前安全总经理，副总裁2023年3月19日零一万物联合创始人阿里前副总裁，菜鸟网络前CTO2023年3月19日零一万物联合创始人百度最高奖得主/滴滴前首席算法工程师2023年3月19日零一万物联合创始人微软前副总裁2023年3月20日大模型方向创业中前阿里巴巴集团副总裁、阿里硅谷研究院负责人2023年3月完成天使轮融资衔远科技创始人京东前AI负责人2023年3月生数科技联合创始人瑞莱智慧创始人2023年3月生数科技联合创始人，首席执行官瑞莱智慧副总裁2023年4月6日光年之外创始人前美团联合创始人、执行董事2023.11HyperGr2023年4月10日百川智能创始人搜狗公司原CEO2023年4月10日百川智能联合创始人搜狗公司原COO2023年4月10日百川智能联合创始人前搜狗搜索总经理2023年4月17日月之暗面联合创始人前循环智能联合创始人2023年4月17日月之暗面联合创始人前循环智能的联合创始人，兼任公司CTO2023年4月17日月之暗面联合创始人前旷视科技算法量产负责人2023年4月17日月之暗面联合创始人前Google高级软件工程师/技术主管2023年5月3D技术相关的应用层创业前阿里巴巴淘系技术部商品3D重建及AI设计算法负责人2023年5月通用大模型方向创业中小红书前AI平台部负责人2023年7月21日抖音大模型团队担任相关负责人前抖音社交负责人2023年7月27日开源中国首席战略官前阿里巴巴副总裁2023年7月28日百川智能商业化负责人搜狗公司原CMO昆仑万维天工智能联席CEO与全球研究院院长前智源研究院首席科学家2023年9月18日零一万物法定代表人、经理零一万物联合创始人；数据安全相关、infra建设、2C资料来源：海伯高斯研究团队整理2023.11HyperGr1、目前，大模型行业中需要的对口专业，如AI大模型框架设计、底层代码、数据集合、硬件搭建和性能验证等研究方向均需要高校提前投入大量的教学资源和设备配套，定点培养的学生占多数。现在AI大模型得到各个行业头部企业的重视，求职招聘存在供不应求的情况。所以对大模型方向专业岗位有需求的企业，可尽早布局当地头部高校或计算机专业名校的校招，从“源头”把握专业性强的应届毕业生进行对口培养。2、同时，企业也需要把握好能够熟练应用大模型的人才。AI大模型本质上仍然是一种软件，遵从软件生命周期原则，前期开发人才需求量较大，应用人才需求量较小，所以市场上会形成重开发人才而轻应用人才的局面，开发人才的薪酬也会高于应用人才。但在软件成熟定型获得市场认可后，中后期应用人才需求量会显著上升，而开发人才需求量会逐步回落。未来，能“用好大模型”的应用人才将大有用武之地，其薪酬也会水涨船高。3、目前大模型行业竞争激烈，头部企业间人才流动性较强。能否提供更有吸引力的薪酬、能落地的项目是各大大模型企业间争夺人才的必要条件。同时，大模型厂商也可以将目光投向互联网行业。互联网发展时间长，人才积累数量大，一些在互联网行业寻求进一步发展或转型的中高端技术人才能为当前处于发展初期的大模型厂商带来进一步发展的动力与启发。人才流动建议：1、从行业发展趋势来看，去年年中至今无论是大厂还是创业团队，都还是集中于给大模型打基础。也因此，现阶段底层的技术人才，如NLP算法工程师、深度学习等岗位，是大模型人才市场里最为急需的那一批人。IDC的数据显示，模拟芯片设计、集成电路IC设计、风控算法、AIGC算法工程师、自然语言处理等岗位，供需比都低于1。而这类金字塔尖的那批人——主要是指既可以做研究，又能够输出Paper，还能够考虑到各种应用场景，落地交付工程的人，更是第一梯队大模型厂商的首要争抢对象。2、评估一家创业公司，从团队背景、融资情况、地域情况等角度分析，比如大家熟知的清华系、大模型第一梯队、创投圈明星团队等。创投圈明星团队往往也是现在求职者的优先项。目前明星大模型公司确实是多数求职者的考虑范畴，相比其他创业公司，前者有来自机构的投资，资金充裕，短时间内出问题概率小，团队也会更为稳定。3、目前互联网行业的技术人才在考虑接下来的发展方向时，可适当考虑大模型赛道。尤其是中高端的研发、架构等技术人才。目前大模型行业仍在起步阶段，对人才的需求量大，各大厂间竞争激烈，且都有针对人才的吸引政策。相比于互联网，在未来发展前景和薪资待遇上会更加具有优势。4、结合目前大模型厂商们聚集的地域来看，以北上广深这些超一线城市和以杭州、2023.11HyperGr南京为首的新一线城市为主。通过前文可知，目前北京以54家大模型企业位居榜首。所以，当下想要在大模型行业一展身手的求职者，还是要投身于这些发达大城市才能遇到更多机会。2023.11HyperG发展历程：百度大模型发展历程资料来源：百度新闻，海伯高斯研究团队整理发展现状：百度在搜索、人工智能领域深耕20多年。基于搜索引擎，演化出语音、图像、知识图谱、自然语言处理等人工智能技术。百度在人工智能的四层架构中，有全栈布局，包括底层芯片、飞桨深度学习框架、文心大模型以及最上层的搜索等应用。文心一言技术，位于模型层。百度文心一言定位于人工智能基座型的赋能平台，将助力金融、能源、媒体、政务等千行百业的智能化变革，最终“革新生产力工具”。文心一言有五大能力，文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。百度大模型产品简介百度大模型产品简介资料来源：百度大模型官方网站，海伯高斯研究团队整理2023.11HyperGr部门架构：资料来源：百度大模型官方网站，海伯高斯研究团队整理目前人员规模：目前由12名骨干带领独立团队深入研究大模型，团队整体人数百人左招聘方向：大模型，多模态，搜索增强，强化学习，推理引擎，框架招聘地区：北京/上海/杭州/深圳为主招聘岗位：自然语言处理、推理引擎薪酬情况： 表5：百度各序列薪酬情况资料来源：百度职级薪酬，海伯高斯研究团队整理2023.11HyperGr发展历程： 图22：阿里大模型发展历程资料来源：阿里达摩院官方网站，海伯高斯研究团队整理发展现状：2023年8月，阿里通义千问开源，阿里云成为国内首个加入大模型开源行列的大型科技企业，这无疑是一次突破常规的举动。而且，阿里云表示未来所有产品都将接入通义千问进行全面改造，这意味着我们将迎来一个全新的时代。无论是企业还是个人，在阿里云的支持下，都能够充分发挥自己的创造力，打造更加出色的产品和应用。部门架构：阿里大模型部门架构资料来源：海伯高斯研究团队整理目前人员规模：6名骨干成员带队，整体规模200+招聘地区：北京/上海/杭州/深圳为主招聘岗位：大模型，多模态，搜索增强，强化学习，推理引擎，框架方向薪酬情况：阿里各序列薪酬情况2023.11HyperGr资料来源：海伯高斯研究团队整理2023.11HyperGr发展历程：腾讯大模型发展历程资料来源：腾讯官方网站，海伯高斯研究团队整理发展现状：2023年9月7日，腾讯混元大模型在2023腾讯全球数字生态大会上正式亮相，并宣布通过腾讯云对外开放。混元大模型是由腾讯全链路自研的通用大语言模型，具备中文创作能力，逻辑推理能力，以及任务执行能力。目前，腾讯已有超过50个自有产品和业务接入混元大模型测试。部门架构：腾讯大模型部门架构腾讯大模型部门架构资料来源：海伯高斯研究团队整理目前人员规模：200+招聘方向：大模型，多模态，搜索增强，强化学习，推理引擎，框架招聘地区：北京/上海/杭州/深圳为主薪酬情况：薪资涨幅在30%-60%之间2023.11HyperGr发展历程：字节大模型发展历程资料来源：海伯高斯研究团队整