2024中国企业AI大模型落地应用现状调研报告

2024中国企业AI大模型应用现状2调研报告A

I

大模型是真正的生产力革命，

还是昙花一现的资本泡沫？已经落地A

I

大模型的企业，

是否感受到清晰的业务价值？大模型的落地场景，

有怎样的共性特征？A

I

大模型落地过程中，

探索者正在经历怎样的挑战？01 调研简介样本概况总体判断落地场景落地路径落地挑战投入计划目 录CONTENTS01.调研简介2

0

2

4

年，

A

I

大模型掀起的技术革命愈演愈烈！或许是担心错过下一个浪潮，

全球范围内，

各行业头部企业纷纷开启了A

I

大模型的落地探索之旅。与此同时，业界也有一些不同声音，

由于A

I

大模型在生成内容时依然存在”

幻觉“

等问题，

因此担心A

I

大模型无法提供准确输出，

从而无法在企业市场创造价值。是真正的生产力革命，

还是昙花一现的资本泡沫？

已经落地A

I

大模型的企业，

是否感受到清晰的业务价值？

大模型的落地场景和创造价值的逻辑，

有怎样的共性特征？

A

I

大模型落地过程中，

探索者正在经历怎样的挑战？带着这些问题，

2

0

2

4

年4

月，

选型宝与亚马逊云科技联合发起了“

2

0

2

4

中国企业大模型应用现状调查”

，

过去3

个月，

我们共发放问卷超过1

0

0

0

0

份，

回收1

4

1

份有效问卷。经过1

个月的数据处理，

现在，

我们把这份《调研报告》呈现给业界。期待这份调研报告，

对于探索中的您有所启发！调研背景结论1

：A

I

大模型落地总体上仍处在探索孵化阶段，

渗透率不足1

%

，

这些企业是市场的“

尝鲜者”

。结论2

：已部署A

I

大模型的用户中，

5

5

%

的认为“

已看到清晰价值”

。结论3

：更多真实案例呈现出来，

吸引更多“

观望者”

入局，

成为未来市场破局的关键。结论4

：C

I

O

往往优先选择：

知识密集+

服务对象的重要性高的场景切入。结论5

：降本增效、改善体验、孵化创新是A

I

大模型创造价值的三种主要模式。结论6

：A

I

大模型依然存在“

幻觉”

等问题，

落地工程的目标，

关键是解决“

价值对齐”

的问题。结论7

：落地过程中，

C

I

O

最关心A

I

大模型在输出内容质量、安全、性能等三方面的表现。结论8

：C

I

O

认为A

I

大模型落地，

主要挑战来自于成本、技术、人才、行业方案等方面。结论9

：“

尝鲜者”

对A

I

大模型的投入态度是“

积极且谨慎”

，

即愿意投入但控制规模。调研结论02.样本概况调研用户行业分布本次调研共收集到有效问卷1

4

1

份，

主要来自9

个行业。其中制造、金融、

教育、零售、等行业占比较高。这些在数字化建设与转型上投入积极的行业，

在A

I

大模型的应用上，

也相对更加关注。制造38人,

27.0%软件24人,

17.0%金融服务17人,

12.1%零售电商13人,

9.2%教育10人,

7.1%医疗保健5人,

3.5%汽车7人,

5.0%游戏、媒体娱乐6人,

4.3%其他21人,

14.9%从行业角度看，

调研用户来自制造、金融、零售等数字化投入积极的行业被调研企业规模分布主要在中大型以上从企业人员规模的视角看，

本次参与调研用户3

0

0人以上企业规模占比超三分之二，

也具有相当的代表性。其中：3

0

0

人以上企业 占比6

6

.

7

%1

0

0

0

人以上的企业 占比3

8

.

2

%3

0

0

0

人以上规模的企业 占比2

0

.

5

%1

0

0

0

0

人以上规模的企业 占比1

2

.

1

%300人以下47家，33.3%300-1000人40家，28.4%1000-3000人25家，17.7%3000-10000人12家，8.5%10000-50000人10家，7.1%50000人以上7家，5%调研用户企业规模分布公 司职 位姓名美的集团金融科技总监李明德中石化集团业务主管刘硕海澜之家战略信息中心负责人华挺五矿发展战略投资部部长贺宗春海通期货股份有限公司I

T

技术经理汪盛强华药集团信息中心主任苏国良哈药集团股份有限公司信息技术部门经理滕青蔓人民银行安庆市分行开发人员/

工程师程聂松上海人寿客户联络中心负责人唐霄钦北京燕莎友谊商城C

I

O马爱杰光大永明数据分析赵文坤德华安顾人寿保险有限公司I

T

技术经理曹国明珠江投资控股集团I

T

技术经理李生施耐德（

北京）

中压电器有限公司项目管理To

n

y特别鸣谢：

部分参与调研的用户名单03.总体判断回收问卷量：141份回收问卷率：1.4%已部署49家,

34.8%未部署92家,

65.2%发放问卷1

0

0

0

0

份，

仅回收问卷1

4

1

份说明：

参与调研的1

4

1

家企业中已部署大模型的企业4

9

家，

占比3

4

.

8

%未部署A

I

大模型的企业9

2

家，

占比6

5

.

2

%参与调研的1

4

1

家企业中，

3

5

%

已部署A

I

大模型应用阶段：

AI大模型落地总体上仍处在探索孵化阶段，

渗透率不足1

%参考美国著名学者埃弗

雷特·

罗杰斯编撰的《

创新的扩散》

一书中对创新阶段的界定，

我们可以看出当前

A

I

大模型落地总体处在早期

市场—

—

探索孵化阶段。应用阶段：

AI大模型落地总体上仍处在探索孵化阶段，

渗透率不足1

%4

9

家已部署A

I

大模型的企业中5

5

.

1

%

认为已看到清晰价值已看到清晰业务价值27家,55.1%还在探索22家,44.9%已看到清晰

的业务价值18家,

51%还在探索17家,

49%3

5

家已部署A

I

大模型的传统行业企业中5

1

%

认为已看到清晰价值排除其中的14家软件企业后解读：

在已经部署A

I

大模型的

4

9

家企业中，

有

2

7

家认为“

已经清晰的业务价值”

，

占比超过

5

5

%

，

初步说明A

I

大模型创造的业务价值是真实的、可感知的。这4

9

家中，

包含了1

4

家软件类企业，

考虑到他们有可能出于营销的目的，

夸大A

I

大模型对其产品加持后的效果。研究团队将这1

4

家软件公司排除后，

进一步分析后，

发现3

5

家传统企业中，

有1

8

家认为“

已看到清晰的业务价值”

，占比达到5

1

%

，

其他4

9

%

的企业表示“

还在探索”

，

因此可以得出“A

I

大模型已经初步让企业用户看到业务价值”

的结论。用户感受：

已部署AI大模型的用户中，

55

%

的认为“

已看到清晰价值”有兴趣尝试52家,

56.5%等待同行案例，再尝试39家,

42.4%完全不看好1家,

1.1%参与调研但未部署A

I

大模型的9

2

家企业，他们是否有计划部署？解读：在尚未部署A

I

大模型的

9

2

家企业中，

有

5

2

家认为“

有兴趣尝试”

，

占比超过

5

6

.

5

%

；

有

3

9

家打算”

等待同行案例，

再尝试“

，

占比达到4

2

.

4

%

。“

已经部署”

的

4

9

家加上“

有兴趣尝试”

的

5

2

家，

这1

0

1

家企业属于A

I

大模型技术的“

爱好者”

，

他们可以在业务价值尚不清晰的情况下，

投入部署A

I

大模型，

并开启探索之路，

但是他们占比很低，

约1

%

。更多企业则需要看到同行业企业“

有清晰业务价值的案例”

，

才有可能扣动扳机，

因此下阶段大模型厂商通过真实案例的方式向用户展示价值，

将是实现市场破局的关键。未来市场破局关键：

更多真实案例呈现出来，

吸引观望者入局04.应用场景您认为,

A

I

大模型落地应该应用在哪些场景下？在选择落地场景时，

C

I

O

有怎样的共性思考逻辑？首先是聚焦在知识密集的场景：

营销内容生成、客服、知识库等场景，

这些场景会沉淀大量知识，

同时也需要通过输出知识提供服务，

更容易发挥A

I大模型的能力。第二是，

按服务对象的重要性排序：

例如客户（

营销及客服）

、员工（

知识库）

、老板（

分析场景）这些用户需要的场景优先级相对靠前。由此可见，

尽管A

I

大模型落地目前仍处在探索阶段，客户对于它带来的业务价值，

是有比较急迫的期待的！

希望通过A

I

大模型的落地，

快速看到业务价值，而不是简单的“

赶时髦”

。1家,

0.7%3家,

2.1%5家,

3.5%6家,

4.3%7家,

5.0%10家,

7.1%16家,

11.3%20家,

14.2%22家,

15.6%25家,

17.7%人力招聘风控财务报告撰写运维销售场景生产场景，通过图像识别等提高生产效率分析场景企业知识库，服务员工客服场景营销场景生成营销内容场景选择：

知识密集+

服务对象的重要性高，

成为CIO优先选择的落地场景创造价值的方式创造价值的逻辑场景示例降本增效手段：

把大模型的内容生成能力+自然语言交互特征用在企业内部流程价值：

提高员工效率、

流程自动化辅助决策、

降低用工成本等降本：

用A

I

大模型的文档生成、

图片生成、

视频生成，

降低用工成本。增效：

（

1

）

建立企业知识库，

并通过智能助手，

回答员工的各种问题，

提高效率；（

2

）

自动生成会议纪要、

辅助文档处理、

数据增强、

代码补全等。流程自动化：

通过A

I

A

g

e

n

t

的能力，

基于目标自动拆解工作任务，

实现流程的简化、自动化执行。辅助决策：

辅助预测需求、

优化库存策略；

分析场景下，

辅助数据探索、

让业务人员用自然语言使用B

I

工具的能力等。改善体验手段：

把大模型的内容生成能力+自然语言交互特征用在企业外部流程价值：

提升客户复购率、

使用频度、满意度等关键业务指标交互革命：

（

1

)

不间断的提供类似人类的自然语言对话能力；

(

2

)

文字、

图片、

视频等多丰富的内容形态；

（

3

）

覆盖售前、

售中、

售后等多个客户服务触点。个性化服务：

根据每个客户、

用户、

学生、

患者的具体情况，

提供个性化的服务内容。虚拟陪伴：

在情感支持、

学习陪伴等场景下，

提升自然语言交互能力，

优化陪伴体验。孵化创新手段：

打破瓶颈，

增加供给价值：

降低创意门槛、

提高创新速度，

孵化创新教育行业：

突破教师资源瓶颈，

通过A

I

教学助手，

在教学、

练习、

考试全过程与学生完成互动，

更接近“

因材施教”

的教育目标。电商、

营销场景：

通过大模型文生图、

文生视频的能力，

极大的降低了创新的门槛，丰富了内容供给，

普通人也可以通过A

I

，

把创意变成内容。医药行业：

通过生成式A

I

，

可以极大的提高药物分子筛选的效率，

提升药物创新的可能性。选型宝把A

I

大模型创造价值的模式，

总结三种方式：

降本增效、改善体验、孵化创新AI大模型落地业务场景后，

创造价值有哪几种共性模式？05.落地路径AI大模型的落地路径1

. AI大模型生产内容的存在的问题2

. AI大模型产生效果的3

H原则——

AI大模型落地的目标3

. AI大模型落地路径1

.

幻觉：

指大模型的输出有时缺乏精确性，

给出看似深入但实际上是浅显的答案，

甚至“

一本正经的胡说八道”

。2

.

专业性不强：

大模型预训练的涉及行业及企业知识不多，

因此无法给出专业性的答案，

导致”

无用“

，

无法解决企业用户的问题。3

.

知识毒性：

大模型可能从数据中学习到有害、偏见、歧视性、伦理问题的内容，

从而产生”

毒性知识“

。4

.

一致性：

指大模型在针对相同问题，

在不同时间、不同环境下，

输出结果不稳定、不一致。A

I

大模型生成内容的原理是：

基于注意力机制，

通过词与词的关联度，

基于概率选择，

而非真理解知识。因此大模型生成内容时，

可能会存在以下问题：AI大模型在生产内容时，

可能会出现那些问题？A

I

大模型落地的关键：

是针对大模型生产内容时可能出现的幻觉、专业性不强等问题，

采取各种技术手段，对大模型进行“

培育”

，

让大模型生产的内容，

产生业务价值，

即实现“

价值对齐”

。大模型产生效果，

应该遵循

“

3

H

原则”

：3HH

e

l

pf

u

l

:

内容有帮助、可用H

a

r

m

l

e

s

s

:

内容合规、无害处H

o

n

e

s

t

:

内容准确，

无幻觉AI大模型产生效果的3

H原则培育路径模型精调（

或微调）

：

通是指在已经训练好的大模型的基础上，

通过特定数据集，

进一步调整大模型部分参数，

将行业知识内化为模型参数，

使模型更好的适应业务场景，

准确高效的完成特定任务。预训练：

全面调整或者从头构建大模型，

适用于通用大模型缺乏目标任务所缺的相关知识和能力。为了让大模型输出的内容产生价值，企业需要对大模型进行适配，一共有4条技术路径，技术难度从易到难分别为：提示词工程、搜索增强、精调、预训练提示词工程：

通过针对性的设计提示词，

来引导大模型产生特定场景所需的输出。搜索增强（

R

A

G

)

：

通是指在不改变大模型参数的基础上，

通过外挂企业自身知识库的方式，

把自身数据切片、向量化，

为模型提供特定领域的数据信息，

实现更准确的信息检索和生成。企业“

培育”

大模型的几条路径提示词工程P

r

o

m

p

t

E

n

g

i

n

e

e

r

i

n

g检索增强生成R

A

G模型微调F

i

n

e

-

t

u

n

i

n

g预训练优化思路通过设计提示词优化大模型输出通过外挂企业知识库，

优化大模型输出通过行业知识内化为部分参数，

优化大模型输出全面调整或者从头构建大模型是否需要调整模型参数不要不需要需要需要代表技术零样本提升Z

e

r

o

-

s

h

o

t少样本提升F

e

w

-

s

h

o

t思维链提示C

OT文本嵌入Te

x

tE

m

b

e

d

d

i

n

g向量数据库有监督微调S

F

T低秩调整LO

R

A无监督学习

U

L自监督学习

S

S

L人类反馈强化学习R

L

H

F技术难度逐渐加大、

资源投入逐渐提高、模型能力逐渐提升无论哪种路径，

最终的目的是为了让A

I

生产的内容符合“

3

H

”

原则，

带来业务价值

,

企业的选择逻辑，

应该是在达到业务价值的前提下，

尽量选择技术投入小的路径。企业“

培育”

大模型几条路径的比较06.落地挑战您最关注基于A

I

大模型在哪些方面的表现?

(

多选)72人,

51.1%74人,

52.5%85人,

60.3%97人,

68.8%101人,

71.6%其他 0人,

0.0%系统的可扩展性和弹性系统的响应速度和并发能力安全合规和数据隐私保护问答和生成内容的相关性检索的准确性和召回率C

I

O

们认为：

大模型落地挑战，

首先来自大模型自身表现，

体现在以下方面：内容质量：

大模型产生业务价值的前提是生成高质量的内容，

C

I

O

们最关注大模型在检索准确性和召回率、生成和回答内容的相关性。安全：

大模型训练和推理过程中，

可能涉及到企业数据泄露的风险，

C

I

O

们比较关注安全合规和隐私保护的问题。性能：

C

I

O

们关心大模型服务的速度，

包括大模型的训练速度，

推理时的响应速度、

生成速度等。

此外还关注可扩展性和弹性。1

.

来自模型自身的挑战：

内容质量、安全、性能

能否达到预期效果？AI大模型的落地挑战65人,

46.1%76人,

53.9%77人,

54.6%78人,

55.3%89人,

63.1%91人,

64.5%缺乏行业的解决方案AI人才缺乏模型微调和部署的复杂度高知识库内容结构化程度

过于复杂训练数据质量和规模过大计算资源和成本需求过高C

I

O

认为：

大模型落地挑战，

其次来自资源和能力，

体现在以下方面：成本：

用户担心大模型训练和推理过程中，

可能对计算资源需求较高，

因此会带来较高的成本。技术: 用户认为大模型落地中，

数据训练量较大、

模型微调和部署的复杂度较高，

知识库建设过程过于复杂。人才：

用户认为A

I

人才的缺乏，

会给A

I

大模型落地带来挑战。行业方案：

用户认为市场上缺少针对行业的整体或者局部的解决方案，

自己探索挑战颇大。AI大模型的落地挑战2

.

来自资源和能力的挑战：

成本、技术、人才、行业方案A

I

大模型落地中，

您面临那些资源挑战?

(

多选)41人,

29.1%73人,

51.8%92人,

65.2%92人,

65.2%97人,

68.8%其他 2人,

1.4%员工培训和变更管理系统部署运维和体验优化咨询规划和架构设计知识库内容治理与准备大模型训练和系统