人工智能行业专题：海外AI基础软件被认可

证券研究报告|2023年06月19日人工智能行业专题海外AI基础软件被认可请务必阅读正文之后的免责声明及其项下所有内容行业研究·行业专题计算机·人工智能投资评级：买入(维持评级)证券分析师：熊iongli1@S0980519030002一、Datadog：APM助力GPT应用降本增效二、Palantir：大模型应用于数据分析alantirAIPIPalantir三、投资建议：关注国内相关映射公司请请务必阅读正文之后的免责声明及其项下所有内容11、Datadog：APM助力GPT应用降本增效请请务必阅读正文之后的免责声明及其项下所有内容美国AI主流分析可分为数据、数据传输和数据处理美国AI主流分析可分为数据、数据传输、数据处理。1)数据(Data)层面：对数据全方位的监测服务，帮助用户深入了解其基础设施的性能表现，特别是监控API的使用情况和tokens消耗对于控制支出和提高应用程序性能也至关重要，代表公司为Datadog；2)数据传输(Supplying/MovingtheData)层面：AI需要大量的数据训练，对服务器之间数据传输速度提出更高要求，代表公司为博通；3)数据处理(ProcessingPowertoRunAIAlgorithmstodata)层面：这一环节需要强AI算力支撑，目前主流AI算力芯片仍是GPU，代表厂商为英伟达。图1：美国AI主流分析可为数据、数据传输和数据处理数数据Datadog美国AI主流分析数数据处理英伟达数数据传输代表公司博通请请务必阅读正文之后的免责声明及其项下所有内容图2：微服务将取代传统的整体架构图2：微服务将取代传统的整体架构微服务将取代传统的整体架构。1)在传统的单片框架中，软件被构建为一个单一的、不可分割的单元，从而产生更简单但不太灵活的系统；其优点为更容易开发和安装，但实现更改或进行拓展相对困难；2)微服务方法可将整个架构拆分为不同的模块，并将每个模块为一项服务运行，这些服务使用轻量级API通过明确定义的接口进行通信，可以针对各项服务进行更新、部署和扩展，以满足对应用程序特定功能的需求。图3：微服务可针对各项服务进行更新、部署和扩展请请务必阅读正文之后的免责声明及其项下所有内容 Datadog是一款专为云时代的应用程序而设计的监控和分析平台。它可以帮助开发人员、IT运营团队和业务用户实现对整个技术堆栈的统一、实时的可观察性。•Datadog拥有实时统一数据平台，使公司能够轻松地跨各种“数据孤岛”和格式聚合和监控其数据；•随着时间的推移，Datadog增加了功能丰富的创新，如基础设施和性能监控以及云安全；对于想要“做多人工智能”的公司，Datadog提供整合平台解决方案；•Datadog数据产品、日志记录、APM和测试的部分，它们以索引的数据量或测试量命名。Datadog产品包括括主机，云和容器的基础架构管理，日志管理，事件管理，早期问题和异常检测，预生产测试，分析，应用程序安全管理和网络监控等服务。 图4：Datadog产品应用丰富请请务必阅读正文之后的免责声明及其项下所有内容 Datadog：在APM和可观测研究领域，具备领先优势 Datadog在APM和可观测研究领域，具备领先优势。根据Gartner披露数据，其将APM和可观测研究领域市场参与者划为四象限，其中Datadog和Dynatrace (DT)处于领导者(Leader)象限，具备非常明显的领先优势。图5：Datadog在APM和可观测研究领域，具备领先优势请请务必阅读正文之后的免责声明及其项下所有内容 Datadog+OpenAI：微调与增强 数据监控对大模型厂商非常重要。监控API的使用情况和Tokens消耗对大模型厂商控制支出和提高应用程序性能非常重要，大模型厂商可以通过优化API的使用、延迟和成本，进而更加有效地使用AI模型。•了解用法：通过简单的设置过程，用户可以使用Datadog快速全面了解OpenAI对API的整体使用情况、tokens消耗和按服务、团队和API密钥划分的成本；•优化性能：通过跟踪API错误率、速率限制和响应时间，Datadog允许用户识别应用程序性能问题并将其与API性能问题隔离开来。此外，用户可以查看包含提示和完成示例的跟踪和日志，以了解关键应用程序瓶颈和用户行为；•跟踪成本：用户可以查看tokens分配并分析OpenAIAPI调用的相关成本。Datadog提供按模型、服务和组织分配的tokens洞察，帮助团队更有效地管理费用并避免意外账单；•涵盖多种AI模型：除了涵盖大型语言模型的GPT系列之外，Datadog的集成还使组织能够跟踪其他OpenAI模型的性能，成本和使用情况，包括Ada，Babbage，Curie和Davinci。图6：Datadog控制和管理数据流请请务必阅读正文之后的免责声明及其项下所有内容APM是IT和SaaS的重要工具APM是IT服务管理(ITSM)的重要工具，主要对软件应用程序的性能和服务质量进行监控和管理。APM工具对于保持应用程序性能，以及在性能出现问题时快速定位和解决问题非常重要。•APM的目标是通过确保应用程序性能达到满意水平，以提高最终用户的体验和满意度。这通常通过追踪和监控应用程序来实现，这些应用程序可能位于数据中心内，也可能在云端。APM工具可以帮助IT和运维团队了解应用程序的性能情况，以便在性能下降时可以及时采取措施进行优化。•APM是SaaS中的重要环节。由于SaaS应用程序通常服务于大量用户并且需求可能随时间变化，所以需要有强大的监控工具来确保服务的稳定性和性能。如果SaaS应用程序出现性能问题，可能会影响到所有用户，这就使得APM在这种环境下更为关键。图7：应用性能管理流程图APM9请请务必阅读正文之后的免责声明及其项下所有内容 图9：Datadog是专注于云端软件基础设施的平台资料来源：Seeking 图9：Datadog是专注于云端软件基础设施的平台资料来源：SeekingAlpha，雪国信经济研究所整理Datadog是一种专注于云端软件基础设施的全维度监测平台。它提供实时的全栈性能可见性，涵盖了从应用程序顶层到中间层的Kubernetes/Docker/Hypervisor，再到操作系统和中间件，甚至包括数据库和第三方服务等完整基础设施堆栈的性能监测。无论是云原生架构还是传统部署，Datadog都能提供全方位的监测服务，帮助用户深入了解其基础设施的性能表现。Datadog的APM解决方案优势有：•细节丰富的性能数据：Datadog收集并展示应用程序的各种性能指标，包括响应时间、请求吞吐量、错误率、数据库查询性能等。•跨平台和跨语言支持：Datadog支持多种编程语言和应用程序框架，包括Java、Python、Ruby、Node.js等。无论应用程序运行在云环境、容器化环境还是传统的物理服务器上，Datadog都能提供全面的性能监测和管理。•实时性强：助力快速问题定位。图10：Datadog的APM应用案例请请务必阅读正文之后的免责声明及其项下所有内容图11：智算中心架构图图11：智算中心架构图请务必阅读正文之后的免责声明及其项下所有内容在复杂的AIGC环境下，智算中心的架构变得更为复杂，这也使得监控系统的价值得到提升。.智算复杂性增加：在智算中心，相较于传统数据中心，CPU、计算卡以及存储实现了高度解耦和按需调用，这使得系统的复杂性显著提升。.大模型训练的复杂性增加：大模型的训练通常需要使用数万张以上的算力卡，并且由于参数数量庞大，通常需要采用更复杂的分布式计算方式。因此，各项资源都需要进行实时监控。图12：大模型训练流程图14：Datadog将互相割裂的IT监测系统进行了整合图14：Datadog将互相割裂的IT监测系统进行了整合由于硬件端和训练端的复杂性，传统的IT监控系统需要进行整合，以满足运维需求。这带来了监控系统价值的提升。.传统的IT监控系统主要关注硬件设备和基本的系统指标，如服务器的CPU利用率、内存使用情况、网络流量和存储容量等。随着技术的进步和复杂的IT环境的出现，监控解决方案需要提供更广泛、更智能的功能，并涵盖了更多的应用层面、云服务和容器化环境。.APM在整合IT监控系统中的价值在于提供全面的应用程序监测、业务影响分析、故障排除和快速恢复、自动化和智能化以及统一的监控视图。Datadog将企业原本的十几个到最多几十个互相割裂的IT监测系统整合成一个，既提高监控效率，又降低企业的IT支出。图13：传统的IT监控系统案例请请务必阅读正文之后的免责声明及其项下所有内容AIGC给APM带来新的投资领域APM在整合IT监控系统中的价值：.全面的应用程序监测：传统的IT监控系统主要关注底层基础设施的性能指标，而APM专注于应用程序层面。通过集成APM工具，可以深入监测应用程序的各个组件、事务和用户体验，提供全面的应用程序性能数据。这样可以更好地了解应用程序的行为和性能瓶颈，并快速识别和解决问题。.业务影响分析：APM不仅提供了应用程序的性能数据，还能帮助分析这些数据与业务指标之间的关系。通过与IT监控系统的整合，可以将应用程序性能数据与底层基础设施的监测数据进行关联，从而更好地理解应用程序性能对业务的影响。这样可以帮助管理员更加准确地评估应用程序的重要性和紧急性，优化资源分配和决策。.故障排除和快速恢复：APM提供了详细的性能指标和事务跟踪数据，可以帮助快速定位应用程序中的性能问题和故障原因。通过整合APM和IT监控系统，管理员可以更快速地识别问题并采取相应的措施。这有助于缩短故障恢复时间，最小化业务中断和用户影响。.自动化和智能化：现代的APM工具往往具备自动化和智能化的功能。它们可以自动识别异常模式、预测潜在的问题，并自动触发警报和通知。通过与IT监控系统的整合，这些智能化的功能可以进一步增强，使监测和响应变得更加高效和准确。.统一的监控视图：整合APM和IT监控系统可以为管理员提供一个统一的监控视图，将应用程序性能和底层基础设施的状态集中在一起。这样可以帮助管理员更全面地了解系统的健康状况，更好地进行容量规划和资源管理请请务必阅读正文之后的免责声明及其项下所有内容AIGC给APM带来新的投资领域大模型的算力消耗较大，成本较高。目前根据根据GPT-4的公开数据，在8K的上下文长度下，每1000个token的提问成本为0.03美金，每1000个token的回答完成成本为0.06美金；在32K的上下文长度下，每1000个token的提问成本为0.06美金，每1000个token的回答完成成本为0.12美金。高效的运维系统对提升训练效率、降低成本有贡献。整合的IT监控系统可实现对智算中心和模型在设计、迭代、部署等全生命周期的监控，提高模型整体训练效率：.优化资源管理：包括计算、存储和网络资源。它能动态分配和调整资源，满足训练需求，避免资源浪费和瓶颈，提高训练效率；.通过自动化工具和流程，实现自动完成环境配置、数据准备、模型部署和监控等一系列运维任务。这减少了人工干预和错误，提高了训练过程的速度和一致性；.通过监控和故障检测功能，及时发现训练环境中的异常情况，如硬件故障、网络问题或资源不足。快速识别并采取适当的纠正措施，减少训练中断时间，提高训练效率。图15：ChatGPT-4访问价格请请务必阅读正文之后的免责声明及其项下所有内容22、Palantir：大模型应用于数据分析请请务必阅读正文之后的免责声明及其项下所有内容图17：PalantirFoundary图17：PalantirFoundary加速了端到端的数据转化资料来源：数字海岸，国信证券经济研究所整理PalantirTechnologies是一家位于美国的软件公司，专注于大数据分析。Palantir提供两款主要产品：•Gotham主要用于政府机构，包括防御和情报部门，用于数据集成、可视化和分析。•Foundry则更偏向于企业市场，可以帮助组织进行数据管理、数据治理和分析决策。图16：Palantir的产品结构达到22亿美元请请务必阅读正文之后的免责声明及其项下所有内容Palantir为特定AI业务需求提供解决方案PalantirPalantir的定制化是其在AI领域内的核心优势。Palantir没有通用工具软件，它的产品中有30%需要定制化，这是其在AI领域的核心优势。•使得AI系统可以更加快速、准确地分析和识别数据模式和关联关系；•通过将AI模型与特定任务或行业进行适配，Palantir可以提供高度专业化的解决方案，从而帮助客户更好地理解和应用数据；•此外，Palantir的定制化还可以提高其安全性和隐私保护能力，使其在敏感领域中更具竞争优势。图18：Palantir的数据分析界面图19：Palantir为军方提供的知识图谱AI分析antir6.2030万亿美元，人工智能军事市场规模将达到到6.2030万亿美元，人工智能军事市场规模将智能市场将增长到6.2030万亿美元，人工智能军请务必阅读正文之后的免责声明及其项下所有内容图20：PalantirAIP的战场Demo图20：PalantirAIP的战场Demo请务必阅读正文之后的免责声明及其项下所有内容达到22亿美元PalantirAIP可应用于军事和民用领域。1)军事领域：PalantirAIP专注于为大型语言模型提高其安全性和隐私保护能力，使其在敏感领域中更具竞争优势，这是美国军方和商业部门的关键利益；2)民用领域：其可用于与金融、医疗保健、政府、零售业等民用领域。图21：PalantirAIP的民用领域AI市场增长加速Palantir收入增长全球AI市场快速增长。根据德勤数据，预计23年全球人工智能市场规模达到4.48万亿美元，预计25年增长至6.40万亿美金，17-25年CAGR达32.10%，全球AI市场快速增长；AI市场增长加速Palantir收入增长。根据Palantir财报披露，受益于AI快速发展，公司业绩快速增长，23Q1实现营收5.25亿美金，同比增长18%。图22：全球AI市场规模快速增长全球人工智能市场规模(单位：万亿美元)yoy(右轴)765432100%0%0%0%0%0%0%76543210201720182019E2020E2021E2022E2023E2024E2025E所整理请请务必阅读正文之后的免责声明及其项下所有内容33、投资建议：关注国内相关映射公司请请务必阅读正文之后的免责声明及其项下所有内容投资建议：关注国内相关映射公司Datadog国内映射标的•Datadog为全球领先的AI数据处理公司，其在APM领域具备先发优势，助力GPT降本增效;•重点关注国内相关数据公司，例如星环科技、博睿数据。Palantir国内映射标的•Palantir是全球领先的数据分析公司，定制化能力为其核心竞争力，其推出的PalantitAIP平台可应用于军事和民间领域；•重点关注国内相关公司，例如航天宏图、中科星图、易华录、太极股份。请请务必阅读正文之后的免责声明及其项下所有内容风险提示第一，宏观经济波动。若宏观经济波动，产业变革及新技术的落地节奏或将受到影响，宏观经济波动还可能对IT投资产生负面影响，从而导致整体行业增长不及预期。第二，下游需求不及预期。若下游数字化需求不及预期，相关的数字化投入增长或慢于预期，致使行业增长不及预期。AI伦理风险:AI可能会生产违反道德、常规、法律等内容。第四，核心技术水平升级不及预期的风险:AIGC相关产业技术壁垒较高，核心技术难以突破，影响整体进度。22请请务必阅读正文之后的免责声明及其项下所有内容免责声明国信证券投资评级类别级别定义股票投资评级买入预计6个月内，股价表现优于市场指数20%以上增持预计6个月内，股价表现优于市场指数10%-20%之间预计6个月内，股价表现介于市场指数±10%之间卖出预计6个月内，股价表现弱于市场指数10%以上行业投资评级超配预计6个月内，行业指数表现优于市场指数10%以上预计6个月内，行业指数表现介于市场指数±10%之间低配预计6个月内，行业指数表现弱于市场指数10%以上分析师承诺作者保证报告所采用的数据均来自合规渠道；分析逻辑基于作者的职业理解，通过合理判断并得出结论，力求独立、客观、公正，结论不受任何第三方的授意或影响；作者在过去、现在或未来未就其研究报告所提供的具体建议或所表述的意见直接或间接收取任何报酬，特此声明。重要声明本报告由国信证券股份有限公司(已具备中国证监会许可的证券投资咨询业务资格)制作；报告版权归国信证券股份有限公司(以下简称“我公司”)所有。，本公司不会因接收人收到本报告而视其为客户。未经书面许可，任何机构和个人不得以任何形式使用、复制或传播。任何有关本报告的摘要或节选都不代表本报告正式完整的观点，一切须以我公司向客户发布的本报告完整版本为准。本报告基于已公开的资料或信息撰写，但我公司不保证该资料及信息的完整性、准确性。本报告所载的信息、资料、建议及推测仅反映我公司于本报告公开发布当日的判断，在不同时期，我公司可能撰写并发布与本报告所载资料、建议及推测不一致的报告。我公司不保证本报告所含信息及资料处于最新状态；我公司可能随时补充、更新和修订有关信息及资料，投资者应当自行关注相关更新和修订内容。我公