DB31∕T 1240.2-2020 公共数据共享交换工作规范 第2部分:平台接入技术要求_第1页
DB31∕T 1240.2-2020 公共数据共享交换工作规范 第2部分:平台接入技术要求_第2页
DB31∕T 1240.2-2020 公共数据共享交换工作规范 第2部分:平台接入技术要求_第3页
DB31∕T 1240.2-2020 公共数据共享交换工作规范 第2部分:平台接入技术要求_第4页
DB31∕T 1240.2-2020 公共数据共享交换工作规范 第2部分:平台接入技术要求_第5页
已阅读5页,还剩44页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

2020-09-01发布2020-11-0IDB31/T1240.2—2020 Ⅲ 1 1 1 2 2 55接入流程要求 65.1接入服务分类 6 6 95.4区接入 附录A(资料性附录)级联错误码对照表 27附录B(资料性附录)级联数据库表格式 28B.1管控数据表 28 附录C(资料性附录)级联文件操作接口 C.2数据文件读写 C.3文件签名接口 附录D(资料性附录)级联系统服务接口 D.1服务列表查询接口 D.2服务详情查询接口 38D.3服务信息注册接口 D.4签名密钥获取接口 45ⅢDB31/T1240《公共数据共享交换工作规范》分为以下2个部分:——第1部分:平台建设和运行管理要求;—第2部分:平台接人技术要求。本部分为DB31/T1240的第2部分。本部分按照GB/T1.1—2009给出的规则起草。本部分由上海市人民政府办公厅电子政务办公室提出并组织实施。本部分由上海市公共数据标准化技术委员会归口。本部分起草单位:上海市大数据中心、上海计算机软件技术开发中心、北京东方通科技股份有限公司。11范围本部分规定了上海市数据共享交换平台的接入技术要求和接人流程要求,包括接人方式、接入要本部分适用于上海市数据共享交换平台各相关单位的接入工作。2规范性引用文件下列文件对于本文件的应用是必不可少的。凡是注日期的引用文件,仅注日期的版本适用于本文件。凡是不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。DB31/T1240.1-2020公共数据共享交换工作规范第1部分:平台建设和运行管理要求3术语和定义DB31/T1240.1-2020界定的以及下列术语和定义适用于本文件。级联cascade市平台与区平台进行业务和数据对接,实现市、区两级平台的互联互通。级联共享区cascadesharedarea用于市、区两级平台级联信息交互的区域,以数据表、文件的方式存储级联过程中的业务数据及交换过程中的资源数据。级联数据文件cascadedatafile级联交换的实际业务数据的载体,主要有两种类型,源于数据库表的数据文件和传统的业务数据文件。市级联系统municipalcascadesystem市平台中实现市、区级联的系统,由市平台负责开发实现,部署于市平台系统环境中(含区级前置系统)。区级联系统districtcascadesystem区平台中实现市、区级联的系统,由区平台负责开发实现,部署于区平台系统环境中。上行接口upstreaminterface市级联系统的组成部分,通过上行接口,区平台向市平台提交资源申请与审核数据、交换业务数据等。21)数据库表交换:在公共数据提供者以数据库表结构化方式存储,并以库表方式进行全2)文件交换:适用于非结构化资源或更新频率比较缓慢的结构化资源的交换。b)服务接口交换:以Web服务作为平台与各接人单位之间数据获取和推送理业务系统提供的Web服务,对外隐藏该Web服务的真实URL,使用代理的URL即可访问通过库表或文件的形式,将数据或文件交换到对方节点,分为数据库交换和文件交换两种形1)节点库表1对1之间的传输任务;2)节点文件夹之间的传输任务;3)双方协商周期性交换的传输任务;4)双方协商一次性交换的传输任务。b)任务发布订阅:公共数据提供者发布数据资源任务,公共数据使用者进行订阅获取数据的交换方式。数据被订阅后,平台将数据推送到订阅单位前置节点。其数据的发布,并限定订阅者的范围,不约束订阅者的行为。任务发1)任务发布者无法明确订阅者对象的传输任务;2)任务发布者认为该数据有价值,可以对外共享的任务。c)资源发布订阅:资源发布订阅交换是通过资源目录中发布和订阅资源进行数据交换的方式。资源发布单位通过交换系统的资源目录注册数据资3的元数据信息可以直观查看资源发布方数据的具体业务含义,并根据业务需要订阅数据。数据订阅后,交换系统将数据交换到资源订阅单位节点。一般下列情形采用此类交换:1)资源发布者无法明确订阅者对象的传输任务;2)资源发布者认为该资源有价值,可以对外共享的传输任务;3)资源订阅者需要了解资源发布方数据的业务含义。a)手动触发:基于直接交换中配置好的任务和流程,手动启动交换、停止交换的一种触发方式,手动触发方式任务只执行一次;b)自动触发:平台按照设定的运行周期执行交换的一种触发方式。前置机抽取方式主要包括:a)触发器:在源数据库中建立相应触发器,当数据发送改变时直接触发数据的抽取和交换;b)时间戳:通过源表中的时间戳字段来标记数据的新增、修改,每次只抽取从上次抽取结束时间开始的增量数据;c)标志位:通过在源表中设计标志位字段来标记数据是否已经被抽取,交换系统在完成数据抽取后会修改该标志位,从而实现增量交换。交换运行周期设定是平台内交换任务、发布订阅任务、资源发布订阅任务的执行时间设定,平台提供两种交换运行周期:a)循环时间间隔:配置时间间隔为运行周期,交换以此时间间隔持续运行;b)定时器规则:配置的具体时间点为运行周期,当时间点满足时触发交换运行。交换策略是指平台运行时如何获取数据的规则,平台提供两种交换策略:a)全量交换:平台一次性将数据库表中的所有数据交换到目标节点的交换方式。全量交换要求业务库表应具有主键标识。b)增量交换:指平台周期性从数据库表中获取最新数据并交换到目标节点的交换方式:1)时间戳交换:平台根据业务数据的时间戳变化获取增量数据,并将增量数据交换到目标节点的交换方式;2)标识位交换:平台根据业务表中的标识字段值的变化获取增量数据并将增量数据交换到目标节点的交换方式;3)触发器交换:平台利用数据库触发器获取增量数据并将增量数据交换到目标节点的交换方式。平台具备全面的数据支撑能力,在表字段数量、长度和数据类型等方面无任何限度和数据类型等仅受当前接入的数据库类型制约。平台提供多种数据库支持能力以及数据库类型转换4b)类型转换支持:不同数据库之间相同类型的字段可以相互转换。4.1.3服务接口公共数据提供者以服务接口方式共享资源时,可选择的接口类型包括:REST和WebService。为确保服务接口的标准性和可用性,服务接口统一按照以下协议规范和技术要求对外呈现:a)服务传输协议:采用HTTP/S1.0/1.1标准;b)服务消息协议:WebService服务消息封装协议采用SOAP1.1/1.2标准;REST协议采用HTTP1.0/1.1标准;c)服务描述:应包含服务调用者使用的具体访问接口内容,主要包括数据类型定义、操作、交互消息格式和内容、端口类型及绑定等内容,内容格式应按照WSDL1.1的规定进行描述:1)数据类型定义应按照XMLSchema1.0规范的规定使用;Schema1.0规范的规定使用;3)端口类型(PortType)应定义Web服务的操作,及操作中对应的输人输出参数和消息交互模式;4)绑定形式应使用DocumentLiteral/Wrapped文档风格,禁止使用RPCEncoding及Doc-umentEncoded形式,应使用SOAP1.1/1.2版本标准,通信应绑定HTTP/S标准协议;5)消息字符集和编码应保持一致,应采用GBK或UTF-8。服务接口调用频次平台提供服务接口的调用频次控制功能,以实现对服务调用方在单位时间内调用某个具体服务接口的总次数进行控制。调用频次的单位为次/d。为确保服务接口的安全性,平台提供服务接口应统一按照以下方式进行安全控制:a)客户端访问控制:对公共数据使用者的使用权限进行控制,主要表现为申请授权和权限验证。公共数据使用者在需要使用某个服务接口时,需要首先通过市平台发起对该资源的使用申请,申请时需要添加身份信息(包括组织机构名称、IP地址、应用场景、应用系统、申请人、联系方式),市平台在完成相关信息审核或备案后,为申请方分配唯一的身份标识并提供授权码(AP-PKey),公共数据使用者每获得一个服务接口的使用授权,市平台都将为其生成一个授权码,即一事一码。公共数据使用者在获得服务接口的使用授权后,在发起服务调用时,需要在请求信息中携带自己的身份标识及相关签名信息,市平台在收到使用方的服务调用请求后,会验证请求信息中的身份签名信息,从而判断该请求是否为合法用户的请求,达到验权的目的。b)动态密钥:公共数据使用者在发起服务调用前,首先需要使用已经获得的授权码获得服务调用的动态密钥,然后使用动态密钥完成对服务的请求。动态密钥具有有效期限制,目前动态密钥的有效期为1d,每日24时后密钥自动过期。c)签名验签:公共数据使用者在发起服务调用时,需要使用获得的动态密钥对请求头信息进行签名,然后将签名信息写入消息头一并发送到市平台。市平台在收到公共数据使用者的请求后进行验签工作,即市平台使用同样的动态密钥、同样的签名算法对用户的请求信息进行加密,5将加密结果与请求中携带的签名信息进行比对,从而验证该请求是用户的真实请求。d)请求时间戳:公共数据使用者在发起服务调用时,需要在请求头中携带本次请求的时间戳,市平台在收到请求信息后,会验证该时间戳的有效性,如果请求时间戳超时严重则拒绝该请求。e)服务端访问控制:服务端代理管控服务器在请求原始服务时,可通过事先约定的格式,在请求信息中携带原始服务提供方为其颁发的身份信息,从而使原始服务能够验证其身份合法性。目前支持HTTPBasic认证及自定义认证方式。4.2接入要求在数据共享交换过程中,平台的性能指标主要有数据库性能、消息传输性能、交中部分性能指标与前置机的CPU、内存和网络环境等有密切的关系。在完成数据交换流程配置、监控和管理等过程时,其综合性能应全面考虑各项指标对平台的影响。4.2.2前置机为保证前置机方式交换数据的性能,配置相关资源时应关注以下指标项:a)交换实例上限:数据交换实例是系统中真实运行的独立交换线程,每一个交换实例都对应于一张表的交换。在交换系统中,可以通过以下交换配置产生数据交换实例:1)数据交换流程配置,一个交换流程产生一个交换实例;2)数据发布订阅,一个订阅产生一个交换实例;3)资源目录发布订阅,一个订阅产生一个交换实例;b)数据库表交换吞吐量:数据库表交换的性能受硬件配置、网络带宽、通信交互等因素制约,随着综合环境的好转,最大数据库表交换的吞吐量呈线性增长c)文件交换最大值:文件交换的最大值与操作系统有重要关系,但在64位系统中,文件大小不受d)传输效率:数据传输过程中,要经过交换机、路由器、防火墙、加解密等各个环节,考虑到这些网络软、硬件对数据传输时间的损耗,实际传输效率最高大约为理论传输效率的70%。前置机性能指标见表1。表1前置机交换性能指标指标项中等业务量1硬件参数(最低配置)CPU:4核2.6GHz网卡:100Mbps网卡:100MbpsCPU:16核2.6GHz网卡:100Mbps23单个文件大小456接口并发访问的性能需求。公共数据提供者采用服务接口进行资源共享时,应采c)响应时间:1s,最长不超过3s。b)基于数据文件的共享交换服务;c)基于服务接口的共享交换服务。者根据交换业务需求确定前置机的基本硬件配置,交换量评估时应按照每条数据不超过10K交换量描述(条/d)CPU(最低配置)内存(最低配置)磁盘(最低配置)中等业务量10-100万100万以上72)数据库:各接入单位按需在前置机上部署交换前置数据库,在业务库表结构的基础上在前置数据库创建交换表;a)级联数据库安装及数据库初始化:1)数据库应选用符合市区级联需要的商用数据库产品;2)需在数据库中按照要求创建表并进行初始化,建表程序由市平台统一提供。b)文件存储区建立:1)级联共享服务器提供数据库和文件系统,前置机和级联系统服务器可共享使用,由各区进行管理,级联共享服务器中的文件系统需与区前置节点服务器连通,满足区平台和市2)前置机中部署的级联程序需要访问级联共享服务器中的数据库和文件系统,各区需要配置网络端口保证前置机和级联共享服务器的联通;3)级联共享区主要用于存储级联过程中共享的数据,可根据各单位级联交换数据量大小配各单位前置机IP由平台管理部门统一规划并下发。方向口在程序部署时使用,后期可关闭库表、文件交换程序运行使用区平台->市平台服务接口程序运行使用b)telnetIP端口。8成便于公共数据使用者识别与应用的可共享数据。为保证数据交换的顺利实施公共数据提供者应做好以下准备工作:a)数据交换方式、触发方式、抽取方式、运行周期、交换策略等应满足第4章接人技术要求中规定的接人方式;b)应将业务库和交换库进行隔离,避免因数据交换影响正常业务系统使用;c)应保证数据的有效性、完整性以及与实际业务数据的一致性,业务数据发生变化或更新需要按约定更新频率及时更新到交换前置库;d)应保证提供给多个使用方的数据是一致的,应针对公共数据使用者订阅时间不定等因素制定相关数据提供策略;e)应保证从业务数据库到交换前置库数据转移过程中的数据安全。公共数据提供者将已经明确的可共享信息资源,采用文件方式接入市平台,部门应根据自身业务数据形成周期、保存方式、文件大小等因素综合考虑设定文件交换任务,同时采用安全手段将文件传输至前置机。为保证数据交换的顺利实施,公共数据提供者应做好以下准备工作:a)应明确可共享的数据文件、共享范围及更新机制;b)应明确对数据的加密、签名等安全保密措施;c)应保证数据在前置机上的安全性;d)应通过FTP、SFTP等方式,按数据更新周期约定,及时将可共享文件上传至前置机交换目录。部门自建平台,并对外提供接口服务,作为公共数据提供者将已明确的可共享信息资源,采用服务接口方式接人市平台,部门根据内部信息系统整合的推进情况,做好以下准备工作:a)应明确服务接口的可共享信息项、共享数据及更新机制;b)根据业务需求完成服务接口的设计方案,应用于指导服务接口的技术实现;c)建立政务外网共享服务区,作为服务接口共享专用部署环境,接入政务外网,且要确保不影响部门内部信息系统的正常运行;d)服务接口应随着公共数据使用者的增多,实现性能的可扩展;e)公共数据提供者基于本部门可共享数据资源,进行服务接口开发,形成可以对外共享的服务接口;f)为确保服务接口的标准性和可用性,公共数据提供者提供服务接口应满足第4章节接入技术要求中规定的接入方式。建议事项包括:1)为避免外部服务调用对业务生产系统造成影响,建议将共享服务数据与生产数据分离,通过数据镜像等方式实现服务接口;2)为提供高并发、大规模的数据服务能力,公共数据提供者通过预估访问量,采用负载均衡、多读镜像库等方式提高服务接口并发能力;3)对于访问量小、不影响生产运行的系统,部门可以委托市平台进行接口开发并对外提供服务。准备接入市平台的单位,需要向平台建设管理单位申请创建组织机构信息。9准备接入市平台的单位,需要向平台建设管理单位申请创建相关账号,提交包括账号创建申请及创建账号信息。平台建设管理单位在接到接入单位的账号创建申请后,为其分配初始账号。平台建设管理单位将根据接人单位的申请为其账号分配相应权限,各接入单位用户账号可授权的角色权限包括:a)节点管理员:负责本部门的用户及权限相关设置;c)节点审核员:负责对节点操作员的操作进行审核。5.3部门接入市平台将各区及各委办桥接至前置机的发布资源归集至市级数据湖。公共数据提供者通过平台的任务发布订阅功能将资源进行归集,指定市级数据湖为接收节点(只有市级数据湖用户能够看到已发布的资源)。采用数据库表方式进行交换时,公共数据提供者需对库表资源进行数据源配置、资源归集,流程见开始数据桥接数据源配置资源创建资源归集结束图1库表资源发布流程库表资源发布流程步骤包括:a)数据桥接:业务系统技术人员应采用技术手段(如:系统数据同步、手工数据导入等),将需要对外共享交换的数据,加载到前置机交换数据库表中,并按照业务要求对交换库表中的数据进行及时更新;b)数据源配置:节点操作员应在平台中创建对应的数据源,作为对外交换的数据来源地,管理配置信息包括数据源名称、数据库类型、数据库驱动类名等;资源发布;d)资源归集:节点操作员应根据已发布资源信息创建数据库表资源,并对发布资源进行资源订开始b)资源创建:针对已上传的共享文件,节点操作员应创建径、文件名,所属前置节点,发布时间间隔,指定市级数据湖为接收节点,完成交换资源发布;采用数据库表方式进行交换时,公共数据使用者需对库表资源进行订阅,流程见图3。节点操作员节点操作员业务系统技术人员节点操作员资源申请接收表建立数据源配置资源订阅结束图3库表资源订阅流程库表资源订阅流程步骤包括:a)资源申请:公共数据使用者节点操作员应通过目录系统查找所需资源,向公共数据提供者提出使用申请。c)数据源配置:针对用于接收共享数据的数据库表,节点操作员应在交换系统中创建对应的数据源,作为交换数据的目的地。d)资源订阅:节点操作员查找到所需资源后进行订阅,应将上一步创建的数据源设定为订阅接收并设置接收到的数据字段与接收表字段的映射关系。订阅成功后默认自动启动。业务系统技术人员采用技术手段(如:系统数据同步、手工数据导出等),将接收到的数据库表内容获取到业务系统中使用。文件资源订阅采用文件方式进行交换时,公共数据使用者需对文件、文件夹资源进行订阅,流程见图4。结束图4文件资源订阅流程文件资源订阅流程步骤包括:a)资源申请:公共数据使用者节点操作员应通过目录系统查找所需资源,向公共数据提供者提出使用申请。b)资源订阅:节点操作员查找到所需文件资源后应进行订阅,并设置订阅的文件接收目录。订阅成功后默认自动启动。业务系统技术人员采用技术手段(如:FTP下载、手工拷贝等),将前置机接收到的文件获取到业务系统中使用。公共数据使用者通过目录系统查找所需资源,申请使用公共数据提供者发布的服务,流程见图5。节点操作员节点操作员平台审核员/节点审核员节点操作员服务资源查询服务资源申请服务资源授权服务资源使用图5服务资源订阅流程服务资源订阅流程步骤包括:a)服务资源查询:节点操作员应通过目录系统提供的接口列表、分类检索和接口搜索功能进行资源信息的查找,从而获得相关的服务接口信息。b)服务资源申请:节点操作员查询到服务资源后,应在线填写服务使用申请,根据页面指示填写申请信息,如申请使用时间等。提交申请,等待授权。c)服务资源授权:对无条件共享的服务资源,应由平台审核员进行服务授权并向公共数据提供者备案;对有条件共享的服务资源,由公共数据提供者节点审核员进行服务授权。d)服务资源使用:公共数据使用者应在获得授权后按服务协议要求进行使用。公共数据使用者部门根据服务接口描述信息进行服务调用开发,封装申请授权等相关信息,进行服务接口调5.3.3部门自建平台接入服务资源二次代理部门有自建交换平台,并对外提供接口服务,需通过市平台将服务二次代理发布供各部门使用。市部门对服务资源进行注册、发布,流程见图6。开始结束服务注册图6服务资源发布流程公共数据提供者通过服务管理系统进行服务注册,经过审核发布后的服务信息在目录系统对外展现。部门自建平台服务资源发布流程主要包括:a)服务注册:节点操作员进行服务注册,应根据系统提示将服务信息注册到系统中,提交审核。b)服务注册审核:节点审核员登录平台,应对注册的服务进行审核,确认服务信息描述正确以及服务地址可访问。c)服务质量审核:平台审核员应对服务进行质量审核。质量审核通过之后,服务的状态会变成“待测试”,待通过可用性测试之后,服务自动发布,可供其他部门查询申请。d)服务发布进度查看:节点操作员可以随时登录交换系统中查看服务资源发布的审核状态,如果因信息填写或其他原因被平台管理员退回,则应及时进行信息的修改和重新提交等工作。如果服务审核通过,则可以通过目录系统查询到该服务。交换日志信息归集部门自建平台,应将自建平台数据资源的使用情况以交换日志形式归集到市平台,交换日志信息项、归集方式和归集周期要求主要包括:a)交换日志信息应采用明文、结构化方式存储,须归集数据字典用来说明信息项业务含义。信息项至少包括:1)库表交换:交换批次号、交换发送时间、交换接收时间、交换数据发送部门、交换数据接收2)文件交换:文件发送时间、文件接收时间、文件发送部门、文件接收部门、文件名、文件大小等;3)服务调用:服务调用时间、服务调用IP、服务提供部门、服务调用部门、服务名,服务响应时间、服务调用结果(成功/失败)等;b)归集方式:交换日志信息可采用库表、文件或服务接口方式,通过前置机同步到市级数据湖;c)归集周期:在交换任务或服务调用发生时,同步将交换日志信息发送给市平台。a)交换管理中心服务器硬件要求见表4;内存数量/台1b)中心交换节点服务器硬件要求见表5;交换量描述/(条/天)内存数量/台中小业务量0-100万2100万以上2c)服务管理服务器硬件要求见表6。内存数量/台中小业务量221)交换管理中心软件:市级分平台需在交换中心部署交换管理中心软件,用于交换过程的监2)中心交换节点软件:市级分平台需在交换中心部署交换节点软件,用于发送和接收数据。3)服务管理软件:市级分平台需在交换中心部署服务管理软件,用于服务的发布、监控、管b)服务器端口开放策略见表7。表7各服务器需要开放的网络端口及开放策略交换管理中心SSH远程安装程序使用交换管理中心软件程序运行使用中心交换节点SSH远程安装程序使用中心交换节点软件程序运行使用SSH远程安装程序使用服务管理软件程序运行使用服务接口程序运行使用注:市级分平台交换管理中心软件、中心交换节点软件、服务管理软件由平台管理部门统一安装部署。市级分平台联调测试通过后,交付区平台建设管理单位使用。5.4.2使用自建平台接入级联组成结构市区级联对接应基于统一的系统组成结构和接口报文通道标准进行基础设施建设,各区平台的级联模块(区端)的系统开发人员应参考本章节内容进行市区级联对接。系统组成结构和接口报文通道要求主要包括:a)系统组成结构:市平台与区平台的交换系统级联功能,由交换级联子系统提供实现。交换级联子市平台交换级联市平台交换级联市端前置机级联模块(市端)级联共享数据库访问文件读写服务访问级联模块(风端)区平台服务器图7系统组成结构1)交换软件:交换软件应部署在区前置机上,实现市平台内跨节点的数据交换、服务接口调用功能。同时,交换软件与区平台之间应以服务接口方式进行互动。2)级联模块(市端):应将市平台推送给区平台的数据写入级联共享区,并将区平台推送给市平台的数据从级联共享区取出。3)级联共享区:应由数据库和文件存储构成,为级联模块(市端)与级联模块(区端)的交换缓存区,用于存储平台交换级联的资源发布信息和数据。4)级联模块(区端):应用于实现与级联模块(市端)对接。级联模块(区端)提供市、区平台交换数据在级联共享区的读取和写入功能,提供区平台内部资源的加工处理和接口调用功能。级联模块(区端)调用市平台交换软件提供的服务代理接口,实现对市平台服务接口资源的调用。b)接口报文通道:市平台与区平台的交换级联,应支持数据库表交换、文件交换和服务接口三种交换方式。级联模块(区端)与市平台之间的级联接口报文通信方式见表8。表8级联接口报文通信方式级联共享区级联共享区服务接口Web服务接口与交换软件进行Web服务调用级联共享区及连接方式市平台与区平台通过级联共享区进行库表与文件的级联交换,级联共享区中的内容包括管控数据和交换数据,具体要求包括:a)管控数据:平台级联时资源发布信息的交互报文,应用以触发对方级联模块对资源发布信息进行获取和处理。管控数据的存储方式是数据库表。级联共享区中的管控数据存放在两张库1)MNG_DATA_DOWN表:管控数据下行表应用于存放市平台推送给区平台的资源发布信息;2)MNG_DATA_UP表:管控数据上行表应用于存放区平台推送给市平台的资源发布信息。b)交换数据:平台级联时的业务数据载体,包括数据描述信息和数据文件。数据描述信息存储方式是数据库表,数据文件的存储方式是文件。数据描述信息存放在两张库表中:1)DATA_DESC_DOWN表:数据描述下行表应用于存放市平台推送给区平台的数据文件描述信息;2)DATA_DESC_UP表:数据描述上行表应用于存放区平台推送给市平台的数据文件描述信息。市区级联管控数据和交换数据发生异常时,可参见附录A进行故障处理。市平台与区平台进行级联交换时,两端的级联模块对级联共享区的典型操作模式见图8。级联模块(市端)级联模块(市端)数据描述下行表级联模块(区端)数据描述数据级联模块(区端)级联模块(市端管控下行表数据读取交换数据库私有协议等。b)文件操作:数据文件应存放在市平台区前置机的文件路径下。各区平台可根据实际情况选择资源发布信息。基本流程参考见图9:1)应从管控数据下行表(MNG_DATA_DOWN)中获取未读的记录(判断依据:OPERAT_3)处理完成后,应更新管控数据下行表(MNG_DATA_DOWN)中该记录的读取状态,将DB31/T1240.2—2级联模块(区端)级联模块(区端)数据描述下行表管控致据数据b)推送数据:当市平台推送交换数据给区平台时,级联模块(区端)从共享区中获取交换数据。基本流程参考见图10:1)应从数据描述下行表(DATA_DESC_DOWN)中获取未读的记录(判断依据:OPERAT_2)记录中的FILE_PATH字段3)应通过记录中的MNG_ID字段从管控数据下行表中找到对应的记录,得到本次交换数据4)应使用市平台提供的文件解析API对文件进行解析,并结合数据描述下行表中的文件描5)应结合发布资源信息、数据内容、数据描述相关信息,进行相应处理(如:在区平台缓存,供区平台数据交换时使用);6)处理完成后,应更新数据描述下行表(DATA_DESC_DOWN)中该记录的读取状态,将管控数据下行表级联共享区关联的发布信息级联模块(×瑞,数据描述下行表数据文件图10接收数据发送级联交换数据应按照如下标准执行:写入资源发布信息。基本流程参考见图11:1)应准备好资源发布信息等相关内容,向管控数据上行表(MNG_DATA_UP)中写人发布数据描述写入管控数据管控数据上行表图11发送资源发布信息b)发送交换数据:当区平台需要发送交换数据给市平台时,级联模块(区端)向共享区中写人交换数据。基本流程参考见图12:1)使用市平台提供的文件生成API,应将待交换的数据生成相应的数据文件,并将数据文件2)应向数据描述信息上行表(DATA_DESC_UP)中写入待交换数据的描述信息,其中:CREATE_TIME的值设置为当前的系统时间。管控致据上行表2.写入数据描述信息1.放入文件组联模块(x端》上行表图12发送数据级联数据库表格式参见附录B。级联文件操作接口参见附录C。1)发布资源时,公共数据提供者应将库表类型的资源发布信息完整、准确地写入管控上行2)公共数据提供者每次提供数据时,应将数据文件放人级联共享区,同时提供与文件一一对3)库表交换方式下,若已有多个部门或区级单位订阅,应由市平台提供单次数据的组播4)区平台公共数据使用者应从管控数据下行表中获取资源发布信息,从数据描述下行表中区平台(数据提供方)区平台(数据需求方)开始开始资源发布信息获取资源发布信是错误返回错误码提示提供方进行修正息否资源信息交换数据是否是描述信息数据文件.文件,进行预处理有错设正描述信息文件描述信息文件图13库表交换流程图1)发布资源时,公共数据提供者将资源发布信息写入管控上行表,并提供包含文件夹路径的数据描述信息。市平台进行处理后,文件夹资源信息即可在市平台上展现,并开始接2)公共数据提供者每次提供文件时,只需将文件放入指定的文件夹路径下即可。3)文件夹交换方式下,若已有多个部门或区级单位订阅,由市平台对每个文件进行组播4)区平台公共数据使用者从管控数据下行表中获取资源发布信息,从数据描述下行表中获取下行数据文件的相关信息。区平台(数据提供方)向管控上行表写是检查是否有错返回是更正信息资源发布信息数据描述信息获取资源发布信息信息是否有错识否错误码错误码行修正资源信息资源信息台区平台(致据需求方)息,进行处理件文件描述信息求部门图14文件夹交换流程图c)文件交换:支持一次发布,一个文件。文件交换处理流程见图15:1)发布资源时,公共数据提供者将资源发布信息写入管控上行表,将文件放入级联共享区,并提供与文件对应的数据描述信息(文件共享时,一次发布只可包含一个共享文件);2)公共数据提供者完成上述整个流程后,市平台进行处理,文件资源信息即可在市平台上展3)文件共享方式下,若先后有多个部门或区级单位订阅,由市平台针对本共享文件自动多次推送,无需公共数据提供者重复提供;4)区平台公共数据使用者从管控数据下行表中获取资源发布信息,从数据描述下行表中获取下行数据文件的相关信息。注:级联交换过程中,区平台提供资源发布信息或数据后,可通过管控上行表或数据描述上行表中的OPERAT_(错误码)获取市平台预处理的结果。市平台采用周期性处理模式,默认处区平台区平台(数据提供方)开始表入描述信息是检查是否有平台发布结束请和订阅,指定数资源发布信息数据描述信息文件台息区平台(数据需求方)描述倍息文件信息是否有错突资源信息错误码开始否图15文件交换流程图表9管控上行表说明主键(UUID)一是一发布资源的名称是—资源来源机构编码是一资源发布范围机构编码是约束:1.被删除的机构,不会得到系统提示通知;清理。数据源类型否否否是一1:启用2:停用3:删除缺省值为1是支持状态变更。不支持:启用->删除注:若连续两次进行状态变更,应间隔至少1:已读一是该条记录的创建时间一一—RESERVE_1一RESERVE_2RESERVE_3一2)WebService上行人口地址:ip:port/wsproxy,其中ip:port,为市平台服务人口的IP地市平台服务入口的IP地址和端口,由市平台提供。系统服务接口说明见附录D。图16系统服务签名流程b)业务服务签名流程:区平台用户登录市平台,进行服务检索申请,申请时需说明需求部门信图17业务服务签名流程级联交换日志信息归集区自建平台,应将自建平台数据资源的使用情况以交换日志形式归集到市平台,交换日志信息项、归集方式和归集周期要求包括:a)交换日志信息应采用明文、结构化方式存储,须归集数据字典用来说明信息项业务含义。信息项应至少包括:1)库表交换:交换批次号、交换发送时间、交换接收时间、交换数据发送部门、交换数据接收(使用)部门、交换数据使用人、交换数据表名(源表、目标表)、发送数量(条)等;2)文件交换:文件发送时间、文件接收时间、文件发送部门、文件接收(使用)部门、文件使用3)服务调用:服务调用时间、服务调用IP、服务提供部门、服务调用部门、服务名,服务响应时间、服务调用结果(成功/失败)等。b)归集方式:交换日志信息可采用库表、文件或服务接口方式,通过前置机同步到市级数据湖。c)归集周期:在交换任务或服务调用发生时,同步将交换日志信息发送给市平台。级联错误码对照表见表A.1。1管控表PUB_ID值无效2管控表PUB_NAME值无效3管控表TYPE值无效4管控表STATUS值无效56789管控表TYPE值不可变更管控表STATUS值变更不合规管控表CATALOG_ID值无效管控表BIZ_CODE值无效(资料性附录)级联数据库表格式B.1管控数据表B.1.1表结构级联管控数据库表结构见表B.1。表B.1管控数据表结构字段类型非空说明主键(UUID)发布ID,本次发布资源的编号发布资源的名称资源来源机构编码(采用统一社会信用代码)全国发布的情况:此处直接填写字符串“all”数据源类型:1:文件用json串表示的公共数据提供者的库表schema。键、列名、数据类型等;管理部门统一通知)发布资源的状态:1:启用2:停用3:删除。缺省值为11:已读该条记录的创建时间最后一次修改记录的时间表B.1(续)字段类型非空说明RESERVE_1RESERVE_2RESERVE_3B.1.2接口规范B.级联模块(市端)将市平台上发布的可共享资源信息写人管控数据下行表(MNG_DATA_B.级联模块(区端)将区平台上的可共享资源信息写入管控数据上行表(MNG_DATA_UP),B.1.2.2管控数据表的读写B.级联模块(区端)连接管控数据下行表(MNG_DATA_DOWN),读取相应的信息,根据处理B.级联模块(区端)连接管控数据上行表(MNG_DATA_UP),写入相应的信息。B.级联模块(市端)连接管控数据上行表(MNG_DATA_UP),读取相应的信息,根据处理结B.1.2.3管控数据关键数据项定义与操作描述B.资源状态:设置本次发布资源的状态,如:1(启用)、2(停用)、3(删除)。默认发布为1(启B.0操作状态:用以提示对端级联模块进行信息处理的标志位,写入方赋值0(未读),读取方读取完成后更新该字段为1(已读)。B.1创建时间:标记本条记录的生成时B.2修改时间:标记本条记录最近一次处理的时间,任何一方在对记录中其他字段更新时同步更新。B.3错误码:标识本条记录在读取时发生的错误,由读取方进行赋值,提示写人方进行更正处理。B.1.2.4规则和约束B.市平台、区平台在新增、停用、变更、删除发布之后,均需要级联模块操作相应级联共享区中的数据。B.级联模块(区端)应能够及时地发现级联共享区中发生的变化,并据此进行相应的操作。数据写入方要保证“数据schema”能够真实有效地体现即将提供的数据格式。B.1.3操作说明B.1.3.1写入要求写入方发布资源时,根据管控表格式要求,准备资源发布信息,并按照标准的数据库操作方式写入。写入数据时,设置OPERAT_STAT的值为0(“未读”),设置CREATE_TIME的值为当前时间,设置LAST_MODIFY_TIME的值为空。B.1.3.2错误处理级联模块(区端)应对写人管控上行表的信息处理状态进行监控,若发现错误码,应按照错误码提示,对错误进行处理,并更新本条资源发布信息,更新时设置OPERAT_STAT的值为0(“未读”),设置LAST_MODIFY_TIME的值为当前时间。B.1.3.3记录检查读取方查询表中记录,对OPERAT_STAT值为0的记录进行读取和字段有效性检查,检查时若发现字段值存在错误,应更新记录中的错误码,并将OPERAT_STAT的值更新为1(“已读”),设置LAST_MODIFY_TIME的值为当前时间。B.1.3.4状态设置读取方读取数据处理完成后,将OPERAT_STAT的值更新为1(“已读”),设置LAST_MODIFY_TIME的值为当前时间。管控表中的DATA_SCHEMA字段,采用json串描述待发布数据的schema。如果资源类型为库B.2数据描述表B.2.1表结构数据描述表结构见表B.2。表B.2数据描述表结构类型非空备注主键(UUID)管控数据表的外键数据源类型:1:文件关联的数据文件大小(单位:字节)。TYPE为0关联的数据文件存放路径。对文件的数字签名。数据文件是否为zip压缩格式:0:否1:是1:已读targetCode是数据交换目标机构编码;1:已到达time是送达时间,类型为TIMESTAMP,当status为0时,该字段的值为空该条记录的创建时间数据清理期限(单位:d)最后一次修改记录的时间RESERVE_1RESERVE_2RESERVE_3B.2.2接口规范B.2.2.1数据操作描述B.当进行实际的数据级联交换时,级联模块(市端)、级联模块(区端)将各自的交换数据写入到级联共享区,数据描述信息描述这些数据的相关信息;B.当级联模块(市端)、级联模块(区端)从共享级联共享区中读取数据时,需要获取匹配的数据描述信息,并根据描述信息执行相关的动作(如获取文件,解析数据等)。B.2.2.2数据描述表的读写B.级联模块(区端)连接数据描述下行表(DATA_DESC_DOWN),读取相应的信息,根据处理B.级联模块(市端)连接数据描述信息上行表(DATA_DESC_UP),读取相应的信息,根据处理B.2.2.3数据描述信息关键数据项定义与操作描述B.管控数据表的外键:与管控数据关联,描述本次级联交换的数据所关联的资源信息。数据描述信息必须与管控数据关联,一条管控数据可以被一条(数据源为文件、文件夹)或者多条(数据源为库表)数据描述信息所关联。B.数据源类型:交换的数据源类型,取值为0(数据库表)、1(文件)或4(文件夹)。该字段的值,必须与关联管控数据TYPE字段的值一致。B.数据记录条数:记录数据文件中的数据条数。TYPE为0(数据库表)时必填,且为文件中实际数据条数。B.数据文件路径:记录数据文件的存放路径。TYPE为0或1时,为文件全路径;TYPE为4(文件夹)时,为文件夹路径。B.文件签名:对文件的数字签名。双方的级联模块通过文件签名与验签,检查文件一致性。TYPE为0或1时,若写人方提供签名,读取方应进行验签。TYPE为4时,为空,为确保一致性,文件签名和验签使用统一提供的API接口进行调用处理。B.压缩标识:表示数据文件是否经过zip压缩。通过统一提供的API生成数据文件后,级联模块可自行将数据文件压缩成zip格式文件,以减少存储占用,若提交的是压缩文件,则赋值1(是),否则赋值0(否)。B.操作状态:用以提示对端级联模块进行信息处理的标志位,写人方赋值0(未读),读取方读取完成后更新该字段为1(已读)。B.目标机构、送达状态、送达时间:数据交换目标可以是多个部门,使用JSON串来描述每个部门以及各自的数据到达状况和到达时间,到达状态包括未到达、已到达;当状态为0(未到达)时,到达时间的值为空,读取方完成数据交换后,对该记录进行回写,设置送达状态为1(已到达)、写入实际送达时B.0创建时间:标记本条记录的创建时间。B.1数据清理期限:数据到期清理的期限,单位为d。以创建时间为基础,加上期限的天数后,即为数据自动清理的时间。B.3错误码:标识本条记录在读取时发生的错误,由读取方进行赋值,提示写入方进行更正处理。B.写入方需要确保数据描述信息中各项记录真实性和有效性。设置FILE_PATH为实际关联的数据文件存放路径,设置LAST_MODIFY_TIME的值b)级联模块(区端)应保证写人的描述信息能够正确描述其关联的数据文件。提示,对错误进行更正处理,并更新本条数据,更新时设置OPERAT_STAT的值为0("未d)读取方查询表中记录,对OPERAT_STAT值为0的记录进行读取和字段有效性检查,检查时若发现字段值存在错误,应更新记录中的错误码,并将OPERAT_STAT的值更新为1(“已C.1概述C.2数据文件读写C.2.1接口说明接口调用流程见图C.1。voidapperadAndritcRomData(StriL.ist<RomlData>readRowData(StmgfilePath)booleanhasNext0List<Colunlata>colunvoidaddoluanData(ColumDatacbooleanpkColumn图C.1接口调用流程a)voidappendAndWriteRowData(StringfilePath,RowDatarowdata):向指定的文件中写入c)next():逐个读取文件中的数据并返回RowData对象,使用该方法前需先用hasNext()方法对象RowData封装了ColumnData对象,提供添加ColumnD(ColumnDatacolumnData),并包含2个属性:a)List<ColumnData>columnDatas:该对象中封装的ColumnData对象的列表;

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论