标准搜索结果: 'GB/T 38673-2020'
| 标准编号 | GB/T 38673-2020 (GB/T38673-2020) | | 中文名称 | 信息技术 大数据 大数据系统基本要求 | | 英文名称 | Information technology -- Big data -- Basic requirements for big data systems | | 行业 | 国家标准 (推荐) | | 中标分类 | L67 | | 国际标准分类 | 35.240 | | 字数估计 | 14,110 | | 发布日期 | 2020-04-28 | | 实施日期 | 2020-11-01 | | 引用标准 | GB/T 35295-2017; GB/T 35589-2017 | | 起草单位 | 中国电子技术标准化研究院、华为技术有限公司、北京大学、中国人民大学、中兴通讯股份有限公司、浪潮电子信息产业股份有限公司、阿里云计算有限公司、天津南大通用数据技术有限公司、北京百分点信息科技有限公司、复旦大学、南京大学、东南大学、北京和仲宁信息技术有限公司、北京启迪区块链科技发展有限公司 | | 归口单位 | 全国信息技术标准化技术委员会(SAC/TC 28) | | 提出机构 | 全国信息技术标准化技术委员会(SAC/TC 28) | | 发布机构 | 国家市场监督管理总局、国家标准化管理委员会 | | 范围 | 本标准规定了大数据系统的功能要求和非功能要求。本标准适用于各类大数据系统要求的设计、选型、验收和检测。 | GB/T 38673-2020: 信息技术 大数据 大数据系统基本要求
GB/T 38673-2020 英文名称: Information technology -- Big data -- Basic requirements for big data systems
1 范围
本标准规定了大数据系统的功能要求和非功能要求。
本标准适用于各类大数据系统要求的设计、选型、验收和检测。
2 规范性引用文件
下列文件对于本文件的应用是必不可少的。凡是注日期的引用文件,仅注日期的版本适用于本文
件。凡是不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。
GB/T 35295-2017 信息技术 大数据 术语
GB/T 35589-2017 信息技术 大数据 技术参考模型
3 术语和定义
GB/T 35295-2017界定的以及下列术语和定义适用于本文件。为了便于使用,以下重复列出了
GB/T 35295-2017中的某些术语和定义。
3.1
大数据系统
实现大数据参考体系结构的全部或部分功能的系统。
3.2
分布式计算
一种覆盖存储层和处理层的、用于实现多类型程序设计算法模型的计算模式。
注:分布式计算结果通常加载到分析环境。MapReduce是数据分布式计算中默认的处理构件。
3.3
集群
一组相互独立的、通过高速网络互联的计算机或服务器。
3.4
租户
对一组物理和虚拟资源进行共享访问的一个或多个云服务用户。
4 缩略语
下列缩略语适用于本文件。
API:应用程序接口
CPU:中央处理器
DAG:有向无环图
OLAP:联机分析处理
REST:表述性状态转移
SQL:结构化查询语言
5 大数据系统框架
GB/T 35589-2017定义了大数据参考架构,如图1所示。大数据参考模型是一个通用的大数据
系统概念模型,它表示了通用的、与技术无关的大数据系统的逻辑功能构件及构件之间的互操作接口,作为开发各种具体类型大数据应用系统架构的通用技术参考框架。
本标准参考大数据参考架构逻辑功能构件划分,将大数据系统划分为数据收集、数据预处理、数据存储、数据处理、数据分析、数据访问、数据可视化、资源管理、系统管理9个模块。大数据系统框架如图2所示。
6 功能要求
6.1 数据收集模块
数据收集模块要求如下:
a) 应提供数据导入功能,支持结构化数据、非结构化数据和半结构化数据导入;
b) 应支持离线数据导入和实时数据导入;
c) 应支持全量数据导入和增量数据导入;
d) 应提供自动定时导入数据功能;
e) 宜提供开放的数据导入API;
f) 宜提供图形界面实现数据导入功能。
6.2 数据预处理模块
数据预处理模块要求如下:
a) 应提供数据抽取功能,支持对结构化数据、非结构化数据和半结构化数据进行抽取;
b) 应提供数据清洗功能,支持对不一致数据、无效数据、缺失数据和重复数据的处理;
c) 应提供结构化数据的列转换、行转换和表转换功能;
d) 应提供数据加载功能,支持将经过清洗和转换的数据加载到数据分析模块;
e) 宜提供清洗前后的数据比对功能;
f) 宜支持非结构化数据的数据转换功能。
6.3 数据存储模块
数据存储模块要求如下:
a) 应提供数据存储功能,支持结构化数据、非结构化数据和半结构化数据存储。
b) 应提供与关系型数据库、其他文件系统之间交换数据或文件的功能。
c) 支持分布式文件存储,实现以下功能:
1) 应支持文件系统基本操作,包括上传、下载、读写、复制、移动、删除、重命名、权限修改等;
2) 应提供数据块多副本存储、恢复功能;
3) 宜支持文件快速检索功能,支持数据资源的统一检索、编目、增加和删除操作;
4) 宜支持数据压缩存储功能。
d) 支持分布式列式数据存储,实现以下功能:
1) 应支持以键值形式存储数据的功能;
2) 宜支持基于表、列族和列的用户权限管理功能,权限管理操作包括读、写、创建等。
e) 支持分布式结构化数据存储,实现以下功能:
1) 宜支持结构化数据的分布式存储,保证数据存储的可扩展性和一致性;
2) 宜提供API实现数据的各类查询操作;
3) 宜支持多表关联。
f) 支持分布式图数据存储,实现以下功能:
1) 宜支持由节点及边组成的数据模型;
2) 宜支持图查询,支持单节点、多节点多层关系的扩线查询;
3) 宜支持图遍历,支持最短路径、最优路径遍历查询;
4) 宜支持图分析。
6.4 数据处理模块
数据处理模块要求如下:
a) 支持批处理框架,实现以下功能:
1) 应支持结构化数据、非结构化数据和半结构化数据的离线分析;
2) 应支持多节点离线任务联动执行;
3) 应支持分散-聚集的处理方式;
4) 宜支持多种开发语言接口。
b) 支持流处理框架,实现以下功能:
1) 应提供实时计算功能,并将计算结果输出到消息队列或持久化;
2) 应支持采用滑动窗口方式的实时分析任务,时间窗口大小可调;
3) 应提供容错机制,出现故障时,可对故障进行处理;
4) 宜提供用户级别的访问控制功能,支持对消息处理任务进行创建、浏览、中止、恢复等操
作,并记录操作日志。
c) 宜支持图计算框架,实现以下功能:
1) 内置图数据查询类API,支持同步或异步计算模型编写迭代算法;
2) 在线图分析和查询功能;
3) 基于属性图模型的图数据表达,包含节点/边上的标签和属性类型定义;
4) 内置常用图指标计算功能,用以描述图的拓扑结构特征。
d) 宜支持内存计算,实现以下功能:
1) 通过分布式内存计算和DAG执行引擎提供数据处理能力;
2) 支......
|