稀疏选择结构压缩

20/25稀疏选择结构压缩第一部分稀疏矩阵定义与压缩方法 2第二部分压缩格式的性能比较 3第三部分压缩稀疏矩阵的数据结构 7第四部分压缩算法的并行化 10第五部分稀疏选择结构的特性 12第六部分稀疏选择结构的压缩算法 15第七部分稀疏选择结构的矩阵乘法 17第八部分应用中稀疏选择结构的压缩 20

第一部分稀疏矩阵定义与压缩方法稀疏矩阵定义

稀疏矩阵是一种特殊的矩阵，其元素中大部分为零或接近零的值，仅有少数非零元素。稀疏矩阵在科学计算、图像处理、机器学习等多个领域都有广泛的应用。

稀疏矩阵压缩方法

由于稀疏矩阵中非零元素数量较少，因此可以通过压缩技术来减少存储空间，提高计算效率。常用的稀疏矩阵压缩方法包括：

1.稀疏行存储格式(CSR)

CSR格式将矩阵存储为三个数组：`val`、`col`和`row_ptr`。`val`数组存储非零元素的值，`col`数组存储相应非零元素在矩阵中的列索引，`row_ptr`数组存储每行第一个非零元素在`val`数组中的索引。

2.稀疏列存储格式(CSC)

CSC格式与CSR格式类似，但将矩阵转置后存储。因此，`val`数组存储非零元素的值，`row`数组存储相应非零元素在矩阵中的行索引，`col_ptr`数组存储每列第一个非零元素在`val`数组中的索引。

3.压缩稀疏行存储格式(CSR)

CSR格式的改进版本，在`row_ptr`数组的基础上添加了一个`indptr`数组。`indptr`数组存储每列第一个非零元素在`val`数组中的索引，而`row_ptr`数组存储每行的非零元素总数。这种格式可以更有效地支持按列访问稀疏矩阵。

4.BlockCSR

BlockCSR格式将矩阵分区为大小相等或近似相等的小块，然后将每个小块存储为单独的CSR格式矩阵。这种格式可以提高并行计算的效率。

5.ELL存储格式

ELL格式假设稀疏矩阵中的每个行或列都有一定数量的非零元素（称为最大长度线），然后为每一行或列分配一个固定长度的数组。这种格式适用于非零元素分布均匀的稀疏矩阵。

6.JaggedDiagonalStorage

JaggedDiagonalStorage格式将矩阵对角线以上的非零元素逐行存储，对角线以下的非零元素逐列存储。这种格式适用于具有对角线附近非零元素较多的稀疏矩阵。

稀疏矩阵的压缩方法选择通常基于矩阵的结构、非零元素的分布以及计算需求。不同的压缩方法具有不同的空间效率和计算复杂度，需要根据具体应用场景进行权衡选择。第二部分压缩格式的性能比较关键词关键要点位图格式

1.利用位图将选择模式编码为紧凑的二进制数组。

2.适用于稀疏选择结构，空间效率高，内存占用小。

3.编码和解码效率低，不适用于密集选择结构。

CSR格式

1.将选择矩阵表示为三个数组：行指针、列索引和数据值。

2.查找元素高效，适合稀疏列向量。

3.存储行指针和列索引数组占用较多空间，不适合作业存储。

CSC格式

1.将选择矩阵表示为三个数组：列指针、行索引和数据值。

2.适用于稀疏行向量，查找元素高效。

3.与CSR格式类似，存储列指针和行索引数组占用空间大。

BSR格式

1.将选择矩阵划分为固定大小的块，每个块单独压缩。

2.兼顾空间和时间效率，适用于稀疏矩阵块。

3.压缩和解压缩过程相对复杂。

DIA格式

1.将选择矩阵对角线压缩成一个稀疏矢量。

2.适用于带宽较窄的对称矩阵，空间效率高。

3.查找元素效率低，不适用于非对称矩阵。

Hybrid格式

1.根据矩阵特性使用不同的压缩格式，例如位图、CSR或CSC。

2.结合多种格式优势，提高空间和时间效率。

3.格式选择和转换过程复杂，需要借助工具支持。压缩格式的性能比较

#1.无损压缩格式

无损压缩格式不会改变原始数据的任何比特，从而确保数据的完整性。

1.1Huffman编码

Huffman编码是一种变长编码，它根据符号的出现频率分配可变长度代码。它的优点包括压缩率高和解码简单。缺点是需要为每个符号存储频率表，因此不适用于具有大量不同符号的数据。

1.2LZW编码

LZW编码是一种字典编码，它通过将重复的字符序列替换为字典中的代码来工作。它的优点是压缩率高和速度快。缺点是字典会不断增长，因此可能需要定期重置。

1.3算术编码

算术编码是一种统计编码，它将整个数据块编码为一个二进制分数。它的优点是压缩率最高，但缺点是编码和解码速度较慢。

#2.有损压缩格式

有损压缩格式会丢弃某些数据以实现更高的压缩率。

2.1JPEG图像压缩

JPEG是一种有损图像压缩格式，它通过将图像划分为8x8块并使用离散余弦变换(DCT)来减少块内冗余。它广泛用于数码照片和网络图像。

2.2JPEG2000图像压缩

JPEG2000是一种有损图像压缩格式，它使用了更先进的小波变换。与JPEG相比，它在较低比特率下提供更好的图像质量。

2.3MP3音频压缩

MP3是一种有损音频压缩格式，它使用psychoacoustic模型来去除人类听觉系统无法感知的声音。它是音乐和语音压缩中最常用的格式之一。

2.4Vorbis音频压缩

Vorbis是一种有损音频压缩格式，它是一个开放标准，并使用了Ogg容器。它与MP3相比提供了类似的音频质量，但文件大小更小。

#3.压缩格式性能比较

各种压缩格式的性能取决于数据类型、压缩率和处理时间等因素。

3.1压缩率

无损压缩格式的压缩率通常低于有损压缩格式，因为后者可以丢弃某些数据。在无损压缩格式中，Huffman编码通常提供最高的压缩率，而有损压缩格式中，JPEG和MP3提供了较高的压缩率。

3.2处理时间

编码和解码速度对于实时应用非常重要。算术编码是编码和解码最慢的格式，而Huffman编码则是最快的。有损压缩格式的处理时间通常比无损压缩格式更快。

3.3图像质量

对于图像压缩，JPEG2000在较低比特率下提供比JPEG更好的图像质量。在高比特率下，它们提供了类似的质量。

3.4音频质量

对于音频压缩，MP3和Vorbis提供了类似的音频质量，但Vorbis在相同比特率下提供了更小的文件大小。

3.5适用性

不同的压缩格式适用于不同的应用。无损压缩格式用于确保数据完整性至关重要的应用，例如文档和数据库。有损压缩格式用于图像、音频和视频等应用，其中可以接受少量数据丢失。

在选择压缩格式时，重要的是要考虑数据类型、所需的压缩率、处理时间和预期应用。第三部分压缩稀疏矩阵的数据结构关键词关键要点【压缩稀疏矩阵的数据结构】

主题名称：固定大小存储

1.将稀疏矩阵中的非零值顺序存储在一个固定大小的数组中，并使用其他数组记录其位置和列索引。

2.访问时间恒定，但存储空间可能很大，尤其对于高维稀疏矩阵。

3.适用于需要快速访问非零值的应用，如线性代数计算。

主题名称：变长存储

压缩稀疏矩阵的数据结构

压缩稀疏矩阵(CSR)是一种有效压缩稀疏矩阵的数据结构，它采用三种数组来存储稀疏矩阵的非零元素，分别是：

行索引数组(row_idx)：存储每行的第一个非零元素在values数组中的索引。

列索引数组(col_idx)：存储每个非零元素的列索引。

值数组(values)：存储所有非零元素的值。

此外，CSR还包含一个附加的数组或变量，即：

指针数组(ptr)：存储每一行的第一个非零元素在row_idx数组中的索引。

CSR的优势在于，它仅存储非零元素，并利用索引数组来快速访问这些元素的位置。这使得CSR的空间复杂度为O(nnz)，其中nnz是矩阵中非零元素的数量。

构建CSR

从一个稀疏矩阵构建CSR的伪代码如下：

```

//假设matrix为一个稀疏矩阵，非零元素的坐标为(i,j)

//初始化数组

row_idx=[]

col_idx=[]

values=[]

ptr=[0]*(n+1)//n为矩阵的行数

//遍历矩阵

foriinrange(n):

forjinrange(m):

ifmatrix[i][j]!=0:

row_idx.append(i)

col_idx.append(j)

values.append(matrix[i][j])

//更新指针数组

foriinrange(1,n+1):

ptr[i]=ptr[i-1]+row_idx.count(i-1)

```

访问CSR

通过CSR访问矩阵元素的伪代码如下：

```

//获取matrix[i][j]的值

idx=ptr[i]//获取第i行第一个非零元素的索引

whilerow_idx[idx]!=i:

idx+=1//找到第i行的非零元素

//如果找到非零元素，则返回它的值，否则返回0

ifcol_idx[idx]==j:

returnvalues[idx]

else:

return0

```

稀疏矩阵的压缩存储格式的比较

除了CSR之外，其他用于压缩稀疏矩阵的常见格式还有：

*行压缩稀疏矩阵(CRS)：与CSR相似，但将行索引和值数组交换。

*三元组格式(Triplet)：以三元组(行索引、列索引、值)的形式存储非零元素。

*哈希表格式(Hash)：使用哈希表来存储每个非零元素及其位置。

选择适当的格式

选择合适的压缩格式取决于矩阵的稀疏性、访问模式和计算环境。对于具有大量非零元素且需要频繁随机访问的稀疏矩阵，CSR是一个很好的选择。对于需要频繁插入和删除元素的矩阵，Triplet格式可能更适合。对于稀疏性非常高的矩阵，Hash格式可以提供最紧凑的存储。第四部分压缩算法的并行化关键词关键要点并行压缩算法

1.分布式并行化：将压缩算法分配到多个处理单元或计算节点上，并行执行不同的压缩任务，从而提升整体压缩效率。

2.管道并行化：将压缩算法分解成多个阶段，允许阶段之间并行执行，减少数据依赖性，提高压缩吞吐量。

3.流媒体并行化：处理数据流时，将压缩算法实时应用于数据块，提高压缩时间效率，特别适用于大数据场景。

稀疏结构并行化

1.稀疏块压缩：将稀疏矩阵分解成多个稀疏块，针对每个块并行执行压缩算法，减轻稀疏结构带来的计算负担。

2.多线程压缩：利用多线程技术，将压缩算法中的不同任务分配给多个线程同时执行，充分利用多核CPU的并行能力。

3.异构加速：结合CPU和GPU等不同类型的计算设备，发挥各自优势，提升稀疏结构压缩效率。压缩算法的并行化

简介

压缩算法的并行化是指将算法分解成多个可以同时执行的任务，以提高计算效率。这对于处理大型数据集尤为重要，因为可以显着减少压缩和解压缩所需的时间。

并行压缩算法类型

并行压缩算法可分为两类：

*任务并行化：将压缩任务分解成较小的部分，并将其分配给多个处理器同时执行。

*数据并行化：将数据流分解成多个块，并将其分配给不同的处理器同时处理。

用于压缩的并行技术

常用的用于压缩算法并行化的技术包括：

*多线程：使用多个线程在单个处理器上并行执行任务。

*多进程：使用多个进程在不同的处理器上并行执行任务。

*GPU并行化：利用图形处理单元(GPU)的并行计算能力来加速算法。

*分布式并行化：在连接的计算机集群上分布任务，以实现更大的并行度。

并行化实现

并行化压缩算法的具体实施方式取决于算法的特性和可用的硬件资源。通常，以下步骤涉及：

1.任务分解：将算法分解成可并行执行的子任务。

2.任务调度：为每个子任务分配处理器。

3.数据管理：管理子任务之间共享数据的访问和同步。

4.结果合并：合并来自不同子任务的中间结果以生成最终压缩输出。

并行压缩算法的优势

并行压缩算法的主要优势包括：

*速度提升：并行执行可以显着加快压缩和解压缩过程。

*内存消耗减少：并行化可以减少算法执行所需的内存，因为不同的任务可以在不同的处理器上同时处理。

*可扩展性：并行算法可以轻松扩展到更大的数据集和更强大的硬件，以进一步提高性能。

并行压缩算法的挑战

尽管并行化提供了好处，但也面临着一些挑战：

*同步开销：协调并行任务可能需要额外的同步开销，这会抵消并行化的收益。

*负载平衡：确保不同任务之间的负载均衡对于最大化并行效率至关重要。

*数据依赖性：并行化算法时，需要仔细考虑数据依赖性，以避免死锁和其他问题。

应用

并行压缩算法在各种应用中得到广泛使用，包括：

*图像和视频压缩

*数据存储和传输

*科学计算

*加密算法

结论

通过并行化压缩算法，可以显着提高计算效率，从而满足现代数据密集型应用程序的要求。通过选择合适的并行技术和仔细的算法设计，可以开发高效且可扩展的并行压缩算法。第五部分稀疏选择结构的特性关键词关键要点稀疏性检测

1.确定选择结构中非零元素的位置。

2.采用贪婪算法或凸优化方法识别稀疏模式。

3.减少计算复杂度和提高模型可解释性。

选择结构与稀疏性

1.选择结构表示变量之间的依赖关系。

2.稀疏选择结构表明变量之间存在较弱或不存在相关性。

3.稀疏性有助于减少模型复杂度和提高预测性能。

稀疏选择结构的优点

1.模型可解释性得到提升，易于识别变量之间的重要关系。

2.计算复杂度降低，提高模型训练和预测效率。

3.存储需求减少，节省计算资源和存储成本。

稀疏选择结构在不同领域中的应用

1.计算机科学：机器学习、图像处理、文本分析。

2.金融领域：风险管理、投资组合优化、欺诈检测。

3.生物信息学：特征选择、疾病诊断、蛋白质相互作用预测。

稀疏选择结构的未来发展

1.开发更有效的稀疏检测算法，提高稀疏性识别的精度。

2.探索新的优化技术，进一步减少模型复杂度和提高预测能力。

3.推广稀疏选择结构在实际应用中的使用，提高模型可解释性和效率。稀疏选择结构的熵

在信息论中，熵是一个衡量信息量或不确定性的度量。在稀疏选择结构压缩的背景下，熵用于表征稀疏选择结构的复杂性和不确定性，用于指导决策和优化压缩算法。

熵的定义

对于一个离散随机变量X，其取值为x的概率为p(x)，则X的熵H(X)定义为：

```

H(X)=-Σ[p(x)*log₂p(x)]

```

其中，Σ表示求和，log₂表示以2为底的对nowe。

稀疏选择结构的熵

稀疏选择结构是一个二进制矩阵，其元素表示特定特征是否被选择用于模型。熵可以用于表征稀疏选择结构的复杂性，表示为：

```

H(S)=-Σ[p(s)*log₂p(s)]

```

其中，S表示稀疏选择结构，s是S中的一个元素，p(s)是s等于1（即特征被选择）的概率。

熵的意义

稀疏选择结构的熵具有以下重要意义：

*复杂性度量：较高的熵表明稀疏选择结构更复杂和不确定。

*决策指导：熵可以用于指导选择哪些特征用于模型，以最大化信息增益并减少不确定性。

*算法优化：熵可用于优化稀疏选择结构压缩算法，以在压缩大小和预测性能之间取得平衡。

计算熵

稀疏选择结构的熵可以通过以下步骤计算：

1.确定每个特征被选择的概率p(s)。

2.使用p(s)计算每个元素的熵贡献：-p(s)*log₂p(s)。

3.对所有元素的熵贡献求和，得到稀疏选择结构的总熵H(S)。

应用

稀疏选择结构压缩中的熵已用于以下应用：

*特征选择：基于熵最大化原则，选择最具信息增益的特征。

*模型选择：比较不同稀疏选择结构的熵，以选择最有效率和预测性能最佳的结构。

*算法设计：开发基于熵的压缩算法，以高效且有效地压缩稀疏选择结构。

总之，熵是表征稀疏选择结构复杂性和不确定性的关键度量。它在特征选择、模型选择和算法优化等稀疏选择结构压缩的关键方面起着至关重要的作用。第六部分稀疏选择结构的压缩算法关键词关键要点【分组稀疏化】：

1.基于规则的稀疏化：将组内元素强制归零或限制为特定值。

2.基于贪婪的稀疏化：逐次选择最不重要的元素进行归零。

3.基于启发式的稀疏化：利用启发式算法（如遗传算法）搜索压缩方案。

【秩稀疏化】：

稀疏选择结构压缩算法

在稀疏选择结构压缩算法中，我们将稀疏选择结构表示为一个矩阵，其中元素的非零值表示相应的行和列元素的依赖关系。压缩算法的目标是通过减少矩阵中非零元素的数量来降低存储空间和计算成本。

#基于行和列的压缩算法

行稀疏（CRS）格式：

将选择结构矩阵按行存储，非零元素按列存储，同时使用两个额外的数组来记录非零元素的行和列索引。

列稀疏（CSC）格式：

与CRS格式类似，但按列存储选择结构矩阵，非零元素按行存储，同时使用额外的数组来记录非零元素的行和列索引。

#基于块的压缩算法

块稀疏行（BSR）格式：

将矩阵划分为块，并分别压缩每个块。非零元素存储在块中，每个块都有一个额外的头信息，记录块内非零元素的行和列索引。

块稀疏列（BSC）格式：

与BSR格式类似，但按列划分矩阵并分别压缩每个块。非零元素存储在块中，每个块都有一个附加的头信息，记录块内非零元素的行和列索引。

超块稀疏行（HBSR）格式：

将矩阵划分为超块，超块进一步划分为块。非零元素存储在块中，每个块都有一个附加的头信息，记录块内非零元素的行和列索引。超块头信息记录超块中非零块的行和列索引。

#基于树的压缩算法

二叉树（BT）格式：

将选择结构矩阵表示为一棵二叉树，其中每个节点代表矩阵的一个子矩阵。非零元素存储在叶子节点中，内部节点存储指针，指向子矩阵。

四叉树（QT）格式：

与BT格式类似，但将矩阵划分为四叉树。非零元素存储在叶子节点中，内部节点存储指针，指向子矩阵。

八叉树（OT）格式：

与BT格式类似，但将矩阵划分为八叉树。非零元素存储在叶子节点中，内部节点存储指针，指向子矩阵。

#其它压缩算法

混合格式：

结合不同压缩算法的优点，例如BSR和BT格式。

自适应格式：

根据矩阵的结构和非零元素的分布动态选择压缩算法。

#压缩算法的选择

选择最合适的压缩算法取决于以下因素：

*矩阵的稀疏度

*非零元素的分布

*所需的计算资源

*存储空间限制

在实践中，通常会根据特定应用和矩阵的特征对不同的压缩算法进行实验评估，以确定最佳选择。第七部分稀疏选择结构的矩阵乘法关键词关键要点【稀疏选择结构的矩阵乘法】：

1.稀疏选择结构的矩阵乘法不同于传统的稠密矩阵乘法，它利用了稀疏矩阵中非零元素的稀疏性，只计算非零元素之间的乘积。

2.稀疏选择结构的矩阵乘法算法通过选择适当的行和列来减少计算量，从而提高效率。

3.稀疏选择结构的矩阵乘法算法广泛应用于图像处理、信号处理和科学计算等领域。

【稀疏选择结构的格式】：

稀疏选择性地张量积矩阵乘法

稀疏选择性地张量积（SparseSelectTensor-Times-TensorProduct，SSTTT）是一种用于计算具有高维度且稀疏的张量积矩阵乘法的高效算法。

背景

张量积矩阵乘法在机器及深度等许多科学计算应用程序中广泛使用。随着高维数据的普及，需求迫切地降低张量积矩阵乘法的复杂度。传统方法的计算复杂度与张量的维度成多项式级数增长，导致在高维场景下效率低下。

SSTTT原理

SSTTT通过探索张量积的一种特殊结构来克服传统方法的局限性。张量通常包含大量零值条目，SSTTT利用此特性仅计算非零条目标识符。

具体而言，SSTTT首先将张量分解为子块，这些子块具有更低的维度。它使用一个选择矩阵来确定需要计算的子块积。该选择矩阵是二进制张量，其条目表示要计算的子块积。

SSTTT运算

SSTTT计算如下进行：

1.张量分解：将张量A、B、C分解为具有较小维数的子块，分别记为A_1,A_2,...,A_m;B_1,B_2,...,B_n;C_1,C_2,...,C_p。

2.选择矩阵初始化：使用二进制张量初始化选择矩阵S，其条目为0（不计算）或1（计算）以表示要计算的子块积。

3.子块积计算：循环遍历S的所有1（即要计算的子块积）并计算A、B、C子块的积。计算的子块积存储在输出张量D中。

4.张量重组：将计算出的子块积从D重新组合回具有原始维数的高维张量。

复杂度

SSTTT的计算复杂度与张量的维度和零值条目标识符的数量直接related。与具有O(d^omega)复杂度（d为张量维度，ω为张量积的秩）的传统方法相比，SSTTT的复杂度通常为O(d^2+k)，比传统方法大幅减少。

SSTTT的优势

*效率：SSTTT通过仅计算非零条目来显著提高张量积矩阵乘法的效率。

*通用性：SSTTT适用于具有任意维数和结构的张量。

*可扩展性：SSTTT易于并行化，使其适合于大规模并行计算架构。

SSTTT的局限性

*内存开销：SSTTT的选择矩阵可能会相当大，尤其在张量积维度非常高的情况下。

*初始化开销：初始化选择矩阵需要附加的计算开销。

*稀疏性假设：SSTTT仅在张量积具有相当数量的零值条目时有效。

SSTTT的应用程序

SSTTT已广泛用于：

*量子计算

*机器学习

*信号和成像

*理论物理

结论

稀疏选择性地张量积矩阵乘法（SSTTT）是一种高效算法，用于计算具有高维度且稀疏的张量积。它克服了传统方法的局限性，提供了比传统方法更低的复杂度和更快的计算时间。SSTTT已在从量子计算到机器和深度等多个领域取得了广泛的应用程序。第八部分应用中稀疏选择结构的压缩关键词关键要点稀疏选择结构的应用背景

1.由于数据大量涌现和复杂计算模型的出现，对机器学习模型的存储和计算效率提出了更高的要求。

2.稀疏选择结构是一种有效的压缩技术，可以减少模型的大小和计算成本，同时保持模型的性能。

稀疏选择结构的应用领域

1.计算机视觉：稀疏选择结构用于图像分类、目标检测和语义分割等任务。

2.自然语言处理：稀疏选择结构用于文本分类、机器翻译和信息检索等任务。

3.推荐系统：稀疏选择结构用于用户表示、物品表示和推荐生成中。

稀疏选择结构的优势

1.减少模型大小：稀疏选择结构可以显著减少模型的大小，从而降低存储需求和传输成本。

2.加速计算：由于模型中非零元素较少，稀疏选择结构可以加速模型的计算过程，提高训练和推断效率。

3.增强模型鲁棒性：稀疏选择结构可以帮助模型去除噪声和冗余信息，从而提高模型的泛化能力和鲁棒性。

稀疏选择结构的实现方法

1.正则化：L1正则化和groupLasso正则化是常用的稀疏选择方法，它们通过惩罚非零元素来鼓励稀疏性。

2.贪心算法：贪心算法以迭代的方式选择最具信息性的特征，并逐渐构建稀疏选择结构。

3.基于贝叶斯的稀疏学习：该方法利用贝叶斯框架学习模型参数的分布，并将稀疏性作为先验知识纳入模型中。

稀疏选择结构的评估指标

1.稀疏度：衡量模型中非零元素的比例，反映了模型的稀疏程度。

2.分类/回归准确率：评估模型在分类或回归任务上的性能。

3.计算时间：衡量模型的训练和推断时间，以评估稀疏选择结构带来的计算效率提升。

稀疏选择结构的未来趋势

1.可解释性：开发可解释性稀疏选择方法，以了解稀疏模式背后的含义，提高模型的透明度。

2.动态稀疏性：探索动态稀疏选择结构，使模型能够根据输入数据或任务需求自动调整稀疏程度。

3.并行化稀疏学习：利用并行计算技术加速稀疏选择结构的学习和推断过程。应用中稀疏选择结构的压缩

稀疏选择结构在机器学习、统计和优化等应用中无处不在。这些结构通常包含大量零元素，并且需要高效的存储和处理方法。一种有效的方法是使用压缩技术，例如稀疏矩阵格式和稀疏张量格式，以减少稀疏结构所需的空间和处理时间。

稀疏矩阵格式

*行稀疏格式(CSR)：存储非零元素的非零元素的行号、列号和值。适用于具有较多非零元素的行数较少的情况。

*列稀疏格式(CSC)：类似于CSR，但按列存储非零元素。适用于具有较多非零元素的列数较少的情况。

*坐标格式(COO)：简单地存储非零元素的三元组（行号、列号、值）。通常用于构造稀疏矩阵和中间计算。

*变长行格式(VBR)：一种由Microsoft开发的格式，将非零元素分组到具有相同列的块中。适用于具有大量非零元素的密集行。

稀疏张量格式

*库克格式(COO)：类似于稀疏矩阵的COO格式，但适用于具有多个维度（秩）的张量。

*稀疏张量格式(CSF)：一种由Google开发的格式，使用树形结构来表示稀疏张量。

*张量火车格式(TTF)：一种树形结构，将张量分解为一系列低秩张量，从而实现压缩。

压缩率

压缩率是压缩后稀疏结构与原始稀疏结构相比所节省的空间。它取决于非零元素的分布和所使用的稀疏格式。通常，CSR和CSC格式在行或列稀疏的情况下具有较高的压缩率，而COO格式在非零元素随机分布的情况下具有较高