一种基于聚类的图卷积多示例学习算法

一种基于聚类的图卷积多示例学习算法摘要近年来，图卷积神经网络（GCN）在监督式图学习任务中表现出色。然而，对于多示例学习（MIL）问题，GCN的应用仍然相对较少。本文提出一种基于聚类的图卷积多示例学习算法（Cluster-GCN-MIL），通过从训练集中构建子图的方式来充分利用多示例样本的信息，同时结合聚类技术实现子图的构建和样本分类。实验结果表明，Cluster-GCN-MIL在多个数据集上均取得了比较优秀的性能，并且在相同条件下，比已有的方法具有更高的准确率和鲁棒性。关键词：图卷积神经网络，多示例学习，聚类技术，子图建立，算法优化1.引言在现实问题中，很多场景下的数据都是以图的形式呈现。例如社交网络、化学分子、图像等等，这些数据具有很好的结构性，在分析和处理过程中存在很大的潜力和挑战。图嵌入是现在处理图数据的重要方法，其中，图卷积神经网络（GCN）在监督式学习任务中表现出色。然而，对于多示例学习问题，GCN的应用仍然相对较少。多示例学习是指训练样本中的标签是由若干个实例共同决定的，这些实例称为“示例”，它们有时并不对应真实的标签，因此如何从示例中学习到更准确的标签成为多示例学习的核心问题。传统的多示例学习算法很难充分利用样本集中各个示例之间的关联信息，因此不能有效地挖掘数据的潜在模式。为了解决这一问题，在本文中，我们提出了一种基于聚类的图卷积多示例学习算法（Cluster-GCN-MIL）。该算法通过从训练集中构建子图的方式来充分利用多示例样本的信息，同时结合聚类技术实现子图的构建和样本分类。我们在多个数据集上对算法进行实验，并与已有的方法进行比较。实验结果表明，Cluster-GCN-MIL在相同条件下比已有方法具有更高的准确率和鲁棒性。2.相关工作2.1图卷积神经网络图卷积神经网络（GCN）是深度学习中的一种神经网络，主要用于图数据分析和学习。GCN借鉴了卷积神经网络中的结构，将原来针对自然图像和语音处理数据的卷积方式推广到了图数据上。GCN的核心思想是利用邻居节点的信息更新节点的表示，从而实现对整张图的学习。这种方法解决了传统的方法中某个节点的特征或者属性相互独立、没有考虑节点间的关系的限制，有助于训练更准确的模型。2.2多示例学习多示例学习是指标签是由多个实例共同决定的学习问题。在传统的监督式学习中，每个训练样本都有一个确定的标签，但在许多现实应用中，一个样本的标签可能与其他几个样本的标签共同确定，这些样本被称为示例。多示例学习最初应用于生物数据分析，例如从医学影像图像中识别癌症细胞。2.3基于图卷积神经网络的多示例学习近年来，对于多示例学习问题，已经有一些基于GCN的方法。Li等人提出了一种基于图卷积网络的多示例学习算法（GIN-MIL），该算法使用池化技术提取多示例样本的信息。Kumar等人采用了GCN和局部敏感哈希的结合，提出了一种有效的多示例学习算法。除此之外，还有一些将GCN应用于图数据聚类的方法，例如由Kipf和Welling提出的基于谱聚类和GCN的图聚类算法。3.算法设计3.1算法概述在多示例数据集中，每个示例都有一个特征向量，但标签只与多个示例共同决定。因此我们使用聚类技术将示例划分为不同的类别，并通过构建聚类图进行子图提取。具体来说，我们将从原始图中随机选择少量的样本作为种子样本，并利用聚类方法将剩余的示例划分成k个类别，其中k为人为设定的超参数。我们将每个聚类看作一个中心节点，并从聚类中选择一些最相似的示例作为子图中的节点。这样，我们就可以将多个示例分配到同一个子图中，从而实现多示例信息的充分利用。图1为算法流程图。3.2子图构建为了构建聚类图，我们首先选取少量的种子示例作为中心节点，并将剩余节点与所有中心节点进行相似性计算。我们采用余弦相似度来计算节点之间的相似性，余弦相似度越高，表示两个节点越相似，从而更适合放到同一个子图中学习。根据相似性分数，我们将每个示例分配给最相似的k个中心节点之一，并创建一个聚类图。在聚类图中，每个中心节点作为子图的中心，形成以中心节点为核心的子图。我们将子图中所有节点的特征向量输入到GCN中进行训练和学习。3.3模型训练我们的模型采用了基于GCN的多示例学习结构，其中每个子图相当于一个训练样本。在每个子图中，GCN通过节点间的连接关系和邻接矩阵来更新节点的特征表示，从而实现整个子图的表示。通过调整GCN中的权重和偏差，我们可以训练一个具有强鲁棒性的多示例学习器。4.实验结果分析4.1实验数据集我们在三个常用的多示例数据集上测试了Cluster-GCN-MIL的性能：包括Musk1，Musk2和Trex数据集。表1给出了这些数据集的详细信息。4.2实验结果分析为了评估我们的算法的性能，我们将其与其他基于GCN的多示例学习方法进行了比较，结果如表2所示。从实验结果中可以看出，我们的算法表现出了相对较好的性能，在Musk1上取得了最高的准确率和鲁棒性。值得注意的是，我们的算法在不同数据集上的鲁棒性表现均比其他方法更好。表2不同方法在三个数据集上的测试表现从实验结果可以得出，相较于其他基于GCN的多示例方法，我们提出的Cluster-GCN-MIL具有更好的性能和更强的鲁棒性。这证明了我们算法的有效性和可行性。5.结论与展望本文提出了一种基于聚类的图卷积多示例学习算法，通过构建子图来充分利用多示例样本的