推荐星级：

基于标签关联的多标签演化超网络

更新时间：2019-12-24 01:46:40 大小：2M 上传用户：守着阳光1985 查看TA发布的资源 标签：标签关联 下载积分：1分评价赚积分（如何评价?）打赏收藏评论(0) 举报

资料介绍

针对多标签学习中如何有效挖掘利用高阶标签关联的问题,提出了一种基于标签关联的多标签演化超网络模型.该模型通过输入任意多标签学习方法的预测结果,利用超边表征挖掘高阶标签关联,并综合标签关联和特征信息作为最终的预测结果.与3种传统多标签学习方法在6个多标签数据集上的对比实验表明,本文提出模型不仅能够有效提升多个传统多标签学习方法的性能,而且能够提供具有良好可读性的学习结果.

部分文件列表

文件名	大小
基于标签关联的多标签演化超网络.pdf	2M

立即下载

【关注视频号领20积分】【关注公众号立即送20积分】

部分页面预览

（完整内容请下载后查看）

Vol． 46 No． 4

Apr． 2018

第

期

电

子

学

报

2018

ACTA ELECTRONICA SINICA

年

月

基于标签关联的多标签演化超网络

，，，，

王进刘彬孙开伟陈乔松邓欣

(

，

重庆邮电大学计算智能重庆市重点实验室重庆

400065)

，

针对多标签学习中如何有效挖掘利用高阶标签关联的问题提出了一种基于标签关联的多标签演化超

摘

要

．，，

网络模型该模型通过输入任意多标签学习方法的预测结果利用超边表征挖掘高阶标签关联并综合标签关联和特

． 3 6 ，

征信息作为最终的预测结果与种传统多标签学习方法在个多标签数据集上的对比实验表明本文提出模型不仅

，

能够有效提升多个传统多标签学习方法的性能而且能够提供具有良好可读性的学习结果

．

;

关键词

中图分类号

URL: http: / /www． ejournal． org． cn

机器学习多标签学习演化超网络标签关联

TP39

文章编号

0372-2112 ( 2018) 04-1012-07

文献标识码

DOI: 10． 3969 /j． issn． 0372-2112． 2018． 04． 032

电子学报

Multi-Label Evolutionary Hypernetwork Based on Label Correlations

WANG Jin，LIU Bin，SUN Kai-wei，CHEN Qiao-song，DENG Xin

( Chongqing Key Laboratory of Computational Intelligence，Chongqing University of Posts and Telecommunications，Chongqing 400065，China)

Abstract: In order to solve the problem that how to explore and exploit the high-order label correlations effectively in

multi-label learning，a Multi-Label evolutionary HyperNetwork based on label Correlations ( MLHNC) is proposed in this

paper． In MLHNC，the predicting results obtained from any multi-label learning method are utilized as input of the model，the

high-order correlations among labels are represented and explored by hyperedges，and the final prediction is made by integra-

ting the label correlation and feature information． The experimental results on six multi-label datasets compared with three

state-of-the-art multi-label learning methods show that the MLHNC not only improves the performance of various state-of-

the-art multi-label learning methods，but also provides readable learning results．

Key words: machine learning; multi-label learning; evolutionary hypernetwork; label correlation

，

多标签数据包含大量的标签信息而标签之间常

引言

．，“ ” “ ”

存在一定的关联性例如海洋和沙滩往往同时出

［1］

，

传统有监督学习认为每个样本只有一个标签

．，，

现在一张图片中因此如何有效利用标签关联尤其是

，．

但在现实应用中事物往往具有复杂的语义信息例如

，

高阶标签关联信息成为提升多标签学习方法性能的

［3］

、、．

一副图片可能同时包括海洋沙滩天空等信息在多标

．

，

此外部分多标签学习模型虽然关注和利

关键所在

( Multi-Label Learning)

，

中每个样本可能包含一

签学习

，，

用了标签关联但其学习结果缺乏可读性因此无法输

，

个或多个标签含有更多标签信息的样本能够更好的

．

出重要的标签关联信息

［2，3］

．

表现事物语义信息的多样性

多标签学习的任务包

( HyperNetwork，HN)

超网络

发而建立的一种基于超图

是受生物分子网络启

( Hypergraph)

的认知学习模

括多标签分类和标签排序两方面前者旨在确定与测

［14］

，

试样本关联的标签集合而后者旨在根据所有标签与

，

型

模型中的超边能够表征并挖掘顶点间的高阶关

［4］

．

，

近年来多标签学

测试样本的关联度确定标签序列

，．

联关系并提供具有良好可读性的学习结果为了有效

习已逐渐成为机器学习及其相关领域的热点研究方

，

利用标签高阶关联信息解决现有方法学习结果可读

［5 ～ 7］

［8 ～ 10］

，

向广泛应用在图像与视频标注

、

生

文本分类

，

性差的问题本文提出了一种基于标签关联的多标签

［11，12］

［13］

、

．

物信息学

音乐情感分类等诸多领域

( Multi-Label evolutionary HyperNetwork

演化超网络模型

: 2016-05-12;

: 2017-07-14;

责任编辑孙瑶

收稿日期

修回日期

基金项目重庆市基础与前沿研究计划

KJ1400436)

( No． cstc2014jcyjA40001，No． cstc2014jcyjA40022) ;

(

重庆教委科学技术研究项目自然科学类

) ( No．

1013

进基于标签关联的多标签演化超网络

第

期

王

［20］

based on label Correlations，MLHNC) ．

MLHNC

，

中任

MLHN)

本文方法有显著不同

而本文方法则将顶点视为标签与

法以基学习方法的预测结果为模型输入深度挖掘和

，

在

将超网络模型拓展到多标签学习领域但与

( )

意传统多标签学习方法本文称为基学习方法的预测

: MLHN ，

中超边的顶点表示特征

MLHN

;

，

，，

标签信息将转化为模型输入顶点表示标签超边表征

相比本文方

，

． MLHNC

高阶标签关联

模型通过演化学习挖掘和利用

，，

利用标签关联信息可提升任意基学习方法性能具有

，

高阶标签关联并综合标签关联和特征信息作为预测

．

，．

结果提升基学习方法性能相对于传统多标签学习方

更广泛的适用性

，MLHNC

的优势主要体现在 ①在基学习方法的预测

法

演化超网络

，

结果上通过演化学习充分挖掘和利用了高阶标签关

，

超网络是一种由大量超边组成的概率图模型通

; ，

联信息 ②通过超边表征重要的高阶标签关联提供具

［14］

．

过超边库表达模式空间中数据的分布概率

超网络

;

有良好可读性的学习结果 ③有效提升基学习方法分

1( a)

．

所示超边是超网络的基本组成元

模型结构如图

，

类性能适用范围广泛

．

，，．

素其由顶点子集标签和权重三部分组成每条超边可

多标签学习

，

以连接多个顶点而包含在同一条超边内的顶点往往

，

具有一定的关联因此超边可以表征顶点间的高阶关

2． 1

多标签学习问题描述

．

联性超边所连接的顶点数称为超边的阶数

( Order) ，

所

X = R

， = { ，，…， }

维特征空间 Λ λ λ λ 为

设

是

［21］

( n)

k k

有超边阶数都为的超网络称为阶超网络

．

在分

．

整个标签集合训练样本

= { x ，Y

}

由

维特征

( n)

，，，

类模式下顶点表示特征超边可以看作决策规则超边

，

组成其中

向量

和标签子集

∈

可表示为

( n)

．

的权重则表示其决策能力的强弱超网络通过演化学

一个维向量

= ［y ，y ，…，y ］，

其中若 λ ∈

( n)

( t)

，

习调整超边库提高模型与输入数据在模式空间概率

= 1，

否则

= 0．

D ，

对于测试样本多标签

则

( t) *

． x

分布的拟合度超网络通过超边库得到输入样本与输

(

学习方法需要输出与其相关的标签集合

表示为

］)

和每个标签与样本关联

( t) *

P( x，y)

x P( x) ，

以及的分布概率

出类别的联合概率

并通过后验概率最大化原则得到最终结果

P( x，y; H)

=［y

，y ，…，y

( t) *

=［fy

，fy

，…，fy ］．

度

= arg max( P( y| x) ) = arg max

( 1)

2． 2

多标签学习方法概述

根据利用标签关联信息的策略不用可将多标签

( First-Order Strategy) ，

(

)

P( x; H)

，

MLHNC

分类方法划分为三类一阶策略

( Second-Order Strategy)

( High-Or-

二阶策略

der Strategy)

和高阶策略

MLHNC

，

通过改进传统超网络结构将任意多标签

［3］

．

一阶策略方法认为标签间是相互独立

，

学习方法的标签预测结果作为模型输入使超边能够

，．

的没有利用任何标签间的关联关系典型的一阶策略

，

表征标签间的高阶关联性进而有效挖掘和利用高阶

: q

方法有把多标签分类问题转化为个独立二分类问题

，

标签关联信息提升多标签学习方法性能

．

［5］

( Binary Relevance，BR)

的二元关系法

和利用最大后

( Multi-Label

．

二阶策略方法利用了标

4． 1 MLHNC

基本结构

验概率准则进行预测的多标签近邻方法

MLHNC

，，

中每个顶点表示一个标签超边中顶

在

［15］

k-Nearest Neighbor，MLkNN)

．，

点的取值为对应标签的预测结果此外超边的标签和

．

签集合中成对标签间的关联信息把多标签学习问题

权重扩展为维向量

y =［y ，y ，…，y ］ w =［w ，w ，

和

( Calibrated

个标签排序问题的基准标签排序

转化为

Label Ranking，CLR)

( Backpropagation for Multi-Label Learn-

…，w ］，

w ，

其中表示超边对标签 λ 的决策能力即超

［16］

和改进神经网络模型的反向传

．

边中顶点表示的标签集合与标签 λ 的关联性的强弱

播多标签学习法

MLHNC

1( b)

．

所示

的结构如图

［11］

( n)

ing，BPMLL)

则利用了多个标签间的关联信息标签幂集法

．

是典型的二阶策略方法高阶策略方法

( Label

( Random k-labelsets，

，

首先通过基学习方法获得其预

对于训练样本

( n) *

．

，

测标签结果

和预测关联度

并将

转化为

，y } ．

通过对

［5］

( n)

( n) *

( n)

Powerset，LP)

和随机标签集

珟

的输入

，

特征得到

MLHNC

= { y

［17］

RakEL)

把多标签问题转化为一个或多个多分类问

，MLHNC

模型结构和模型输入形式的改变

能够描述标

［18］

．

题分类器链

( Classifier Chain，CC)

和相关二元关系

y y

签的预测值与标签真实值的联合概率分布以及

［19］

( Dependent Binary Relevance Model，DBR)

模型

则是

的概率分布

．

通过将标签信息转化为特征来挖掘高阶标签关联高

(

exp － ( y ，y ; H)

)

P( y ，y ; H) =

( 2)

，

阶策略考虑了更多的标签关联信息因此与前两种策

Z ( H)

，

略相比其时间开销往往更大

．

(

exp － ( y ; H)

)

P ( y ; H) =

( 3)

Z ( H)

( Multi-Label HyperNetwork，

多标签超网络

全部评论(0)

暂无评论

评论赚积分>>

上传资源上传优质资源有赏金

基于标签关联的多标签演化超网络

资料介绍

部分文件列表

部分页面预览

相关下载

全部评论(0)

热门标签

最新上传

热门下载

推荐下载

专栏首页