推荐星级：
- 1
- 2
- 3
- 4
- 5
基于标签关联的多标签演化超网络
资料介绍
针对多标签学习中如何有效挖掘利用高阶标签关联的问题,提出了一种基于标签关联的多标签演化超网络模型.该模型通过输入任意多标签学习方法的预测结果,利用超边表征挖掘高阶标签关联,并综合标签关联和特征信息作为最终的预测结果.与3种传统多标签学习方法在6个多标签数据集上的对比实验表明,本文提出模型不仅能够有效提升多个传统多标签学习方法的性能,而且能够提供具有良好可读性的学习结果.
部分文件列表
| 文件名 | 大小 |
| 基于标签关联的多标签演化超网络.pdf | 2M |
部分页面预览
（完整内容请下载后查看）4
Vol． 46 No． 4
Apr． 2018
第
期
电
子
学
报
2018
4
ACTA ELECTRONICA SINICA
年
月
基于标签关联的多标签演化超网络
， ， ， ，
王 进 刘 彬 孙开伟 陈乔松 邓 欣
(
，
重庆邮电大学计算智能重庆市重点实验室 重庆
400065)
:
，
针对多标签学习中如何有效挖掘利用高阶标签关联的问题 提出了一种基于标签关联的多标签演化超
摘
要
． ， ，
网络模型 该模型通过输入任意多标签学习方法的预测结果 利用超边表征挖掘高阶标签关联 并综合标签关联和特
． 3 6 ，
征信息作为最终的预测结果 与 种传统多标签学习方法在 个多标签数据集上的对比实验表明 本文提出模型不仅
，
能够有效提升多个传统多标签学习方法的性能 而且能够提供具有良好可读性的学习结果
．
:
;
;
;
关键词
中图分类号
URL: http: / /www． ejournal． org． cn
机器学习 多标签学习 演化超网络 标签关联
:
TP39
:
A
:
文章编号
0372-2112 ( 2018) 04-1012-07
文献标识码
DOI: 10． 3969 /j． issn． 0372-2112． 2018． 04． 032
电子学报
Multi-Label Evolutionary Hypernetwork Based on Label Correlations
WANG Jin，LIU Bin，SUN Kai-wei，CHEN Qiao-song，DENG Xin
( Chongqing Key Laboratory of Computational Intelligence，Chongqing University of Posts and Telecommunications，Chongqing 400065，China)
Abstract: In order to solve the problem that how to explore and exploit the high-order label correlations effectively in
multi-label learning，a Multi-Label evolutionary HyperNetwork based on label Correlations ( MLHNC) is proposed in this
paper． In MLHNC，the predicting results obtained from any multi-label learning method are utilized as input of the model，the
high-order correlations among labels are represented and explored by hyperedges，and the final prediction is made by integra-
ting the label correlation and feature information． The experimental results on six multi-label datasets compared with three
state-of-the-art multi-label learning methods show that the MLHNC not only improves the performance of various state-of-
the-art multi-label learning methods，but also provides readable learning results．
Key words: machine learning; multi-label learning; evolutionary hypernetwork; label correlation
，
多标签数据包含大量的标签信息 而标签之间常
1
引言
． ，“ ” “ ”
存在一定的关联性 例如 海洋 和 沙滩 往往同时出
［1］
，
传统有监督学习认为每个样本只有一个标签
． ， ，
现在一张图片中 因此 如何有效利用标签关联 尤其是
， ．
但在现实应用中 事物往往具有复杂的语义信息 例如
，
高阶标签关联信息 成为提升多标签学习方法性能的
［3］
、 、 ．
一副图片可能同时包括海洋 沙滩 天空等信息 在多标
．
，
此外 部分多标签学习模型虽然关注和利
关键所在
( Multi-Label Learning)
，
中 每个样本可能包含一
签学习
， ，
用了标签关联 但其学习结果缺乏可读性 因此无法输
，
个或多个标签 含有更多标签信息的样本能够更好的
．
出重要的标签关联信息
［2，3］
．
表现事物语义信息的多样性
多标签学习的任务包
( HyperNetwork，HN)
超网络
发而建立的一种基于超图
是受生物分子网络启
( Hypergraph)
的认知学习模
:
括多标签分类和标签排序两方面 前者旨在确定与测
［14］
，
试样本关联的标签集合 而后者旨在根据所有标签与
，
型
模型中的超边能够表征并挖掘顶点间的高阶关
［4］
．
，
近年来 多标签学
测试样本的关联度确定标签序列
， ．
联关系 并提供具有良好可读性的学习结果 为了有效
习已逐渐成为机器学习及其相关领域的热点研究方
，
利用标签高阶关联信息 解决现有方法学习结果可读
［5 ～ 7］
［8 ～ 10］
，
向 广泛应用在图像与视频标注
、
、
生
文本分类
，
性差的问题 本文提出了一种基于标签关联的多标签
［11，12］
［13］
、
．
物信息学
音乐情感分类 等诸多领域
( Multi-Label evolutionary HyperNetwork
演化超网络模型
: 2016-05-12;
: 2017-07-14;
:
责任编辑 孙瑶
收稿日期
修回日期
基金项目 重庆市基础与前沿研究计划
KJ1400436)
:
( No． cstc2014jcyjA40001，No． cstc2014jcyjA40022) ;
(
重庆教委科学技术研究项目 自然科学类
) ( No．
1013
4
:
进 基于标签关联的多标签演化超网络
第
期
王
［20］
based on label Correlations，MLHNC) ．
MLHNC
，
中 任
MLHN)
本文方法有显著不同
而本文方法则将顶点视为标签 与
法以基学习方法的预测结果为模型输入 深度挖掘和
，
在
将超网络模型拓展到多标签学习领域 但与
( )
意传统多标签学习方法 本文称为基学习方法 的预测
: MLHN ，
中超边的顶点表示特征
MLHN
;
，
， ，
标签信息将转化为模型输入 顶点表示标签 超边表征
相比 本文方
，
． MLHNC
高阶标签关联
模型通过演化学习挖掘和利用
， ，
利用标签关联信息 可提升任意基学习方法性能 具有
，
高阶标签关联 并综合标签关联和特征信息作为预测
．
， ．
结果 提升基学习方法性能 相对于传统多标签学习方
更广泛的适用性
，MLHNC
:
的优势主要体现在 ①在基学习方法的预测
法
3
演化超网络
，
结果上 通过演化学习充分挖掘和利用了高阶标签关
，
超网络是一种由大量超边组成的概率图模型 通
; ，
联信息 ②通过超边表征重要的高阶标签关联 提供具
［14］
．
过超边库表达模式空间中数据的分布概率
超网络
;
有良好可读性的学习结果 ③有效提升基学习方法分
1( a)
．
所示 超边是超网络的基本组成元
模型结构如图
，
类性能 适用范围广泛
．
， ， ．
素 其由顶点子集 标签和权重三部分组成 每条超边可
2
多标签学习
，
以连接多个顶点 而包含在同一条超边内的顶点往往
，
具有一定的关联 因此超边可以表征顶点间的高阶关
2． 1
多标签学习问题描述
d
．
联性 超边所连接的顶点数称为超边的阶数
( Order) ，
所
X = R
d
， = { ， ，…， }
维特征空间 Λ λ λ λ 为
q
设
是
1
2
［21］
( n)
( n)
( n)
k k
有超边阶数都为 的超网络称为 阶超网络
．
在分
．
整个标签集合 训练样本
D
= { x ，Y
}
d
由
维特征
( n)
( n)
( n)
Λ
， ， ，
类模式下 顶点表示特征 超边可以看作决策规则 超边
x
Y
2
，
组成 其中
Y
向量
和标签子集
∈
可表示为
( n)
( n)
( n)
( n)
．
的权重则表示其决策能力的强弱 超网络通过演化学
q
一个 维向量
y
= ［y ，y ，…，y ］，
其中若 λ ∈
q
1
2
j
( n)
( n)
( n)
( t)
，
习调整超边库 提高模型与输入数据在模式空间概率
Y
y
= 1，
否则
y
= 0．
D ，
对于测试样本 多标签
则
j
j
( t) *
． x
分布的拟合度 超网络通过超边库得到输入样本 与输
Y
(
学习方法需要输出与其相关的标签集合
表示为
］)
和每个标签与样本关联
( t) *
( t) *
( t) *
( t) *
y
P( x，y)
x P( x) ，
以及 的分布概率
出类别 的联合概率
并通过后验概率最大化原则得到最终结果
P( x，y; H)
y
=［y
，y ，…，y
2
1
q
:
( t) *
( t) *
( t) *
( t) *
fy
=［fy
，fy
，…，fy ］．
q
度
1
2
*
y
= arg max( P( y| x) ) = arg max
( 1)
2． 2
多标签学习方法概述
根据利用标签关联信息的策略不用 可将多标签
( First-Order Strategy) ，
(
)
y
y
P( x; H)
，
4
MLHNC
:
分类方法划分为三类 一阶策略
( Second-Order Strategy)
( High-Or-
二阶策略
der Strategy)
和高阶策略
MLHNC
，
通过改进传统超网络结构 将任意多标签
［3］
．
一阶策略方法认为标签间是相互独立
，
学习方法的标签预测结果作为模型输入 使超边能够
， ．
的 没有利用任何标签间的关联关系 典型的一阶策略
，
表征标签间的高阶关联性 进而有效挖掘和利用高阶
: q
方法有 把多标签分类问题转化为 个独立二分类问题
，
标签关联信息 提升多标签学习方法性能
．
［5］
( Binary Relevance，BR)
的二元关系法
和利用最大后
( Multi-Label
．
二阶策略方法利用了标
4． 1 MLHNC
基本结构
k
验概率准则进行预测的多标签 近邻方法
MLHNC
， ，
中 每个顶点表示一个标签 超边中顶
在
［15］
k-Nearest Neighbor，MLkNN)
． ，
点的取值为对应标签的预测结果 此外 超边的标签和
．
签集合中成对标签间的关联信息 把多标签学习问题
q
权重扩展为 维向量
y =［y ，y ，…，y ］ w =［w ，w ，
和
1
1
2
q
2
2
C
( Calibrated
个标签排序问题的基准标签排序
转化为
Label Ranking，CLR)
( Backpropagation for Multi-Label Learn-
q
…，w ］，
q
w ，
其中 表示超边对标签 λ 的决策能力 即超
j
j
［16］
和改进神经网络模型的反向传
．
边中顶点表示的标签集合与标签 λ 的关联性的强弱
j
播多标签学习法
MLHNC
1( b)
．
所示
的结构如图
［11］
( n)
ing，BPMLL)
则利用了多个标签间的关联信息 标签幂集法
．
是典型的二阶策略方法 高阶策略方法
( Label
( Random k-labelsets，
D
，
首先通过基学习方法获得其预
对于训练样本
( n) *
( n) *
( n) *
．
y
fy
，
y
测标签结果
和预测关联度
并将
转化为
，y } ．
通过对
［5］
( n)
( n) *
( n)
Powerset，LP)
k
和随机 标 签集
珟
D
的输入
，
特征 得到
MLHNC
= { y
［17］
RakEL)
把多标签问题转化为一个或多个多分类问
，MLHNC
模型结构和模型输入形式的改变
能够描述标
［18］
*
．
题 分类器链
( Classifier Chain，CC)
和相关二元关系
y y
签的预测值 与标签真实值 的联合概率分布以及
j
［19］
*
( Dependent Binary Relevance Model，DBR)
模型
则是
y
:
的概率分布
．
通过将标签信息转化为特征来挖掘高阶标签关联 高
1
*
*
(
exp － ( y ，y ; H)
ε
)
P( y ，y ; H) =
j
( 2)
j
，
阶策略考虑了更多的标签关联信息 因此与前两种策
Z ( H)
j
，
略相比 其时间开销往往更大
．
1
*
*
(
exp － ( y ; H)
ε
)
P ( y ; H) =
j
( 3)
Z ( H)
j
( Multi-Label HyperNetwork，
多 标 签 超 网 络
更多>>
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
cai0603 打赏3.00元 3天前
用户：CJQ_ENJOY
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
cai0603 打赏3.00元 3天前
用户：dongshao
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：gsy幸运
-
21ic下载 打赏310.00元 3天前
用户：zhengdai
-
21ic下载 打赏310.00元 3天前
用户：小猫做电路
-
21ic下载 打赏310.00元 3天前
用户：liqiang9090
-
21ic下载 打赏270.00元 3天前
用户：kk1957135547
-
21ic下载 打赏160.00元 3天前
用户：w178191520
-
21ic下载 打赏160.00元 3天前
用户：w1966891335
-
21ic下载 打赏50.00元 3天前
用户：w993263495
-
21ic下载 打赏40.00元 3天前
用户：w993263495
-
21ic下载 打赏90.00元 3天前
用户：cooldog123pp
-
21ic下载 打赏30.00元 3天前
用户：sun2152
-
21ic下载 打赏40.00元 3天前
用户：xzxbybd
-
21ic下载 打赏40.00元 3天前
用户：铁蛋锅
-
21ic下载 打赏30.00元 3天前
用户：happypcb
-
21ic下载 打赏50.00元 3天前
用户：forgot
-
21ic下载 打赏10.00元 3天前
用户：xuzhen1
-
21ic下载 打赏20.00元 3天前
用户：wanglu6666
-
21ic下载 打赏5.00元 3天前
用户：人间留客
-
21ic下载 打赏5.00元 3天前
用户：jyxjiyixing
-
21ic下载 打赏5.00元 3天前
用户：akae_du
-
21ic下载 打赏5.00元 3天前
用户：ouyang_56
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
xlhtracy 打赏10.00元 3天前
-
xlhtracy 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
xlhtracy 打赏5.00元 3天前
-
czmhcy 打赏1.00元 3天前
资料：bitboy
全部评论(0)