推荐星级：

基于稀疏贝叶斯的流形学习

更新时间：2019-12-24 00:25:47 大小：1M 上传用户：守着阳光1985 查看TA发布的资源 标签：稀疏贝叶斯 下载积分：1分评价赚积分（如何评价?）打赏收藏评论(0) 举报

资料介绍

针对当前监督学习算法在流形数据集上分类性能的缺陷,如分类精度低且稀疏性有限,本文在稀疏贝叶斯方法和流行正则化框架的基础上,提出一种稀疏流形学习算法(Manifold Learning Based on Sparse Bayesian Approach,MLSBA).该算法是对稀疏贝叶斯模型的扩展,通过在模型的权值上定义稀疏流形先验,有效利用了样本数据的流形信息,提高了算法的分类准确率.在多种数据集上进行实验,结果表明:MLSBA不仅在流形数据集上取得良好的分类性能,而且在非流形数据集上效果也比较好;同时算法在两类数据集上均具有良好的稀疏性能.

部分文件列表

文件名	大小
基于稀疏贝叶斯的流形学习.pdf	1M

立即下载

【关注视频号领20积分】【关注公众号立即送20积分】

部分页面预览

（完整内容请下载后查看）

Vol． 46 No． 1

Jan． 2018

第

期

电

子

学

报

2018

ACTA ELECTRONICA SINICA

年

月

基于稀疏贝叶斯的流形学习

，，，

陈兵飞江兵兵周熙人陈欢欢

(

，

中国科学技术大学计算机科学与技术学院安徽合肥

230027)

，，

针对当前监督学习算法在流形数据集上分类性能的缺陷如分类精度低且稀疏性有限本文在稀疏贝

摘

要

，

叶斯方法和流行正则化框架的基础上提出一种稀疏流形学习算法

( Manifold Learning Based on Sparse Bayesian Ap-

proach，MLSBA) ．

，，

该算法是对稀疏贝叶斯模型的扩展通过在模型的权值上定义稀疏流形先验有效利用了样本数据

，．，

的流形信息提高了算法的分类准确率在多种数据集上进行实验结果表明

: MLSBA

不仅在流形数据集上取得良好

， ;

的分类性能而且在非流形数据集上效果也比较好同时算法在两类数据集上均具有良好的稀疏性能

．

;

关键词

中图分类号

URL: http: / /www． ejournal． org． cn

拉普拉斯稀疏贝叶斯稀疏流形先验流形正则化

TP391

文章编号

0372-2112 ( 2018) 01-0098-06

文献标识码

DOI: 10． 3969 /j． issn． 0372-2112． 2018． 01． 014

电子学报

Manifold Learning Based on Sparse Bayesian Approach

CHEN Bing-fei，JIANG Bing-bing，ZHOU Xi-ren，CHEN Huan-huan

( School of Computer Science and Technology，University of Science and Technology of China，Hefei，Anhui 230027，China)

Abstract: Aiming at the classification performance deficiencies of current supervised learning algorithms on manifold

data sets，e． g． low classification accuracy and limited sparsity，a sparse manifold learning algorithm based on sparse Bayesian

inference and manifold regularization framework is proposed． The algorithm is called manifold learning based on sparse

Bayesian approach ( MLSBA) ． MLSBA is an extension of sparse Bayesian model，by introducing sparse manifold priors to

the weights，which can effectively employ the manifold information of sample data to improve the classification accuracy．

Extensive experiments are conducted on various datasets，and the results show that MLSBA not only achieves better classifi-

cation performance on manifold datasets，but also has comparable effectiveness on the non-manifold datasets，and our algo-

rithm has good sparsity on two categories of datasets at the same time．

Key words: Laplacian; sparse Bayesian; sparse manifold prior; manifold regularization

［2］

，

如式

( 1)

所示

合

引言

f( x; w) =

( x) + w

( x) w

( 1)

是模型的权值

是模型的核函数矩

∑

，

在监督学习中对于给定的样本数据

R ，

∈ 希望

i = 1

，w =［w ，w ，…，w ］

是偏移动

其中

f( x;

得到一个可以对样本进行分类或者回归的函数

w) ．

f( x; w) ，

首先需要给定一个训练数据集

， ( x) =［ ( x) ，…， ( x) ］

向量 Φ φ

为了得到

= { ( x ，y ) ，…，( x ，y ) } (

其中输入是一个维向量

，

．

阵 φ

( x) =［1，k( x ，x ) ，…，k( x ，x ) ］

表示由核函数

［3］

x =［x ，…，x ］ R ， y

∈

，

时对应的是回归问题

;

当 ∈

(

组成的基向量基函数

)

．

、

目前核函数有线性核高斯

{ － 1，1}

， ) ;

时表示研究的是二分类问题然后在

当

∈

、、，

核拉普拉斯核样条核等多种类型本文使用高斯核

f( x; w) ;

训练数据集上学习得到

据服从同样分布的测试数据上对

最后在假定与训练数

f( x; w)

的分类性能进

k( x ，x ) = exp{ －

x － x

}

‖

( 2)

θ ‖

其中‖ ‖ 表示

，，

范数 θ 是控制核函数的参数可

．

行评估

，

近年来基于核方法的机器学习模型引起广泛的

通过交叉验证给出或最大化后验的方法对其进行优

［1］

．

，

化

通常情况下核参数 θ 都会预先给出此时学习目

f( ·)

转变为根据已有的训

［1］

，

该模型是权值向量与核函数 Φ

( x)

关注

的线性组

标由寻找最优的分类函数

: 2016-04-08;

: 2016-09-14; :

责任编辑孙瑶

收稿日期

修回日期

基金项目国家自然科学基金

( No． 91546116，No． 61673363，No． 61511130083)

陈兵飞基于稀疏贝叶斯的流形学习

第

期

T，

练数据集估计合适的模型权值参数

w．

，

稀疏性能这种稀疏性降低了测试阶段的计算复杂度

;

目前基于核

( Support Vector

，

③通过定义新的先验分布将样本数据所具有的流形

函数的稀疏学习算法包括支持向量机

［4］

Machines，SVM)

、

( Relevance Vector Ma-

，

信息作为先验知识引入到模型中能够对分类函数进

全部评论(0)

暂无评论

评论赚积分>>

上传资源上传优质资源有赏金

基于稀疏贝叶斯的流形学习

资料介绍

部分文件列表

部分页面预览

相关下载

全部评论(0)

热门标签

最新上传

热门下载

推荐下载

专栏首页