推荐星级：

矩阵补全模型及其算法研究综述

更新时间：2019-12-30 12:59:28 大小：1M 上传用户：zhiyao6 查看TA发布的资源 标签：稀疏学习矩阵补全压缩感知 下载积分：1分评价赚积分（如何评价?）打赏收藏评论(0) 举报

资料介绍

近年来,随着压缩感知技术在信号处理领域的巨大成功,由其衍生而来的矩阵补全技术也日益成为机器学习领域的研究热点,诸多研究者针对矩阵补全问题展开了大量卓有成效的研究.为了更好地把握矩阵补全技术的发展规律,促进矩阵补全理论与工程应用相结合,针对矩阵补全模型及其算法进行了综述.首先,对矩阵补全技术进行溯源,介绍了从压缩感知到矩阵补全的自然演化历程,指出压缩感知理论的发展为矩阵补全理论的形成奠定了基础;其次,从非凸非光滑秩函数松弛的角度将现有矩阵补全模型进行分类,旨在为面向具体应用的矩阵补全问题建模提供思路;然后综述了适用于矩阵补全模型求解的代表性优化算法,其目的在于从本质上理解各种矩阵补全模型优化技巧,从而有利于面向应用问题的矩阵补全新模型求解;最后分析了矩阵补全模型及其算法目前存在的问题,提出了可能的解决思路,并对未来的研究方向进行了展望.

部分文件列表

文件名	大小
矩阵补全模型及其算法研究综述.pdf	1M

立即下载

【关注视频号领20积分】【关注公众号立即送20积分】

部分页面预览

（完整内容请下载后查看）

软件学报 ISSN 1000-9825, CODEN RUXUEW

Journal of Software,2017,28(6):1547−1564 [doi: 10.13328/j.cnki.jos.005260]

E-mail:

Tel: +86-10-62562563

矩阵补全模型及其算法研究综述^∗

1,2,3

陈

蕾

陈松灿

¹(南京航空航天大学计算机科学与技术学院,江苏南京 210016)

²(江苏省无线传感网高技术研究重点实验室(南京邮电大学),江苏南京 210003)

³(南京邮电大学计算机学院,江苏南京 210003)

通讯作者: 陈蕾, E-mail:

摘

要: 近年来,随着压缩感知技术在信号处理领域的巨大成功,由其衍生而来的矩阵补全技术也日益成为机器

学习领域的研究热点,诸多研究者针对矩阵补全问题展开了大量卓有成效的研究.为了更好地把握矩阵补全技术的

发展规律,促进矩阵补全理论与工程应用相结合,针对矩阵补全模型及其算法进行了综述.首先,对矩阵补全技术进

行溯源,介绍了从压缩感知到矩阵补全的自然演化历程,指出压缩感知理论的发展为矩阵补全理论的形成奠定了基

础;其次,从非凸非光滑秩函数松弛的角度将现有矩阵补全模型进行分类,旨在为面向具体应用的矩阵补全问题建模

提供思路;然后综述了适用于矩阵补全模型求解的代表性优化算法,其目的在于从本质上理解各种矩阵补全模型优

化技巧,从而有利于面向应用问题的矩阵补全新模型求解;最后分析了矩阵补全模型及其算法目前存在的问题,提出

了可能的解决思路,并对未来的研究方向进行了展望.

关键词: 稀疏学习;矩阵补全;压缩感知;矩阵分解;随机优化

中图法分类号: TP181

中文引用格式: 陈蕾,陈松灿.矩阵补全模型及其算法研究综述.软件学报,2017,28(6):1547−

9825/5260.htm

英文引用格式: Chen L, Chen SC. Survey on matrix completion models and algorithms. Ruan Jian Xue Bao/Journal of Software,

2017,28(6):1547−

Survey on Matrix Completion Models and Algorithms

CHEN Lei^1,2,3

CHEN Song-Can¹

¹(College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics, Nanjing 210016, China)

²(Jiangsu High Technology Research Key Laboratory for Wireless Sensor Networks (Nanjing University of Posts and

Telecommunications), Nanjing 210003, China)

³(School of Computer Science, Nanjing University of Posts and Telecommunications, Nanjing 210003, China)

Abstract: In recent years, with the great success of compressed sensing (CS) in the field of signal processing, matrix completion (MC),

derived from CS, has increasingly become a hot research topic in the field of machine learning. Many researchers have done a lot of

fruitful studies on matrix completion problem modeling and their optimization, and constructed relatively complete matrix completion

∗ 基金项目: 国家自然科学基金(61472186, 61572263, 61403208); 江苏省自然科学基金(BK20161516, BK20151511); 中国博士

后科学基金(2015M581794); 江苏省高校自然科学研究面上项目(15KJB520027); 江苏省博士后科研资助计划(1501023C); 南京邮

电大学校级科研基金(NY214127, NY215097)

Foundation item: National Natural Science Foundation of China (61472186, 61572263, 61403208); National Science Foundation of

Jiangsu Province (BK20161516, BK20151511); Postdoctoral Science Foundation of China (2015M581794); Project of Natural Science

Research of Jiangsu University (15KJB520027); Postdoctoral Science Foundation of Jiangsu Province (1501023C); NUPTSF (NY214127,

NY215097)

收稿时间: 2016-05-26; 修改时间: 2016-11-03; 采用时间: 2017-01-19; jos 在线出版时间: 2017-02-20

CNKI 网络优先出版: 2017-02-20 14:05:55, http://www.cnki.net/kcms/detail/11.2560.TP.20170220.1405.018.html

1548

Journal of Software 软件学报 Vol.28, No.6, June 2017

theory. In order to better grasp the development process of matrix completion, and facilitate the combination of matrix completion theory

and engineering applications, this article reviews the existing matrix completion models and their algorithms. First, it introduces the

natural evolution process from CS to MC, and illustrates that the development of CS theory has laid the foundation for the formation of

MC theory. Second, the article summarizes the existing matrix completion models into the four classes from the perspective of the

relaxation of non-convex and non-smooth rank function, aiming to provide reasonable solutions for specific matrix completion

applications; Third, in order to understand the inherent optimization techniques and facilitate solving new problem-dependent matrix

completion model, the article studies the representative optimization algorithms suitable for various matrix completion models. Finally,

article analyzes the existing problems in current matrix completion technology, proposes possible solutions for these problems, and

discusses the future work.

Key words: sparse learning; matrix completion; compressed sensing; matrix decomposition; stochastic optimization

近年来,随着压缩感知^[1,2]理论的流行,矩阵补全技术(matrix completion)^[3]也越来越受到研究者的广泛关注.

众所周知,压缩感知研究的是如何根据低维的测量值向量恢复出高维稀疏的原始信号向量.而在很多实际问题

中,例如图像和视频处理、推荐系统、文本分析等等,待恢复的数据通常是用矩阵表示的,这使得对问题的理解、

建模、处理和分析更为方便.然而,这些数据经常面临缺失、损毁和噪声污染等问题,如何在这些情形下得到准

确的数据,就是研究者们所要解决的问题.因此,压缩感知理论便自然地从向量空间被拓展至矩阵空间,从而利

用矩阵的二阶稀疏性(即矩阵的低秩性),通过采样矩阵的部分元素来恢复目标矩阵.在机器学习领域,这类问题

通常被刻画为矩阵补全问题.迄今为止,矩阵补全理论已在图像修复^[4]、多标记图像分类^[5]、网络异常流量监

测^[6]、无线传感器网络数据收集^[7]、核磁共振图像分割^[8]、声源定位与阵列校准^[9]、社交网络链接关系预测^[10]

、

运动侦测与估计^[11]、半监督聚类^[12]、推荐系统^[13]、相位检索^[14]、地震数据重构^[15]、问答社区专家发现^[16]

、

无线传感器网络节点定位^[17]、Web 服务 QoS 属性预测^[18]以及 Web 服务标签修正^[19]等领域得到了重要应用,

已逐渐成为机器学习、模式识别以及计算机视觉领域中的主要研究热点之一.

就矩阵补全理论的学术影响而言,在著名的学术论文数字图书馆 ACM,IEEE,Elsevier,Springer 以及 Google

Scholar 中用“Matrix Completion”作为关键字进行检索发现:与矩阵补全有关的学术论文发表数量,近年来一直

呈增长趋势.国内外众多研究机构如卡内基梅隆大学^[20]、斯坦福大学^[21]、加州理工学院^[22]、明尼斯达大学^[23]

亚利桑那州立大学^[24]、哥伦比亚大学^[25]、莱斯大学^[26]、华盛顿大学^[27]、加州大学伯克利分校^[28]、加州大学

洛杉矶分校^[29]、IBM ^[30]、德克萨斯州大学奥斯汀分校^[31]、新加坡国立大学^[32]、密歇根州立大学^[33]、鲁汶大

、

学

^[34]、伊朗沙力夫理工大学^[35]、滑铁卢大学^[36]、香港中文大学^[37]、北京大学^[38]、清华大学^[39]、南京大学^[40]

、

上海交通大学^[41]、西安电子科技大学^[42]、浙江大学^[43]、南京邮电大学^[44]等研究机构都开展了矩阵补全研究

工作.他们的研究成果不仅推动了矩阵补全理论的发展,而且展现了矩阵补全理论诱人的应用前景.

本文首先对标准的矩阵补全模型进行溯源,探讨压缩感知和矩阵补全的关系,指出压缩感知的相关理论和

技术可以自然地推广到矩阵补全;然后综述近年来涌现的各种矩阵补全模型,从非凸非光滑秩函数松弛的角度

将其分为基于核范数松弛的矩阵补全模型、基于矩阵分解的矩阵补全模型、基于非凸函数松弛的矩阵补全模

型和其他类型的矩阵补全模型;接着,从独立于问题模型的角度综述适用于矩阵补全模型求解的代表性优化方

法,其目的在于从本质上理解矩阵补全模型优化技巧,从而有利于问题依赖的新模型求解;最后,本文分析了现

有矩阵补全研究存在的问题,指出现有矩阵补全模型及其算法仍然存在噪声容错性差、归纳推广性不足和先验

信息融合性不强等问题,同时,所设计的算法大多受制于单机内存和计算效率的约束,难以适用于大规模问题求

解;针对这些问题,作者提出了可能的解决思路,并对未来研究方向进行了展望.

本文第 1 节对矩阵补全技术进行溯源,指出压缩感知理论的发展为矩阵补全理论的形成奠定了基础.第 2

节综述现有矩阵补全模型.第 3 节综述适用于矩阵补全模型求解的代表性优化算法.第 4 节对矩阵补全模型及

其算法研究目前存在的问题进行分析,指出可能的解决方案,并对未来研究工作进行展望.最后是本文的总结.

矩阵补全溯源

由 Donoho^[1]提出的压缩感知技术是信号处理领域的研究热点,其核心思想是:基于信号的可压缩性或稀疏

全部评论(0)

暂无评论

评论赚积分>>

上传资源上传优质资源有赏金

矩阵补全模型及其算法研究综述

资料介绍

部分文件列表

部分页面预览

相关下载

全部评论(0)

热门标签

最新上传

热门下载

推荐下载

专栏首页