推荐星级:
- 1
- 2
- 3
- 4
- 5
神经机器翻译前沿进展
资料介绍
机器翻译研究如何利用计算机实现自然语言之间的自动翻译,是人工智能和自然语言处理领域的重要研究方向之一.近年来,基于深度学习的神经机器翻译方法获得迅速发展,目前已取代传统的统计机器翻译成为学术界和工业界新的主流方法.首先介绍神经机器翻译的基本思想和主要方法,然后对最新的前沿进展进行综述,最后对神经机器翻译的未来发展方向进行展望.
部分文件列表
文件名 | 大小 |
神经机器翻译前沿进展.pdf | 1M |
部分页面预览
(完整内容请下载后查看):
DOI10.7544issn10001239 .2017 .20160805
-
计 算 机 研 究 与 发 展
?
(): ,
546 11441149 2017
-
JournalofCom uterResearchandDevelo ment
ꢀ ꢀ ꢀ ꢀ ꢀ
p
p
ꢀ
神经机器翻译前沿进展
刘
洋
ꢀ
(
)
清华大学计算机科学与技术系 北京
ꢀ
100084
ꢀ
( ( )
清华信息科学与技术国家实验室 筹
ꢀ
)
100084
ꢀ
北京
( (
智能技术与系统国家重点实验室 清华大学
)
ꢀ
)
北京
100084
ꢀ
(
liuan2011 tsinhua.edu.cn
y g
)
@
g
RecentAdvancesinNeuralMachineTranslation
ꢀ ꢀ ꢀ ꢀ ꢀ
LiuYan
ꢀ
g
(
,
,
)
De artmento Com uterScienceandTechnolo
Tsin huaUniversit Beiin 100084
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
p
f
p
gy
,
Tsin huaNationalLaborator orIn ormationScienceandTechnolo
gy
g
y
j g
ꢀ
(
)
Beiin 100084
j g
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
g
yf
ꢀ
f
(
(
StateKe Laborator o IntellientTechnolo andSstems Tsin huaUniversit
ꢀ
),
)
Beiin 100084
j g
ꢀ
ꢀ
ꢀ
y
ꢀ
y f
ꢀ ꢀ
g
gy
y
g
y
ꢀ
,
Abstract Machinetranslation whichaimsatautomaticall translatin betweennaturallanuaes
ꢀ ꢀ
g g
ꢀ
ꢀ
ꢀ
y
ꢀ
g
ꢀ
ꢀ
ꢀ
,
usin com uters isoneofim ortantresearchdirectionsinartificialintellienceandnaturallanuae
ꢀꢀ p ꢀ ꢀ
g g
g
ꢀ
p
ꢀ
ꢀ
ꢀ
ꢀ
g
ꢀ
ꢀ
ꢀ
,
rocessin .Recent earshavewitnessedtheraiddevelo mentofneuralmachinetranslation which
ꢀy ꢀ p ꢀ ꢀ ꢀ
p
g
ꢀ
ꢀ
ꢀ
p
ꢀ
ꢀ
hasrelacedconventionalstatisticalmachinetranslationtobecomethenew mainstreamtechniuein
ꢀ p ꢀ ꢀ ꢀ ꢀ ꢀ ꢀ ꢀ
q ꢀ
ꢀ
ꢀ
ꢀ
bothacademiaandindustr .This aerfirstintroducesthebasicideasandstateofthearta roaches
ꢀ ꢀ ꢀpp ꢀ ꢀ ꢀ ꢀ ꢀ - ꢀpp
ꢀ
y
ꢀ
ꢀ
-
-
inneural machinetranslation andthen reviewsrecentim ortantresearch findins.The aer
ꢀ ꢀ ꢀ ꢀ ꢀ ꢀpp
ꢀ
ꢀ
ꢀ
p
ꢀ
ꢀ
g
concludeswithadiscussionabout ossiblefuturedirections.
ꢀ ꢀꢀ ꢀ ꢀp ꢀ ꢀ
; ; ;
Ke words artificialintellience dee learnin neuralmachinetranslation encoderdecoderframework
-
;
ꢀ
ꢀ
g
p
ꢀ
g
ꢀ
ꢀ
ꢀ
y
ꢀ
attentionmechanism
ꢀ
,
机器翻译研究如何利用计算机实现自然语言之间的自动翻译 是人工智能和自然语言处理领域
摘
要
ꢀ
ꢀ
, ,
的重要研究方向之一 近年来 基于深度学习的神经机器翻译方法获得迅速发展 目前已取代传统的统
.
,
计机器翻译成为学术界和工业界新的主流方法 首先介绍神经机器翻译的基本思想和主要方法 然后对
.
,
最新的前沿进展进行综述 最后对神经机器翻译的未来发展方向进行展望
.
; ; ; ;
人工智能 深度学习 神经机器翻译 编码器-解码器架构 注意力机制
关键词
ꢀ
中图法分类号
TP391
ꢀ
,
年代末至今 机器翻译研究大体
机器翻译研究如何利用计算机实现自然语言之
自
世纪
20
40
ꢀꢀ
间的自动转换 是人工智能和自然语言处理领域的
重要研究方向之一 机器翻译作为突破不同国家和
,
:
上经历了 个发展阶段 理性主义方法占主导时期
2
(
—
)
和经验主义方法占主导时期
1949 1992
(
—
.
1993
“ ”
民族之间信息传递所面临的 语言屏障 问题的关键
) ,
早期的机器翻译主要采用理性主义方法 主
2016 .
, 、
技术 对于促进民族团结 加强文化交流和推动对外
,
张由人类专家观察不同自然语言之间的转换规律
贸易具有重要意义
以规则形式表示翻译知识 虽然这类方法能够在句
.
.
:
;
修回日期
2016 11 10
:
收稿日期
-
-
- -
2017 02 22
ꢀ
ꢀ
:
基金项目 国家自然科学基金优秀青年科学基金项目
(
)
61522204
(
)
Thisworkwassu ortedb theNationalNaturalScienceFoundationofChinaforExcellentYoun Scientists 61522204 .
ꢀ pp ꢀy ꢀ ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
g
ꢀ
ꢀ
:
洋 神经机器翻译前沿进展
刘
ꢀ
1145
、
法和语义等深层次实现自然语言的分析 转换和生
务的推出标志着数据驱动的统计机器翻译方法成为
, 、 、
成 却面临着翻译知识获取难 开发周期长 人工成
,
商业机器翻译系统的主流 尽管如此 统计机器翻译
.
、
本高等困难
仍面临着翻译性能严重依赖于隐结构与特征设计
.
,
随着互联网的兴起 特别是近年来大数据和云
、
局部特征难以捕获全局依赖关系 对数线性模型难
,
计算的蓬勃发展 经验主义方法在
世纪
年代
以处理翻译过程中的线性不可分现象等难题
20
90
.
,
年以来 端到端神经机器翻译
(
endto
-
以后开始成为机器翻译的主流 经验主义方法主张
.
自
2014
-
[
45
)
]
-
,
以数据而 不 是 人 为 中 心 通 过 数 学 模 型 描 述 自 然
获 得 了 迅 速 发
endneuralmachinetranslation
ꢀ
ꢀ
ꢀ
,
语言的转换过程 在大规模多语言文本数据上自动
,
展 相对于统计机器翻译而言在翻译质量上获得显
训练数学 模 型 这 一 类 方 法 的 代 表 是 统 计 机 器 翻
.
著提升 图 给出了统计机器翻译与神经机器翻译
. 1
[
]
13
,
[]
6
,
神经机器翻译
-
(
、
译
其基本思想是通过隐结构 词语对齐 短语切
在
种语言对上的对比实验结果
30
、 、 ) ,
分 短语调序 同步文法等 描述翻译过程 利用特征
,
种语言对上超过统计机器翻译 因此
.
在其中的
27
,
刻画翻译规律 并通过特征的局部性采用动态规划
、
Goole
g
神经机器翻译已经取代统计机器翻译成为
、 、
微软 百度 搜狗等 商 用在 线 机 器 翻 译 系统 的 核心
算法在指数级的搜索空间中实现多项式时间复杂度
,
的高效翻译
年
在线翻译服
GooleTranslate
g ꢀ
技术
.2006
.
( )
Fi .1 Com arisonbetweenstatisticalmachinetranslationandneuralmachinetranslation NMT on
ꢀ
g
ꢀ
p
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
ꢀ
[]
6
30lanuaes airs
g g ꢀp
[]
6
(
)
与神经机器翻译
PbSMT
( )
在
NMT 30
图
统计机器翻译
个语言对上的对比
1
ꢀ
-
相关下载
- 华为模块电源管理设计指导-(V100R001_02 Chi...
- 华为LGA模块PCB设计指导_V2.0_20150126.pdf
- HUAWEI Module USB Interface Descriptor Gui...
- HUAWEI ME909s-821 LTE LGA模块硬件指南V100R...
- HUAWEI ME909s-821 LTE LGA Module Acceptanc...
- HUAWEI 30 mm x 30 mm LGA Module Hardware M...
- HUAWEI 30 mm x 30 mm LGA Module Developmen...
- Altium_Designer_规则设置三例.pdf
- STM32F407产品技术培训-DSP库及其例程
- STM32F407产品技术培训-2.浮点单元.pdf
全部评论(0)