您现在的位置是:首页 > 技术资料 > 编码器-解码器架构
推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

编码器-解码器架构

更新时间:2026-07-09 12:24:07 大小:17K 上传用户:潇潇江南查看TA发布的资源 标签:编码 下载积分:2分 评价赚积分 (如何评价?) 打赏 收藏 评论(0) 举报

资料介绍

一、基本概念

编码器-解码器(Encoder-Decoder)架构是深度学习领域应用极为广泛的一种基础模型结构,核心思想是将输入数据通过编码器映射为隐层特征表示,再通过解码器基于该特征生成目标输出,天然适配输入和输出长度不固定、维度不一致的任务场景。

从结构拆分来看:

· 编码器(Encoder:负责处理原始输入数据,通过多层神经网络逐步提取输入中的语义、结构、空间等特征,将任意长度的输入压缩为固定维度(或适配解码器需求的)特征向量/特征序列,完成输入信息的抽象编码。

· 解码器(Decoder:接收编码器输出的抽象特征,根据任务目标逐步解码生成符合要求的输出序列,完成从抽象特征到目标输出的映射。

二、核心发展脉络

1. 早期起源与RNN时代

编码器-解码器架构最早被提出用于解决神经机器翻译(Neural Machine Translation, NMT)问题,2014Seq2Seq(序列到序列)框架的提出奠定了该架构的基础,早期的编码器和解码器均采用循环神经网络(RNN,包括LSTMGRU)实现:

· 编码器逐词读入源语言句子,最终将整个句子的信息编码为一个固定长度的上下文向量;

· 解码器基于该上下文向量,逐词生成目标语言句子。

这种结构解决了传统统计机器翻译无法端到端训练的问题,但也存在明显缺陷:固定长度的上下文向量难以承载长序列的信息,当输入句子较长时,编码器会丢失早期输入的信息,导致解码精度大幅下降。


部分文件列表

文件名 大小
编码器-解码器架构.docx 17K

【关注公众号领20积分】

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载