- 1
- 2
- 3
- 4
- 5
Mistral核心模型与开源策略
资料介绍
语言模型开发，已经推出了多款在行业内产生广泛影响力的开源模型，是目前开源大模型领域最受关注的玩家之一。
核心发展节点
1. 2022年12月：公司成立，获得首轮融资估值达到2.4亿欧元
2. 2023年9月：发布首款开源模型Mistral 7B，引发开源社区轰动，该模型性能超过同期Llama 2 13B，引发广泛下载使用
3. 2024年2月：推出Mixtral 8x7B，采用混合专家（MoE）架构，性能接近Llama 2 70B，推理速度快3倍，进一步巩固开源领先地位
4. 2024年9月：发布Mistral Large 2，在多项基准测试中性能接近GPT-4，同时保持开源开放属性，再次刷新开源大模型性能上限
核心代表模型
Mistral 7B
基础参数：70亿参数量，支持8k上下文窗口，支持多种语言，可在消费级GPU部署运行。
核心优势：在推理、编码、常识推理等多个任务上的表现超过Meta推出的Llama 2 13B，同时体积更小、推理速度更快，是首个被广泛认可的“小而强”开源大模型，成为众多下游微调应用的基础底座。
Mixtral 8x7B
架构特点：采用混合专家（Mixture of Experts, MoE）架构，总共有470亿参数，但是每一步推理只会激活120亿左右的参数，兼顾性能和推理效率。
性能表现：性能达到Llama 2 70B的水平，推理速度是Llama 2 70B的6倍，在编码、数学等任务上甚至超过Llama 2 70B，是2024年最受欢迎的开源大模型之一，被大量企业二次开发使用。
部分文件列表
| 文件名 | 大小 |
| Mistral核心模型与开源策略.docx | 13K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：gsy幸运
-
21ic下载 打赏320.00元 3天前
用户：jh03551
-
21ic下载 打赏320.00元 3天前
用户：jh0355
-
21ic下载 打赏210.00元 3天前
用户：zhengdai
-
21ic下载 打赏210.00元 3天前
用户：江岚
-
21ic下载 打赏210.00元 3天前
用户：潇潇江南
-
21ic下载 打赏60.00元 3天前
用户：小猫做电路
-
21ic下载 打赏60.00元 3天前
用户：烟雨
-
21ic下载 打赏60.00元 3天前
用户：mulanhk
-
21ic下载 打赏60.00元 3天前
用户：w993263495
-
21ic下载 打赏20.00元 3天前
用户：w178191520
-
21ic下载 打赏20.00元 3天前
用户：liqiang9090
-
21ic下载 打赏20.00元 3天前
用户：kk1957135547
-
21ic下载 打赏20.00元 3天前
用户：sun2152
-
21ic下载 打赏20.00元 3天前
用户：w1966891335
-
21ic下载 打赏15.00元 3天前
用户：xuzhen1
-
21ic下载 打赏15.00元 3天前
用户：x15580286248
-
21ic下载 打赏10.00元 3天前
用户：wjr111
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：STM32密码锁仿真
-
x1707 打赏1.00元 3天前
-
lanmukk 打赏60.00元 3天前
-
lanmukk 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户：江岚
-
21ic下载 打赏310.00元 3天前
用户：mulanhk
-
21ic下载 打赏310.00元 3天前
用户：潇潇江南
-
21ic下载 打赏210.00元 3天前
用户：小猫做电路
-
21ic下载 打赏210.00元 3天前
用户：gsy幸运
-
21ic下载 打赏210.00元 3天前
用户：zhengdai
-
21ic下载 打赏140.00元 3天前
用户：jh0355
-
21ic下载 打赏130.00元 3天前
用户：jh03551
-
21ic下载 打赏60.00元 3天前
用户：lanmukk
-
21ic下载 打赏60.00元 3天前
用户：kkkopj
-
21ic下载 打赏70.00元 3天前
用户：cooldog123pp
-
21ic下载 打赏20.00元 3天前
用户：烟雨
全部评论(0)