当前位置:首页> AI资讯> Mistral AI发布首个开源MoE模型Mixtral8x7B并上线魔搭社区

Mistral AI发布首个开源MoE模型Mixtral8x7B并上线魔搭社区

释放双眼,带上耳机,听听看~!
Mistral AI近日发布了首个开源MoE模型Mixtral8x7B,并在魔搭社区上线。Mixtral-8x7B是一款混合专家模型,支持多种语言,拥有优秀的代码生成能力,并在评测上达到了8.3分,与GPT3.5相当。了解更多关于Mixtral8x7B和Mistral AI的最新动态。

AICMTY(aicmty.com)12月14日 消息:Mistral AI 近日发布了首个开源 MoE 模型 Mixtral8x7B,并宣布在魔搭社区上线。

Mixtral-8x7B 是一款混合专家模型(Mixtrue of Experts),由8个拥有70亿参数的专家网络组成,在能力上,Mixtral-8x7B 支持32k token 上下文长度,支持英语、法语、意大利语、德语和西班牙语,拥有优秀的代码生成能力,可微调为指令跟随模型。

该模型在 MT-Bench 评测上达到了8.3分,与 GPT3.5相当。

Mistral AI发布首个开源MoE模型Mixtral8x7B并上线魔搭社区

Mixtral-8x7B-v0.1模型:

https://www.modelscope.cn/models/AI-ModelScope/Mixtral-8x7B-v0.1/summary

Mixtral-8x7B-Instruct-v0.1模型:

https://www.modelscope.cn/models/AI-ModelScope/Mixtral-8x7B-Instruct-v0.1/summary

Mistral-7B-Instruct-v0.2新模型:

https://www.modelscope.cn/models/AI-ModelScope/Mistral-7B-Instruct-v0.2/summary

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

OpenAI成为《自然》2023年度十大人物榜单的赢家

2023-12-14 12:25:03

AI资讯

谷歌宣布Gemini Pro AI模型开放给开发者和企业

2023-12-14 12:30:11

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索