智源研究院开源JudgeLM 裁判模型,高效评测大模型

释放双眼,带上耳机,听听看~!
智源研究院开源了一种名为 JudgeLM 的裁判模型,可以高效准确地评判各类大模型。与 GPT-4相比,JudgeLM 仅需1/120的成本,就能达到90% 以上的评判结果一致性。它可以应用于纯文本、多模态等多种评判场景,并可以输出评分、判断和阐述理由。

AICMTY(aicmty.com)11月13日 消息:智源研究院开源了一种名为 JudgeLM 的裁判模型,可以高效准确地评判各类大模型。

与 GPT-4相比,JudgeLM 仅需1/120的成本,就能达到90% 以上的评判结果一致性。它可以应用于纯文本、多模态等多种评判场景,并可以输出评分、判断和阐述理由。

智源研究院开源JudgeLM 裁判模型,高效评测大模型

通过创新方法,JudgeLM 与参考答案的一致性最高超过了90%,接近人类表现。JudgeLM 有三个不同参数版本,分别为70亿、130亿和330亿参数,能力和表现随着参数规模的增大而提升。

此外,智源研究院还开源了一个包含训练和验证样本的数据集,用于深入研究大语言模型裁判。JudgeLM 的评判效率高,成本低于基于 API 的评判方法。

未来,JudgeLM 团队将进一步完善这一裁判模型,提供更准确、高效、覆盖更多场景的大语言模型评判。

JudgeLM 相关资源:

github :https://github.com/baaivision/JudgeLM

arxiv :https://arxiv.org/abs/2310.17631

demo(33B) :https://218.91.113.230:9004/

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

谷歌DeepMind发布AGI等级划分,ChatGPT处于哪个位置?

2023-11-13 11:09:38

AI资讯

OpenAI挖走谷歌顶尖工程师,开出天价年薪!AI人才抢夺战白热化

2023-11-13 11:33:18

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索