当前位置:首页> AI资讯> 微软推出“从错误中学习”模型训练法,改善AI推理能力

微软推出“从错误中学习”模型训练法,改善AI推理能力

释放双眼,带上耳机,听听看~!
微软亚洲研究院联合高校提出了一项名为“从错误中学习(LeMA)”的AI训练方法,通过模仿人类学习知识的过程,来改进AI推理能力。研究团队公开了LeMA的相关资料在GitHub上。

IT之家 11 月 7 日消息,微软亚洲研究院联合北京大学、西安交通大学等高校,提出了一项名为“从错误中学习(Learning from Mistake,LeMA)”的 AI 训练方法,号称可以通过模仿人类学习知识的过程,来改进 AI 推理能力。

微软推出“从错误中学习”模型训练法,改善AI推理能力

当下 OpenAI GPT-4 和谷歌 aLM-2 等大语言模型在自然语言处理(NLP)任务,及思维链(chain-of-thought,CoT)推理的数学难题任务中都有不错的表现。

但例如 LLaMA-2 及 Baichuan-2 等开源大模型,在处理相关问题时则有待加强。为了提升开源这些大语言模型的思维链推理能力,研究团队提出了 LeMA 方法。这种方法主要是模仿人类的学习过程,通过“从错误中学习”,以改进模型的推理能力

微软推出“从错误中学习”模型训练法,改善AI推理能力

▲ 图源 相关论文

IT之家发现,研究人员的方法是使用一对包含“错误解答”与“修正后正确答案”的数据来微调相关模型。为取得相关数据,研究人员收集了 5 个不同大语言模型(包括 LLaMA 及 GPT 系列)的错误答案和推理过程,再以 GPT-4 作为“订正者”,提供修正后的正确答案。

据悉,修正后的正确答案中包含三类信息,分别是原推理过程中错误片段、原推理过程出错的原因、以及如何修正原方法以获得正确答案。

研究人员采用 GSM8K 及 MATH,来测试 LeMa 训练法对 5 个开源大模型的效果,结果显示,以改进过的 LLaMA-2-70B 为例,在 GSM8K 的准确率分别为 83.5% 及 81.4%,在 MATH 则分别为 25.0% 及 23.6%。

目前研究人员已将 LeMA 的相关资料公开在 GitHub 上,感兴趣的小伙伴们可以点此跳转。

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

微软CEO纳德拉亮相OpenAI首届开发者大会:Azure助力AI模型发展

2023-11-7 13:22:52

AI资讯

三位科技大佬预测AGI通用人工智能实现时间

2023-11-7 14:08:29

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索