芝加哥大学 | 明确的计划有助于语言模型在逻辑推理中的表现

705次阅读
没有评论

【推荐理由】本文介绍了一种基于语言模型的逻辑推理系统,将显式规划集成到推理方法中。

Explicit Planning Helps Language Models in Logical Reasoning

Hongyu Zhao,  Kangrui Wang, Mo Yu, Hongyuan Mei

[University of Chicago & Toyota Technological Institute at Chicago & WeChat AI]

【论文链接】https://arxiv.org/pdf/2303.15714.pdf

【摘要】语言模型已经在各种自然语言处理任务中表现出色。在本文中,作者提出了一种使用语言模型进行多步逻辑推理的新系统。该系统将显式规划纳入其推理过程中,因此能够通过向前看其未来效果来做出更明智的推理决策。在文章的实验中,该完整系统在性能上显著优于其他竞争系统。在多项选择题回答任务中,该系统与GPT-3-davinci相比表现出竞争力,尽管只有约15亿个参数。作者进行了几项消融研究,以证明显式规划在系统性能中发挥了关键作用。

芝加哥大学 | 明确的计划有助于语言模型在逻辑推理中的表现

芝加哥大学 | 明确的计划有助于语言模型在逻辑推理中的表现

芝加哥大学 | 明确的计划有助于语言模型在逻辑推理中的表现

 

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy