EC^2：具身控制的新兴通讯

​

EC^2: Emergent Communication for Embodied Control

解决问题：本篇论文旨在解决在具体控制任务中，如何通过多模态预训练快速学习新环境中的行为。该论文提出了一种新的方案，即通过紧密结合视频和语言的互补差异来学习无监督的“视频语言”，以提高下游任务的表现。

关键思路：该论文的关键思路是利用紧密结合视频和语言的互补差异来学习无监督的“视频语言”，以提高下游任务的表现。通过使用语言模型来学习视频轨迹、紧急语言和自然语言的具体表现，从而提高下游任务的性能表现。相比于当前领域的研究，该论文的思路是有新意的。

其他亮点：该论文的实验设计是通过在Metaworld和Franka Kitchen等具体任务中进行广泛实验来验证该方案的有效性。此外，该论文还进行了定量和定性分析，并讨论了未来的研究方向。作者还开源了代码，方便其他学者使用和参考。在该领域，值得进一步深入研究的是如何更好地理解和利用紧急通信在具体任务中的作用。

关于作者：本文的主要作者是Yao Mu、Shunyu Yao、Mingyu Ding、Ping Luo和Chuang Gan。他们均来自清华大学。他们之前的代表作包括：《M3ERL: Mind-aware Multi-agent Management for Electronic Retailing》和《Deep Reinforcement Learning for Multi-objective Combinatorial Optimization》等。

相关研究：近期其他相关的研究包括：《Learning to Learn from Demonstrations for Real World Reinforcement Learning》（作者：Shixiang Gu、Timothy Lillicrap、Zoubin Ghahramani，机构：DeepMind）、《Unsupervised Learning of Visual-Semantic Embeddings with Multimodal Transformers》（作者：Luowei Zhou、Hamid Palangi、Lei Zhang，机构：Microsoft Research）等。

论文摘要：本文介绍了一种新颖的方案，名为EC^2，用于为少样本体现控制预训练视频-语言表示。该方案的关键思想是通过紧急通信学习视频的无监督“语言”，从而桥接视频细节的语义和自然语言的结构。通过使用语言模型来学习视频轨迹、紧急语言和自然语言的体现表示，并将其用于下游控制的轻量级策略网络的微调。在Metaworld和Franka Kitchen体现基准测试中，EC^2显示出比以前的对比学习方法更好的性能，无论是针对视频还是文本作为任务输入。进一步的消融实验证实了紧急语言的重要性，这对于视频和语言学习都是有益的，并且明显优于使用预训练的视频字幕。我们还展示了紧急语言的定量和定性分析，并讨论了未来更好地理解和利用在体现任务中的紧急通信的方向。

​Read More