大模型晚报｜图灵奖得主杨立昆：AI 需要像婴儿一样观察和学习真实世界

大模型资讯：

图灵奖得主杨立昆：AI需要像婴儿一样观察和学习真实世界

北京智源大会是智源研究院举办的年度国际性人工智能的高端学术交流活动。今年是第五届。大会以国际性、权威性、专业性和前瞻性为特色，定位于内行的AI盛会。杨立昆、Geoffrey Hinton 以及 Yoshua Bengio 三位科学家并称为深度学习三巨头。而三巨头之中，杨立昆对于AI发展所持的态度是最为乐观的。关于 AI 接下来该如何发展，在今天上午于北京举行的 2023 智源人工智能大会上，他发表了名为《走向能够学习、推理和规划的大模型》的演讲，表达了系统的思考。

杨立昆核心观点精彩摘要如下：

1. AI 的能力距离人类与动物的能力，还有差距——差距主要体现在逻辑推理和规划，大模型目前只能「本能反应」。
2. 什么是自监督学习？自监督学习是捕捉输入中的依赖关系。训练系统会捕捉我们看到的部分和我们尚未看到的部分之间的依赖关系。
3. 目前的大模型如果训练在一万亿个 token 或两万亿个 token 的数据上，它们的性能是惊人的。我们很容易被它的流畅性所迷惑。但最终，它们会犯很愚蠢的错误。它们会犯事实错误、逻辑错误、不一致性，它们的推理能力有限，会产生有害内容。由此大模型需要被重新训练。

字节正在内部测试对话类AI项目，代号Grace

据Tech星球报道，字节跳动正在内部测试一款AI对话类产品，目前暂时称作“Grace”，该产品处于测试完善的阶段。

目前并没有太多关于 Grace 的相关消息公开，据字节跳动表示，该产品目前还处于一个初级阶段。

字节旗下的抖音、今日头条等产品层面推出过绘画类、特效类AIGC功能，探索C端用户的感知体验。但字节跳动一直没有推出过对话类 AI 产品。

人类与ChatGPT合作设计采摘机器人

据科技日报报道，荷兰代尔夫特大学和瑞士洛桑联邦理工学院（EPFL）科学家探索了人类与大型语言模型（LLM）之间不同程度的合作，借助ChatGPT设计并研制出了一款番茄收割机器人。

研究负责人之一、代尔夫特大学助理教授科西莫·德拉·桑蒂纳指出，他们希望ChatGPT能设计一个真正有用的机器人，因此选择了食物供应作为突破口。在与ChatGPT聊天时，他们想出了如何建造番茄采摘机器人。

桑蒂纳表示，ChatGPT提供的输出非常有价值。在设计阶段，ChatGPT告知他们哪种作物在自动化方面最具经济价值。在实施阶段，ChatGPT也提出了有用的建议：用硅胶或橡胶制作夹具，以避免压碎番茄；Dynamixel电机是驱动机器人的最佳方式等。人类和人工智能携手合作，最终研制出了一个可采摘番茄的机械臂。

相关论文已发表于6月7日的《自然·机器智能》杂志。

新加坡科研团队推出评估套件INSTRUCTEVAL，专为大语言模型研发

据 huggingface 显示，新加坡科技设计大学旗下的DeCLaRe Lab 近日联手新加坡阿里达摩院推出评估套件INSTRUCTEVAL。

INSTRUCTEVAL是一款较为全面的评估套件，专为指令调整的大语言模型设计。研发团队表示，INSTRUCTEVAL 的评估基于解决问题、写作能力以及是否和人类的价值观保持一致。INSTRUCTEVAL 还将会通过模型的预训练基础、指令调优数据以及训练方法等多个因素对大语言模型进行评估。研究结果表明，指令数据的质量是衡量模型性能的最关键因素。

研发团队表示，INSTRUCTEVA的目标是帮助加深对指令调整模型及其功能进步的理解。

百度或将推出全新AI对话软件万话

据Tech星球报道，百度计划推出一款全新的AI对话软件万话，将营造一对一的对话式聊天场景。

据企查查显示，百度旗下关联公司“北京百度网讯科技有限公司”已经申请注册万话软件著作权。二度也回应称确实申请了相关知识产权注册登记，但具体的使用规划，暂时不便透露。

此前百度曾在万象大会上表示，一款新的AI产品，将会在未来出现。

人工智能框架生态峰会将于6月16日在上海召开

据华为计算官方消息，人工智能框架生态峰会将于6月16日在上海召开。

根据议程，将发布“共建人工智能框架生态，繁荣中国人工智能产业”倡议，并举办“上海昇思AI框架&大模型创新中心启动暨伙伴入驻仪式”。

另外，本次大会将共建AI开源生态，宣布昇思MindSpore社区理事会成立。

Adobe 升级图形设计工具 Express，集成 AI 技术

据 Adobe 官方消息，旗下设计工具Express现已获得更新，新版本中集成了Firefly 的 AI 技术。

更新之后，Express 用户可以通过输入文本利用 AI 改进和生成图像和文本效果。Adobe 表示，这项技术可以被用来设计海报、传单等产品。

Adobe 数字媒体业务总裁 David Wadhwani 表示，Adobe Express 新版本融合了 Photoshop，Illustrator，Premiere 和 Acrobat 的技术，以及 Firefly 生成 AI 模型，让每个人都可以创建出色的内容。

Meta召开全体员工会议，扎克伯格公布AI战略以安抚员工

据界面新闻报道，Meta公司在完成最新一轮裁员两周后，其首席执行官马克·扎克伯格试图就公司战略对员工进行安抚，尤其是对人工智能（AI）的强调。

据Meta发言人介绍，扎克伯格在周四的全体员工会议上表示，公司的两大优先事项就是将AI纳入其各种产品和元宇宙平台。元宇宙是一个虚拟现实平台，被扎克伯格视为人们在一个遥远的未来进行在线交流的方式。扎克伯格还鼓励员工在公司计划于7月举行的生成式AI“黑客马拉松”上尝试新的想法。

此前报道，5月中旬，Meta Platforms开始实施由三部分组成的最后一轮裁员，预计将影响广告销售、营销和合作团队。这是今年3月份宣布的裁撤10000个职位计划的一部分。

IMF第一副总裁：我们需要一套真正的AI全球规则

据第一财经报道，国际货币基金组织(IMF)第一副总裁戈皮纳特(Gita Gopinath)近日在格拉斯哥大学参加纪念亚当• 斯密诞辰300周年活动时表示，面对人工智能（AI）浪潮，需要谨慎地在支持创新和监管监督二者间取得平衡。

“这些规则必须是全球性的。”戈皮纳特说，人工智能的出现表明，多边合作比以往任何时候都更加重要。

戈皮纳特强调：“我们迫切需要健全、明智的监管法规，确保人工智能被用来造福社会。”

此外，“我们需要在监管方面开展国际合作，因为人工智能是跨国界运作的。”戈皮纳特说，七国集团（G7）已经成立了一个工作组来研究人工智能，我们需要一套真正的全球规则，技术正在飞速发展，迅速行动至关重要。

OpenAI首席执行官称已准备好投资韩国初创公司

据界面新闻报道，美国人工智能公司OpenAI的负责人6月9日表示，他准备投资韩国有发展潜力的初创公司。

“我们乐于支持人们在我们的平台上进行建设。我们今天在这里的一些团队很乐意为此提供帮助，”OpenAI首席执行官山姆·奥特曼在首尔与韩国商人会面时说。“我们正在探索对韩国初创公司进行更多投资。我们很高兴能够探索联合芯片合作以发展AI。”

重点论文：

大型语言模型对劳动力市场的影响潜力

宾夕法尼亚大学团队研究了大型语言模型（LLMs）如生成预训练Transformer（GPT）对美国劳动力市场的潜在影响。他们发现，这种技术可能对80%的美国劳动力产生影响，并至少影响他们10%的工作任务。而对于19%的劳动力来说，影响可能会更大，达到他们50%的工作任务。这些影响可能覆盖所有薪资水平，而高薪工作可能更容易受到影响。

值得注意的是，这些影响并不仅限于近年来生产力增长较高的行业。只要拥有LLM访问权限，大约15％的工作任务可以更快地完成，同时保持质量水平。当我们将LLM驱动的软件和工具集成到现有系统中时，这一比例将增加到任务总数的47％到56％。

这种类型的LLM具有通用技术特征，具有极高的经济、社会和政策影响的潜力。因此，我们需要认真考虑这些技术的发展和应用，以最大限度地利用它们的优势，并尽可能减少其带来的风险。

论文链接：https://arxiv.org/pdf/2303.10130.pdf

​Read More