AI日报｜OpenAI正打造自己的AI芯片；查理·芒格：AI受到过度炒作；研究发现：当前大模型水印技术并不可靠

今日值得关注的人工智能新动态：

• OpenAI正打造自己的AI芯片

• Stable Signature：由开源生成式 AI 创建的图像水印新方法

• 研究发现：当前大模型水印技术并不可靠

• 警惕：Bing Chat AI 可被简单的谎言骗过验证码测试

• 微软即将推出自主研发的 AI 芯片，减少对英伟达的依赖

• BBC 制定 AI 使用原则，阻止 OpenAI 数据抓取

• 电商CEO称AI已彻底取代客服工作：复制粘贴岗位成过去

• 查理·芒格：AI 受到过度炒作

• AlignProp：利用奖励反向传播对齐文本到图像扩散模型

• MathCoder：无缝整合LLMs中的代码，增强数学推理能力

• SmoothLLM：防止 LLMs 遭受越狱攻击

01

OpenAI正打造自己的AI芯片

为解决人工智能（AI）芯片的短缺问题，OpenAI 正在考虑制造自己的 AI 芯片，甚至已经考虑潜在的收购目标。尽管尚未最终决定，但 OpenAI 自去年以来一直在讨论解决这一问题的各种选择，包括自己制造 AI 芯片，与英伟达等芯片制造商紧密合作，以及选择多样化供应商，而这一举措将使 OpenAI 成为少数几家掌握自己业务基础芯片设计的大型科技公司之一。

02

Stable Signature：

由开源生成式 AI 

创建的图像水印新方法

近日，Meta AI 与 Inria 和索邦大学合作，共同开发了一种名为“Stable Signature”的隐形水印技术，用于识别由开源生成式 AI 模型创建的图像。这一技术通过在模型中嵌入水印，并将其与生成的图像相关联，防止水印被删除。与传统的水印方法不同，Stable Signature 的水印是与模型相关的，可以追溯到图像的创建者。

03

研究发现：

当前大模型水印技术并不可靠

原本，人们将数字水印技术视为一种有望用于识别人工智能（AI）生成图像和文本的策略，但研究发现数字水印容易被删除，甚至可以添加到人工生成的图像上引发误报。尽管 OpenAI、Alphabet、Meta、亚马逊等科技巨头已承诺开发数字水印技术来应对虚假信息，但是，加利福尼亚大学圣巴巴拉分校和卡内基梅隆大学的研究人员在今年 8 月共同撰写的一篇论文中指出：“所有不可见的数字水印都容易受到攻击。”另外，加州大学伯克利分校信息学院的教授 Hany Farid 表示，“将水印技术与其他技术结合使用，将使恶意操作者更难以创建令人信服的伪造品。”

04

警惕：

Bing Chat AI 可被

简单的谎言骗过验证码测试

研究发现，微软的 AI 助手 Bing Chat 可以被欺骗，只需使用简单的谎言和图像编辑，就能绕过反机器人的 CAPTCHA 测试。这可能导致不良操作者进行虚假账户创建、垃圾邮件发送、篡改在线投票等不良活动。尽管微软已经采取措施修复问题，但该研究引发了对数字安全的担忧，尤其是在防止虚假信息传播方面的局限性。

05

微软即将推出自主研发的 AI 芯片，

减少对英伟达的依赖

据悉，微软计划在即将举行的年度开发者大会上发布首款专为 AI 设计的芯片，代号“雅典娜（Athena）”。这款芯片旨在减少对英伟达 GPU 的依赖，满足不断增长的 AI 需求。微软的数据中心服务器目前使用英伟达 GPU 来支持云客户和生产力应用中的 AI 功能，但 Athena 芯片将提供自主研发的 AI 加速。微软已经与 OpenAI 的团队秘密测试了这款芯片，力求提供与英伟达的 H100 GPU 相媲美的性能。

06

BBC 制定 AI 使用原则，

阻止 OpenAI 数据抓取

最近，英国广播公司（BBC）公布了在评估生成式 AI 使用方面的原则，其中包括始终以公众的最大利益为优先考虑，尊重艺术家的权利，以及在 AI 生成的内容方面保持开放和透明。BBC 认为生成式 AI 技术可以为受众和社会提供更多价值，并计划与技术公司、其他媒体组织和监管机构合作，从而安全地开发生成式 AI 并维护新闻行业的信任。另外，BBC 也将启动一些项目，探讨生成式 AI 在新闻制作、内容存档和个性化体验等多个领域的应用潜力。尽管 BBC 正在积极探索 AI 技术，但该公司已阻止 OpenAI 等网络爬虫访问其网站。

07

电商CEO称AI已彻底取代客服工作：

复制粘贴岗位成过去

一家电子商务公司的首席执行官 Suumit Shah 曾因宣布使用人工智能（AI）聊天机器人取代大部分客户支持人员而引发争议。现在他认为，主要进行复制粘贴回复的客户服务工作已经被 AI 完全替代。然而，他也指出，并非所有的客户服务工作都会被替代。使用 AI 聊天机器人替代支持团队是经济、高效的选择，尤其是当 AI 聊天机器人能够提供更快速、更智能的响应时。他坚信，AI 正在改变就业格局，未来更多的工作将变为自动化。

08

查理·芒格：AI 受到过度炒作

日前，投资大亨查理·芒格表示，他对 AI 存怀疑态度，认为其受到过度炒作。尽管许多投资者视 AI 为下一个大趋势，但他认为 AI 已经存在了很长时间。虽然他承认 AI 领域的突破非常重要，但他认为传统的智能工作很有效。与查理·芒格一样，巴菲特对 AI 也持谨慎态度。

09

AlignProp：

利用奖励反向传播

对齐文本到图像扩散模型

近日，卡内基梅隆大学和 Google DeepMind 的研究人员提出了 AlignProp 方法，通过去噪过程中奖励梯度的端到端反向传播，使扩散模型与下游奖励函数相一致。虽然这种反向传播的实施需要过多的内存资源来存储现代文本到图像模型的部分导数，但 AlignProp 对低秩适配器权重模块进行了微调，并使用梯度检查点，使其内存使用变得可行。

研究测试了 AlignProp 对扩散模型进行微调以实现各种目标的情况，如图像-文本语义对齐、美学、可压缩性、存在对象数量的可控性以及它们的组合。结果发现，与其他方法相比，AlignProp 能以更少的训练步骤获得更高的回报，同时在概念上也更简单，使其成为针对可微分回报函数优化扩散模型的直接选择。

论文：

Aligning Text-to-Image Diffusion Models with Reward Backpropagation

10

MathCoder：

无缝整合LLMs中的代码，

增强数学推理能力

近日，上海人工智能实验室、香港中文大学和香港城市大学共同提出了一种方法——MathCodeInstruct，该方法允许对开源大型语言模型（LLMs）进行微调，使其能够使用代码来建模和推导数学公式，从而增强其数学推理能力。另外，研究还引入了一种定制的监督微调和推理方法。这种方法产生了 MathCoder 模型，这是一个能够生成基于代码的解决方案的模型系列，用于解决具有挑战性的数学问题。

值得注意的是，MathCoder 模型在 MATH（45.2%）和 GSM8K（83.9%）数据集上取得了开源 LLMs 中最先进的成绩，大大超过了其他开源替代方案。MathCoder 模型不仅在 GSM8K 和 MATH 数据集上超过了 ChatGPT-3.5 和 PaLM-2，而且在竞争级别的 MATH 数据集上也超过了 GPT-4。

论文：

MathCoder: Seamless Code Integration in LLMs for Enhanced Mathematical Reasoning

11

SmoothLLM：

防止 LLMs 遭受越狱攻击

尽管人们努力使大型语言模型（LLMs）与人类价值观保持一致，但诸如 GPT、Llama、Claude 和 PaLM 等广泛使用的 LLMs 仍然容易受到越狱攻击。为解决这一漏洞，宾夕法尼亚大学的研究人员提出了 SmoothLLM 算法，这是第一种旨在减轻对 LLMs 的越狱攻击的算法。

研究发现，对抗性生成的提示对字符级的变化很脆弱，基于这一发现，该防御方法首先随机扰动给定输入提示的多个副本，然后汇总相应的预测，以检测对抗性输入。SmoothLLM 将众多流行 LLMs 的攻击成功率降低到了一个百分点以下，避免了不必要的保守，并提供了可证明的攻击缓解保证。此外，该防御所使用的查询次数比现有攻击少得多，而且与任何 LLMs 都兼容。

论文：

SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks

｜点击关注我 👇 记得标星｜