大模型落地几个有趣的应用产品：兼看大模型进行数据标注项目及LooGLE长文本理解benchmark

今天是2023年11与4日，星期六，北京，天气晴。

在昨天，我们来看了看长文本如何将进行评估。

今天，我们再来补充一个评测数据集，并介绍这几天读到的一个一个报告，很有意思，100个有趣的AI应用，以及一个大模型进行数据标注的项目。

供大家一起参考。

一、基于LLM自然语言能力的对话、写作、阅读、分析等应用。

1、虚拟角色对话

character.ai的安卓和ios应用程序在美国的月活用户达到420万，与其类似的应用还有JanitorAI、talkie等。

例如：character.ai 是一款虚拟角色创建和对话工具，用户通过提供信息和设定能生成具有特点 特点的虚拟角色，并可以与其进行对话。

Call Annie定位是用户的人工智能朋友和助手，可以通过练习对话、理解复杂的主题或 提高您的技能来帮助用户学习英语。也可以为用户提供任何帮助，从常识、琐事、解决 问题到面试练习或只是讨论用户感兴趣的话题。

2、写作工具

grammarly官方称全球每天有超过3000万人和50000个团队使用，此外针对小说、营销文案等细分领域各种写作工具百花齐放。

例如，Notion AI利用大规模的语言模型和数据收集，能帮助用户自动做摘要、改正语法、翻译等

Moonbeam经过专门训练，专注于长篇文章写作的AI写作助手，可以帮助用户撰写论文、故事、文章、博客和其他长篇内容。

3、基于大语言模型的阅读理解能力，结合搜索和pdf文件交互

这类产品有ChatPDF、PerplexityAI等应用，利用大语言模型的阅读理解能力，结合文件交互以及网络搜索能力的众多辅助阅读分析，综合了写作、数据分析等功能的办公工具MicrosoftCopilot定价30美金每月，验证了AI在办公领域的价值。

例如，ChatPDF可以让用户更轻松地阅读文章，上传pdf文件后可以用类似于 ChatGPT 对话的 方式获取其中信息。与其类似的应用还有 AskYourPDF、PDF.ai 等。

wisdom.ai为科研人员的决策提供可行的见解，包括确定用户所在领域的全球新兴热点 和研究趋势;确定研究领域最前沿的研究人员和机构进行合作，分析研究领域的资助趋势，以确定项目的潜在资助者;分析文章库以查找关键论文并使用人工智能驱动的引文推荐器进行引用等。

二、企业级应用与各领域垂类应用

1、各类RPA和流程自动化应用

如SAP新推出的Joule助手、CRM服务salesforce、流程自动化应用Zapier等。

B端AI应用可以直接帮企业创造价值，如降低运营成本，提升工作效率等，这些价值更容易量化，且B端场景和数据更好掌控。企业内部数据体量大且结构化程度高，这有利于AI训练，数据安全隐私也更容易控制，合规风险更低，利于应用落地。目前面向企业用户的AI应用以各类RPA及流程自动化应用居多，也有其他销售、客服领域应用。

例如，DeepOpinion是一个一体化平台，无需代码就可以为文本和文档流程构建企业级的人工智能自动化。

2、行业know-how与大模型微调结合

金融领域有彭博的大模型以及开源模型FinGPT等，针对财务分析、金融知识问答以及债券、加密货币等不同领域也均有应用。医学领域在医疗问答、医院流程管理、生物制药等领域均有应用。

例如，Avanzai是用于帮助用户分析财务数据的AI助手，能帮用户使用自然语言生成用于财务 数据分析的 python 代码。

教育领域，Chegg和可汗学院等机构结合GPT-4推出了学习助理。法律领域也有红杉资本与OpenAI投资的Harvey等应用。

例如，studdy是用户的私人人工智能导师，能帮助学习任何学校科目。当需要帮助时，拍下作业照片，Studdy就会回答问题。

编程领域，GithubCopilot已被超过100万开发者激活，并被超过20000个组织采用，谷歌、亚马逊等科技大厂均在跟进推出相关产品。

例如，GitHub Copilot 是由 GitHub、OpenAI 和 Microsoft 开发的生成式 AI 模型提供支持的辅助 编程工具。它接受过自然语言文本和来自公开来源的源代码的培训，包括 GitHub 上公共 存储库中的代码，可作为 Visual Studio Code、Visual Studio、Neovim 和 JetBrains 集成 开发环境(IDE)套件的扩展。

3、面向日常生活以及其他方面有趣应用

面向消费者，在日常出行、购物等方面均有各类AI助手，有原有应用厂商结合自身业务积累为自己的应用引入AI能力如旅行应用PLANbyixigo，烹饪应用Botoouille，也有一些独立的产品如Roamaround。

例如，Roam Around实用的人工智能旅行规划工具，能根据用户的偏好做出规划。

三、大模型进行数据标注以及长文本理解benchmark

1、一个大模型进行数据标注的项目

利用大模型对数据进行标注的一个简单尝试：

地址：https://modelscope.cn/studios/duanyu/LabelFast/summary

github地址：https://github.com/duanyu/LabelFast

2、补充一个大模型长文本理解benchmark

LooGLE是一个用于 LM长文本理解的综合评估基准，其中包含最新（均为2022年之后）和超长的现实文档（每个文档超过24k个词组，其中许多超过 100k词），以及 6,000个新生成的问题，涵盖不同的领域和类别。

在数据构成上，由7个主要任务组成，用于评估 LLM 理解短篇和长篇依存内容的能力。”长依赖性 “任务是指那些需要理解跨越整个长文本的多个证据之间的相互依赖性的任务，精心设计了5种类型的长依赖任务，包括理解与推理、计算、时间线重排、多重信息检索和总结。

数据样例：

数据的组织形式：

{
    "input": "The original long input texts",
    "title": "The title of the given document",  //for arxiv paper, we use "title" to refer the identical ID for specific paper
    "qa_pairs":[
            {
                "Q": "Question to ask based on the given input",
                "A": "Groundtruth answer for the question",
                "S": [ "One or more evidence (complete sentences) for answering the question, which are extracted directly from the original input"
                ]
            },  
        ]        // There are multiple questions and corresponding answers in the list (each of them is in json format)
                 // For arxiv paper summarization, we use "none" instead for non-qa/non-cloze tasks
    "output": "none"   // the predicted outputs of LLM given the long input and instructions, which is initialized as "none"


此外，在评估方面，为了提供更全面、更通用的结果，LooGLE依靠基于语义相似性的自动度量、GPT4即判断和人工评估来获得整体性能。

地址：https://github.com/bigai-nlco/LooGLE

总结

本文主要介绍了有趣的点，包括国盛证券研究所《100个有意思的AI应用总结》中总结的一些应用观点、一个大模型进行数据标注的项目以及大模型进行数据标注以及长文本理解benchmark等项目。

很有启发，供大家周末一起参考。

参考文献

1、国盛证券研究所.100个有意思的AI应用:http://field.10jqka.com.cn/20231009/c651078442.shtml

2、https://github.com/bigai-nlco/LooGLE

关于我们

老刘，刘焕勇，NLP开源爱好者与践行者，主页：https://liuhuanyong.github.io。

老刘说NLP，将定期发布语言资源、工程实践、技术总结等内容，欢迎关注。

对于想加入更优质的知识图谱、事件图谱、大模型AIGC实践、相关分享的，可关注公众号，在后台菜单栏中点击会员社区->会员入群加入。