梁正、何江 | ChatGPT意义影响、应用前景与治理挑战

点击蓝字

关注我们

梁正

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授

作者丨梁正 何江编者按：
ChatGPT作为人工智能技术新的里程碑式应用，在推出仅2个月后，活跃用户已经突破1亿，成为史上用户增长速度最快的消费级应用程序。ChatGPT的火爆标志着人工智能技术发展进入新的时代，将深度影响整个经济社会的未来变革。《中国发展观察》杂志本期特别策划专题“人工智能新时代”，邀请来自国务院发展研究中心、清华大学、中国社会科学院的专家学者分别撰文，介绍了以ChatGPT为代表的人工智能技术的新发展，展望了新技术驱动下相关行业发展的前景，同时对新技术可能带来的挑战及应对进行分析，提出建议。聊天生成预训练转换器（Chat Generative Pre–trained Transformer，ChatGPT）作为由Open AI 研发的人工智能（Artificia lIntelligence，AI）大语言模型，于2022年11月30日上线， 在发布仅一周的时间内就已拥有超100万用户，在推出仅两个月后的2023年1月末，其月活用户已经突破1亿，作为史上用户增长速度最快的消费级应用程序，已然成为火爆全球的一款现象级产品。目前，ChatGPT不再局限于聊天问答、娱乐互动等基本功能，而是迭代升级成为高效的生产力辅助工具，用户可通过聊天互动方式实现邮件、报告、翻译、代码等诸多内容的智能化生成。长远来看，ChatGPT的横空出世，不仅是对新一代聊天机器人和生成式A I的突破， 还将对AI产业乃至各行业数智化转型升级带来颠覆性变革，进而重构产业知识模型构建范式，推动智力密集型服务产业规模化和市场化。本文分析了ChatGPT的意义影响、应用前景，并对可能面临的挑战提出了治理对策建议。

01

ChatGPT 何以火爆出圈
ChatGPT之所以短时间内快速火爆出圈，根本原因在于ChatGPT在一定程度上引发了技术革命，主要体现在以下三个方面。（一）ChatGPT被视作里程碑式的进步产品ChatGPT的横空出世再度点燃AI 赛道的热度，业界形容它的诞生是AI 时代的“ iPhone 时刻”或“ 视窗系统”，甚至有可能和2016年谷歌研发的围棋AI 程序AlphaGo相提并论。微软创始人比尔·盖茨盛赞ChatGPT的意义堪比个人电脑和互联网的诞生，OpenAI联合创始人、特斯拉CEO埃隆·马斯克也公开称“ChatGPT好得吓人”，三六零集团创始人周鸿甚至认为“ChatGPT是通用AI发展的奇点和强A I即将到来的拐点”。具体而言，ChatGPT推动内容生成、知识创造、信息分发与获取等系列模式的颠覆性变革，并以极其简单的自然语言交互方式解决了用户的诸多痛点需求，进一步打开了AI商业模式落地与知识服务产业数智化转型的新空间和想象力。由此看来，ChatGPT的出现或意味着AI领域将迎来革命性转折点。（二）ChatGPT开启了走向通用型AI的通道相较于既往的AI语言模型，ChatGPT具有大数据、大算力、强算法等多重技术特征。究其功能来看，ChatGPT 具备类人化的语言、语境、意图、逻辑等理解与推理能力，在高质量、多轮次、长文本人机交互对话方面表现突出，且实现了初步的“ 智能涌现”。同时，ChatGPT采用了基于人类反馈的强化学习技术（RLHF），可通过用户互动获得持续迭代升级。总体而言，Ch atGPT的这些先进技术特征及其强大交互功能的落地应用，助推人类社会开启了从面向特定领域、垂直场景的专用型AI走向通用型AI的通道。（三）ChatGPT将颠覆传统交互模式相较于互联网时代搜索引擎关键词结构化检索的知识服务模式，ChatGPT转向大模型时代的自然语言指令调用知识，并从图形界面触控式交互转向自然语言对话式交互，催生自然语言交互时代的到来， 也让人机交互更加自然、高效且人性化。未来人们将可采用自然对话方式与智能机器交互，ChatGPT则通过精准、高效地理解用户意图，调用各类服务功能来满足用户需求，进而改变当前应用软件的交互方式。同时，伴随GPT- 4的发布， ChatGPT将实现从早期单模态的文本文字拓展至音频、视频、图像等多模态并行，进而助推人机交互模式从早期单一功能、单一场景、单一模态交互，迭代升级成为多功能、多场景、多模态的对话式交互。

02

ChatGPT带来的产业数智化转型升级趋势
ChatGPT的产业实践应用将极大程度地赋能产业数智化转型升级，新一轮产业变革已成大势所趋，包括推动AI产业化加速、AIGC（Artificial Intellig ence Generated Content，人工智能生成内容） 走向“平民化”时代、人机分工式混合劳动力成为用工主导范式、AI商业价值拓展至C端应用等。（一）ChatGPT推动AI产业化布局大幅加速ChatGPT促使国内外互联网大厂扎堆入局，促进AI上下游产业链加速发展。如谷歌宣布推出Bard，Meta发布开源大模型LLaMA，百度推出“ 文心一言”，京东宣布将推出ChatJD，华为、腾讯、字节、阿里、网易等大型互联网公司也都表示已布局类Chat GPT 项目。OpenAI于2023年3月1日宣布正式对外开放ChatGPT 和Whisper的模型API（Application Programming Interface，应用程序编程接口），开发者可以通过API 将ChatGPT和Whisper模型集成到他们的应用程序和产品中， 这也将大力催生产业实践对算力的需求，并进一步激发算力相关产业的爆发增长。同时， Cha tGPT加速刺激了数据中心发展和芯片技术等研发，并将引发构建平台与相关应用的热潮，新的领域巨头、周边产业、类ChatGPT应用以及智力服务类应用市场都将成为受益对象。（二）ChatGPT将AIGC推向“平民化”时代ChatGPT作为AIGC的一款现象级产品和应用，或将促进传统内容生产方式颠覆性变革、大大降低内容创作门槛，推动AIGC迈向“ 平民化”时代并有望呈现爆发式增长。相较于传统AI机器人， ChatGPT具备更强的语言和语境理解能力，能结合语境进行回复，并根据用户互动持续优化创作内容。ChatGPT将改变传统的纯人工内容生成方式， 助推A I从早期的创作辅助工具逐渐转向内容创作主体，实现人机协同内容创作，并大大提升内容生产效率和质量。同时，ChatGPT将助推AIGC从早期的文本生成，逐渐拓展至文案、语音、图像、视频、代码等多模态内容生成，并进一步丰富AIGC产业生态。（三）ChatGPT推动人机分工式混合劳动力成为用工主导范式ChatGPT可根据人类的反馈进行强化学习，促进AI从劳动辅助工具逐渐演化成初步具备自主能动性、可与人并肩协作互动的劳动行动主体，进而实现人机高效分工协作。同时，ChatGPT将推动人类智力劳动深度细化分解，并将其中大量重复性、结构化、高度依赖既往经验的相关工作深化剥离并交由ChatGPT承担，促进以人机分工为代表的第四次社会大分工时代的加速到来， 而人机分工协作式混合劳动力将成为未来劳动用工的主导范式。此外，ChatGPT可能会颠覆劳动力市场旧有竞争模式，“ 降维打击”那些缺少工具赋能的竞争者。人类应该与ChatGPT成为“队友”。（四）ChatGPT助推AI商业价值拓展至C端应用现有的AI产品落地与盈利大都聚焦于面向企业的B端和面向政府的G端，而对面向消费者大众的C端应用虽有不断尝试，但却缺乏让大部分人愿意买单的商业项目。ChatGPT 的推出打破了这一僵局并让AI产业看到曙光，推动AI的商用价值从传统的B、G 端延伸至C端，且可通过按量付费、SaaS模式的订阅付费、打造一体化解决方案并提供增值服务、依靠用户流量进行广告变现等实现商业模式落地。如OpenAI 于2023年2月正式推出付费版的ChatGPT Plus，为消费者提供包括高峰时段免排队、快速响应、优先获得新功能和改进等增值服务，以及对外开放API接口等，均可一定程度加速ChatGPT的商用价值落地，并为其持续迭代升级提供资金支持。

03

ChatGPT引爆产业智能化转型场景模式变革
ChatGPT在产业智能化领域的实践应用将为行业知识模型结构化搭建新桥梁，进而引爆知识管理场景模式变革，具体可体现在ChatGPT作为辅助工具、ChatGPT自主调用外部工具、ChatGPT为行业知识模型化提供界面等多个方面。（一）以ChatGPT作为辅助工具实现人机知识协同共创ChatGPT已具备信息检索、加工重组、内容创作等诸多“硬”技能，但其在创新创意、情绪感知等“ 软”技能方面仍弱于人类，因而可将ChatGPT作为辅助工具而非替代者或竞争对手，助推办公、创作等诸多领域实现人机智慧融合、知识协同共创。1.办公场景用ChatGPT部分解放人工，让人去做更具创造价值的工作。如可用ChatGPT辅助完成撰写邮件、查询资料等机械式、重复性工作，节约时间以聚焦更具创新价值的任务。2.内容创作场景用ChatGPT 增强并赋能人类，让机器的“博学”与人的创意组成完美搭档，即由人提供内容创意与要求，ChatGPT 提供思路启发或生成内容初稿，再由人工介入进行调优润色，这种人机协同创作方式将显著优于单独的人工或ChatGPT。（二）让ChatGPT自主借力调用外部知识工具虽然ChatGPT已具备较强大功能，但其并非万能且没必要成为万能工具，如Meta研究团队发文强调让“大语言模型可以自学使用工具”，即当ChatGPT遇到特定任务时，可响应人类指令、扮演调度角色， 以直接调用其所需工具的API 接口，进而为AI调用外部工具提供新的桥梁并满足特定任务需求。在此思路下，ChatGPT 可实现与外部工具结合，集成并快速匹配调用工具箱，拓展其功能作用范围且降低AI使用门槛。同时，还可将ChatGPT 与工业、服务业机器人连接起来，丰富交互接口、提升交互性能并改善人机交互体验。（三）ChatGPT为行业知识模型化提供新界面相较于互联网时代搜索引擎的关键词结构化检索型知识服务模式，ChatGPT转向大模型时代的自然语言指令调用知识，并从图形界面触控式交互转向自然语言对话式交互，让人机交互更加自然、高效且人性化。同时，ChatGPT 突破由行业专家归纳提炼知识的传统模式，能够借助自然语言交互方式进行高效建模整理，并通过与人类专家组成人机团队以实现行业知识模型化。ChatGPT既可助力梳理资料文献，也可通过人类专家的及时反馈叠加ChatGPT基于反馈的增强学习机制，实现行业知识模型的快速生成和优化迭代。以医疗场景为例，可由ChatGPT与人类医生不断交互，推动问诊、诊断、治疗等专业知识模型化，实现用ChatGPT辅助智能导诊、初步诊断、方案提供、辅助治疗等。

04

ChatGPT助推智力密集型服务产业规模化
传统行业知识的沉淀需要专家进行提炼和转化，细分领域专业级知识服务只能由领域专家、资深人士提供， 相应的专家培训与雇佣成本高、人才稀缺且无法规模化复制。同时，咨询行业等传统智力服务无法实现C端市场的规模化个性定制。而ChatGPT 作为高效的数智化知识服务工具，已初步实现在知识领域的通用化大模型与专用化小模型并进，且正在采用“技术人员+ChatGPT+ 数据”的模式逐步取代权威专家，使传统智力密集型服务的规模化、市场化、个性化乃至边际成本趋于零成为可能，从而充分应用ChatGPT助力智力密集型服务的数智化转型，赋能垂直专用场景下智力服务的规模化商用。一方面，可应用ChatGPT作为生产力工具以辅助整理既有行业知识并形成专用知识库， 如通过自然语言交互等快速提取和调用专业知识，进而让ChatGPT成为专用领域的AI顾问并作为人类“外脑”以赋能专业场景高效作业；另一方面， 可通过传感器等方式将日常办公、作业流程与个体行为数据等进行实时跟踪记录和积累， 并经由建模、训练、优化等逐步提炼、沉淀并推动知识模型生成。此外，ChatGPT还可将智力服务拓展应用至C端，充分调动用户、从业者等全员参与行业数据的纠偏、训练，形成众创式数据训练生态并实现专用领域的智力服务产业化。

05

ChatGPT应用挑战与治理思考
（一）ChatGPT应用面临的挑战从技术角度来看，当前ChatGPT仍面临高成本（包括硬件采购、模型训练以及日常运营等）、准确性（有时“一本正经地胡说八道”）、完整性（不能联网而存在知识盲区）、可靠性（专业领域知识无法验证）、算法可解释性与透明度缺失、算法偏见与歧视等多重局限。与此同时，其在实际应用中也面临多重挑战。一是ChatGPT 可能导致“ 机币”驱逐“人币”，即机器产生的内容将可能驱逐人类文明产生的内容， 并可能出现大量的机器谎言掩盖事实真相。二是ChatGPT可能挑战现行科研与教育体系， 包括对基础教育体系的冲击以及造成学术不端与作弊等。三是ChatGPT生成内容的版权难以界定。一方面，如果生成内容有版权，则可能形成某种形式的内容垄断，发生版权冲突（包括人和机器之间，以及不同的机器与机器之间版权冲突）；另一方面，如果完全没有版权，则完全忽视了模型开发者的贡献，这也会打击模型研发创新的积极性。四是用户隐私保护面临“ 两难”困境。用户数据只有通过共享、流动并加以挖掘分析才能释放其实用价值，且数据量越大、越丰富多样则越有利于大模型构建， 但过度挖掘数据又将侵犯用户个人隐私，故而面临挖掘数据价值与保护用户隐私的“两难”困境。五是灰色产业链乱象滋生。由于目前ChatGPT尚未面向中国市场开放，引发了一系列灰色产业链乱象，如搭建镜像产品、买卖ChatGPT账号、二次搬运转手ChatGPT 产出内容等。此外，ChatGPT 还可能带来虚假新闻、诈骗、网络和数据安全风险、数字鸿沟、结构性失业等一系列挑战。（二）ChatGPT的治理对策思考ChatGPT作为一项新兴技术，面对其当前在产业实践应用中的诸多挑战，未来可考虑从以下方面进行治理应对。一是识别ChatGPT在不同应用场景下的潜在风险，并按风险等级进行分级分类治理。二是在ChatGPT生成的内容产品上添加数字水印等识别标记，进而降低模型被滥用带来的负面影响及相关监管隐患。三是采用敏捷治理思路， 以开放、包容的态度客观看待ChatGPT创新并持续跟踪其发展动态，在可控范围内允许部分产业领域实践探索应用， 坚持规范监管与创新发展两手并重。四是运用技术手段包括AI反制和鉴别ChatGPT生成内容，并积极探索生成式AI的问责机制与行为规范，“谁生成、谁负责”，让产品使用轨迹可追溯责任并能落实到人， 引领科技向善并助推实现人机共生。引用文献：梁正,何江.ChatGPT意义影响、应用前景与治理挑战[J].中国发展观察,2023(6):25-29.作者单位：清华大学公共管理学院；清华大学人工智能国际治理研究院

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG