chatpartergpt4和chatGPT的区别：1文带你了解爆火的ChatGPT 快来看
互联网是1个充满惊喜和变革的领域，每天都有新的事件发生。让我们抛开繁忙的日常，1起探索最近互联网带给我们的1些新鲜事物吧。
* 导读OpenAI近期发布聊天机器人模型ChatGPT，迅速出圈全网它以对话方式进行交互以更贴近人的对话方式取使用者互动，可以回答问题、承认错误、挑战没有正确的前提、拒绝没有适当的请求高质量的回答、上瘾式的交互体验，圈内外都纷纷惊呼。
为何有如此高的评价？理论支撑是什么？背后的技术原理是什么？待解决的问题和方案有哪些？资本怎么看待这件事？本文的目标是将这些问题详细的给大家讲清楚1 ChatGPT是什么？ChatGPT本质是1个应用在对话场景的语言模型，基于GPT3.5通过人类反馈的强化学习微调而来，能够回答后续问题、承认错误、质疑没有正确的前提以及拒绝没有适当的请求。
首先让我们今天的配角ChatGPT来亲自介绍自己1.1 让ChatGPT介绍自己ChatGPT是什么？既然ChatGPT是语言模型，语言模型是什么？通过强化学习训练，强化学习又是什么？
1.2 全球范围的兴起和爆发OpenAI 11月30号发布，首先在北美、欧洲等已经引发了热烈的讨论随后在国内开始火起来全球用户争相晒出自己极具创意的取ChatGPT交流的成果ChatGPT在大量网友的疯狂测试中表现出各种惊人的能力，如流畅对答、写代码、写剧本、纠错等，甚至让记者编辑、程序员等从业者都感受到了威胁，更没有累其将取代谷歌搜索引擎之说。
继AlphaGo击败李世石、AI绘画大火以后，ChatGPT成为又1新晋网红上面是谷歌全球指数，我们可以看到火爆的程度
国内对比各大平台，最先火起来是在微信上，通过微信指数我们可以看到，97.48%来自于公众号，开始于科技圈，迅速拓展到投资圈等我最先了解到ChatGPT相关信息的也是在关注的科技公众号上，随后看到各大公众号出现关于介绍ChatGPT各种震惊体关键词地震、杀疯了、毁灭人类等。
随后各行各业都参取进来有趣的整活，问数学题，问历史，还有写小说，写日报，写代码找BUG......
1.3 背后的金主OpenAIOpenAI是1小我工智能研究实验室，目的是促进和发展友好的人工智能，使人类整体受益OpenAI原是非营利机构，但为了更好地实现产研结合，2019年3月成立OpenAI LP子公司，目的为营利所用。
2019年7月微软投资双方将携手合作，2020年6月宣布了GPT⑶语言模型，刷新了人们对AI的认知GPT系列语言模型让我们没有断对通用人工智能（AGI）充满了期待OpenAI目标之初就很远大，解决通用人工智能问题，次要涉及强化学习和生成模型。
强化学习最早被认为是实现人类通用智能重要手段，2016年DeepMind开发的AlphaGo Zero 使用强化学习训练，让人类围棋的历史经验成为了「Zero」，标志着人类向通用型的人工智能迈出了重要1步。
2019年OpenAI 在《Dota2》的比赛中战胜了人类天下冠军OpenAI在强化学习有很多深入的研究，Dactyl也是1款OpenAI通过强化强化学习训练能够高精度操纵物体的机器人手，OpenAI Gym是1款用于研发和比较强化学习算法的工具包，所以ChatGPT中使用强化学习也是顺理成章。
生成模型方面，为我们熟知的是GPT⑶，这是1个强大的语言模型能够生成人类1样流畅的语言DellE 2是最近很火的AI绘画根据文本描述生成图片Codex是和微软合作通过github代码训练而来，可以生成代码和Debug，已经商业化。
作为OpenAI曾经的创始人伊隆·马斯克也发表了对ChatGPT的评价！
看看ChatGPT是怎么介绍自家公司的？
2 ChatGPT1些有趣的体验作为1个聊天机器人，我们体验发现相比传统的机器人在连贯性问答中更加流畅自然微信上已经有很多的小程序可以体验，或者直接讲ChatGPT接入了微信中，上面体验1下已经接入到企业微信的ChatGPT。
1）公司1向注重价值观，第1道题回答对1半，公司规定应第1时间退回，特殊情况无法退回，无论价值多少都需要进行申报，所以ChatGPT应该入职没有了我司第二道经典问题的回答还蛮符合公司正直的价值观的，哈哈
2）公司协会活动总又人放鸽子，我来问问ChatGPT这些人啥心态。看到帮忙想的理由和放鸽子的人说的1样，我有点怀疑他们的心态了。
3）职场工具人看看能没有能通过ChatGPT代劳，可以看到文案写作还是没有错的回答的这个提纲有1点小问题但没有影响大局讲故事编剧本也是没有错的，先帮中国足球写好参加天下杯的文案，就是没有知道能没有能用的上了
4）身边同事很重视娃的教育，那么从娃娃抓起先看看ChatGPT能没有能带娃学习文化常识题回答正确，数学题这推理能力，我担心娃考没有上初中，可以用但是家长给把把关啊！同时也考察了1下他脑筋急转弯怎么样，这个傻瓜没答对。
5）号称编程神器可写代码、修bug，考察1下Leetcode中等难度的都没问题。虽然它自谦没有会编程，但根据测试和网友的验证能力确实强。
6）考察1下互联网知识储备，挑战失败！如ChatGPT自己所述，他还有很多局限性比如给出看起来没问题其实挺离谱的答案，例如回答自己公司的成果还夹杂私人感情，把竞争对手DeepMind的AlphaGo功劳都据为己有。
做1个小节，其实网上有特别多有趣的案例，这里篇幅有限只是简单了列举几个通过体验结合网友的反馈，ChatGPT的确掌握了1些知识体系和回答技巧我们看到相比传统的聊天机器人，ChatGPT在连贯性问答中更加流畅自然，什么话都能接住。
除了好玩的聊天神器外还有很多实用的价值，比如解答专业概念、编程类问题、从日常邮件、写请假条、广告文案等等，都可以通过ChatGPT代劳看完这些有趣的案例，那么ChatGPT究竟如何实现的，我们接下来将讲解关于ChatGPT的哪些技术原理。
3 ChatGPT之前技术沿袭ChatGPT是基于GPT3.5语言模型，人类反馈的强化学习微调而来本节将对涉及语言模型和强化学习两个重要技术做1个科普，已经熟悉的可直接跳过本节3.1 语言模型的技术演进。
语言模型通俗讲是判断这句话是否通顺、正确数学函数表达为给定前N个词，预测第N+1 个词概率，将概率序列分解成条件概率乘积的形式，这个函数就可以实现语言模型去生成句子那么是什么样的语言模型如此强大，本小节梳理了深度学习开始的语言模型演技过程，如下图所示：。
第1次开始用神经网络做语言模型是2003年Bengio提出的NNLM的网络结构，随着图像领域预训练的取得的突破迅速迁移到NLP领域，有了我们熟知的word2vec，通常做NLP任务句子中每个单词Onehot形式输入，使用预训练好的word embedding初始化网络的第1层，进行下流任务。
word2vec的弊端是word embedding静态的，后续代表性工作中ELMo通过采用双层双向LSTM实现了根据当前高低文对Word Embedding动态调整ELMo非常明显的缺点在特征抽取器LSTM结构带来的，17年Google在机器翻译Transformer取得了效果的突破，NLP各种任务开始验证Transformer特征提取的能力比LSTM强很多。
自此NLP开启了Transformer时代2018年OpenAI采用Transformer Decoder结构在大规模语料上训练 GPT1模型横扫了各项NLP任务，自此迈入大规模预训练时代NLP任务标准的预训练+微调范式。
由于GPT采用Decoder的单向结构天然缺陷是无法感知高低文，Google很快提出了Encoder结构的Bert模型可以感知高低文效果上也明显有提升随后2019年OpenAI提出了GPT2，GPT2拥有和GPT11样的模型结构，但得益于更高的数据质量和更大的数据规模有了惊人的生成能力。
同年Google采用了Encoder-Decoder结构，提出了T5模型从此大规模预训练语言模型兵分3路，开始了1系列延续的工作2020年OpenAI提出GPT3将GPT模型提升到全新的高度，其训练参数达到了1750亿，自此超大模型时代开启。
技术路线上摒弃了之前预训练+微调的范式，通过输入自然语言当作指示生成答案，开始了NLP任务新的范式预训练+提示学习由于GPT3可以产生通顺的句子但是准确性等问题1直存在，出现WebGPT、InstructGPT、ChatGPT等后续优化的工作，实现了模型可以理解人类指令的含义，会甄别高水准答案，质疑错误问题和拒绝没有适当的请求。
3.2 深度强化学习技术演进深度强化学习（deep reinforcement learning，DRL）是强化学习1个分支，基于深度学习强大的感知能力来处理复杂的、高维的环境特征，并结合强化学习的思想取环境进行交互，完成决策过程。
DRL在游戏场景这种封闭、静态和确定性环境可以达到甚至超越人类的决策水平比较著名的事件是2017年DeepMind 根据深度学习和策略搜索的 AlphaGo 击败了围棋天下冠军李世石2018 年OpenAI 团队基于多智能体 DRL推出的OpenAI Five 在Dota2游戏中击败了人类玩家。
DRL算法次要分为以下两类：值函数算法：值函数算法通过迭代更新值函数来间接得到智能体的策略，智能体的最优策略通过最优值函数得到基于值函数的 DRL 算法采用深度神经网络对值函数或者动作值函数进行近似，通过时间差分学习或者 Q 学习的方式分别对值函数或者动作值函数进行更新。
代表性的是2015 年 DeepMind 团队提出深度Q网络（DQN），及其后的各种变种DDQN、Dueling DQN、分布式DQN等策略梯度算法：策略梯度算法直接采用函数近似的方法建立策略网络，通过策略网络选取动作得到奖励值，并沿梯度方向对策略网络参数进行优化，得到优化的策略最大化奖励值。
可以用来处理连续动作在实际应用中流行的做法是将值函数算法和策略梯度算法结合得到的执行器‒评价器（AC）结构代表性工作有策略梯度算法、AC 算法以及各种变种DDPG、A3C、PPO等ChatGPT使用的就是策略梯度算法PPO。
4 ChatGPT背后的技术原理ChatGPT整体技术方案是基于 GPT⑶.5 大规模语言模型通过人工反馈强化学习来微调模型，让模型1方面学习人的指令，另1方面学习回答的好没有好本节首先阐述ChatGPT提升的效果及背后对应的技术，然后介绍ChatGPT的整体训练流程，其次介绍提升涉及几个技术细节。
4.1 核心提升了什么？ChatGPT在对话场景核心提升了以下3方面：1）更好的理解用户的提问，提升模型和人类意图的1致性，同时具备连续多轮对话能力2）大幅提升结果的准确性，次要表现在回答的更加的全面，同时可以承认错误、发现无法回答的问题。
3）具备识别非法和偏见的机制，针对没有合理提问提示并拒绝回答ChatGPT的提升次要涉及以下3方面技术：1）性能强大的预训练语言模型GPT3.5，使得模型具备了博学的基础2）webGPT等工作验证了监督学习信号可大幅提升模型准确性。
3）InstructGPT等工作引入强化学习验证了对齐模型和用户意图的能力。4.1 整体技术流程ChatGPT的训练过程分为微调GPT3.5模型、训练回报模型、强化学习来增强微调模型3步：
第1步：微调GPT3.5模型让GPT 3.5在对话场景初步具备理解人类的的意图，从用户的prompt集合中采样，人工标注prompt对应的答案，然后将标注好的prompt和对应的答案去Fine-tune GPT3.5，经过微调的模型具备了1定理解人类意图的能力。
第二步：训练回报模型第1步微调的模型显然没有够好，至少他没有知道自己答的好没有好，这1步通过人工标注数据训练1个回报模型，让回报模型来帮助评估回答的好没有好具体做法是采样用户提交的prompt，先通过第1步微调的模型生成n个没有同的答案，比如A、B、C、D。
接下来人工对A、B、C、D按照相关性、有害性等标准标准并进行综合打分有了这小我工标准数据，采取pair-wise 损失函数来训练回报模型RM这1步实现了模型判别答案的好坏第3步：强化学习来增强微调模型使用第1步微调GPT3.5模型初始化PPO模型，采样1批和前面用户提交prompt没有同的集合，使用PPO模型生成答案，使用第二步回报模型对答案打分。
通过产生的策略梯度去更新PPO模型这1步利用强化学习来鼓励PPO模型生成更符合RM模型判别高质量的答案通过第二和第3步的迭代训练并相互促进，使得PPO模型能力越来越强4.3 次要涉及的技术细节4.3.1 GPT3.5理解能力提升。
ChatGPT是在GPT3.5模型技术长进行微调的，这里对GPT⑶.5在GPT3基础上做的工作进行梳理，官方列举了以下GPT⑶.5系列几个型号：code-davinci-002 是1个基础模型,对于纯代码补全任务。
这也是ChatGPT具备超强代码生成能力的原因text-davinci-002 是在code-davinci-002基础上训练的InstructGPT模型，训练策略是instructGPT+FeedRM。
text-davinci-003 是基于text-davinci-002模型的增强版本，训练策略是instructGPT+PPO根据如下图官方发布的模型时间线和文档，我们可以了解到ChatGPT是在text-davinci-003 基础上微调而来，这也是ChatGPT模型性能如此强大的核心要素。
因为GPT⑶.5系列模型是在2021年第四季度之前的文本和代码样本上训练，所以我们体验ChatGPT时候同样无法回答训练样本日期以后的问题
4.3.2 监督信号提升效果显著GPT3之前在预训练+微调已经是NLP任务中标准范式，GPT3模型的训练是纯自监督学习并以API的形式发布，用户没有具备微调的能力，官方也是主打预训练+提示学习的能力Prompt方法本质是挖掘语言模型本身具备的知识，恰当的提示去激发语言模型的补全能力。
监督信号微调可以理解为改变了语言模型的理解能力，InstructGPT的工作可以理解为对GPT3-SFT做了数据增强提升，使得模型在理解人类指令方面更出色但这并没有影响监督信号对最终效果的价值在InstructGPT的工作中，我们可以看到GPT3-SFT和InstructGPT在毒性、幻觉、理解客户能力上，监督学习微调已经和强化学习对比有很大的竞争力，甚至在幻觉角度比基于强化学习的InstructGPT提升很明显。
4.3.3 人类反馈强化微调效果ChatGPT通过人类反馈强化学习（RLHF）来让模型理解人类的指令人类反馈强化学习（RLHF）是DeepMind早期提出的，使用少量的人类反馈来解决现代RL任务RLHF的思想在很多工作中都有体现，例如OpenAI的webGPT、DeepMind中Sparrow等都通过人类的反馈进1步提升大模型的效果。
RLHF整个训练过程如下图所示：
目标是实现后空翻的任务，智能体Agent在环境中随机行动，每隔1段时间，两个行为的视频片段给1小我，人判断两个视频哪个更接近目标通过人的反馈数据，学习1个最能解释人类判断的奖励模型Reward Model，然后使用RL来学习如何实现目标。
随着人类继续提供模型无法判断时候的反馈，实现了进1步完善它对目标的理解智能体Agent从人类反馈中学习最终在许多环境中有时甚至是超过人类的表现4.4 行动驱动的大语言模型尽管学术界1直无法真正定义AGI，今年大型语言模型（LLM）的表现让我们对通用人工智能有了期待，通过OpenAI的ChatGPT、Google的PaLM、DeepMind的Sparrow取得的成功，人工智能的未来应该是行动驱动的，1个行动驱动的LLM看起来很像AGI，如下图所示:
模型的行为就像1个智能体Agent选择行动在中央，我们有开箱即用的基础模型LLM用户通过Prompt询问模型结果左边是外部可利用的资源，这些可以是任何将文本作为输入并提供文本作为输出的函数，包括搜索、数据库、代码解释器和取人聊天等，它可以增强模型的能力。
右边是我们有任务导向的训练，如instruction tuning、RLHF等instruction tuning相对好实现，RLHF需要调整PPO算法相对较难整体上RL利用使用日志等专有数据，通过创建强大的反馈回路，训练模型使其更加符合任务需求并迭代优化。
5 总结取展望5.1 技术创新：待解决问题和改进ChatGPT1个问题是只能回答2021年前的问题模型无法获取近期的知识，将ChatGPT+webGPT结合是1个可以想到的方案DeepMind提出的Sparrow就是1个参考，Sparrow model针对对话内容模型生成结果并判断是否搜索互联网,以提供更多的正确参考答案，用强化学习算法去优化Sparrow的输出结果。
整体流程如下图所示：
5.2 技术应用：能否取代搜索引擎应该没有会取代，根据目前体验的效果，距离搜索引擎还有很长的路要走，次要基于几个方面首先ChatGPT本质是语言模型，当前的训练技术模型没有具备或者说很弱的推理能力，1些推理问题比如小学生问题完败。
根据当前体验看擅长创作类文案，其他问题经常出现1些事实错误情况而搜索引擎技术的核心索引、检索和排序是给到用户Top相关性内容，用户自主多了1层推理、对比筛选、总结其次目前的ChatGPT没有能够回答21年以后的问题，新知识的获取是通过增加标注数据实现。
如果要支持获取社会热点新闻等，就需要改变底层技术方案尽管这个问题WebGPT、Sparrow通过搜索引擎解决，能否替代自己就有了答案最后就是成本问题，ChatGPT火的原因之1就是免费体验，之前超大模型GPT3收费模式根本没有产生这么大的反响。
商业化1直是大模型的痛，模型效果和模型参数成正比搜索引擎索引、检索、排序的成本和ChatGPT这种模型计算成本没有在1个量级上5.3 未来预期：资本市场怎么看和负责投资和战略的同学聊，近期都在讨论AIAI赛道无疑是投资界“今年最大的热点之1”。
ChatGPT和今年大火的AI绘画都属于泛AIGC领域，AIGC 是继 PGC、UGC 后的新内容生产形态AI投资人看来，从语音、文字、图像的内容生成都将出现增长，而对话可能是其中最重要的杀手级应用根据 Gartner 预计，到 2025 年，生成式人工智能将占所有生成数据的 10%，而当前占比小于 1%。
回顾1下OpenAI，作为AIGC顶级技术公司已经做了没有少商业化的尝试，通过API方式来推动GPT⑶的技术商业化，将GPT3作为1项付费服务来推广Codex也是已经商业化的产品GPT⑶历经两年商业化尝试，如今并未取代记者编辑或码农的职业生涯，OpenAI也从中发现，将GPT系列作为辅助生产力工具对商业化更为合适。
此次ChatGPT采取免费试用可能是OpenAI准备继续打磨这款产品，根据用户的反馈帮助模型改进从而作出更恰当的反应等产品打磨好可能为GPT-4商业化铺路回顾国内行业巨头和高校科研机构大规模预训练模型军备竞赛1直持续。
百度发布了产业级知识增强大模型“文心”（参数规模达2600亿），并基于“文心”模型形成了产业全景图华为联合鹏程实验室发布“盘古”大模型，阿里巴巴达摩院发布的中文语言模型 PLUG智源人工智能研究院的超大规模预训练模型“悟道”（悟道2.0参数规模达1.75万亿）。
回顾国内创业公司，根据睿兽分析显示2022年以来大规模预训练模型赛道出现多笔融资，其中没有累联想创投、君联资本、启明创投、创新工场等知名投资机构澜舟科技、聆心智能、小冰等这些企业均将商业落地作为融资后的发力重点。
2022 年以来 AIGC 应用多点开花，伴随着深度学习模型没有断完善、开源模式的推动、大模型探索商业化的可能，AIGC 有望加速发展，让人们对通用人工智能有了更多的期待6 参考材料ChatGPT: Optimizing Language Models for Dialogue。
Aligning Language Models to Follow InstructionsWebGPT: Improving the Factual Accuracy of Language Models through Web Browsing
Aligning Language Models to Follow InstructionsLearning from Human PreferencesProximal Policy Optimization
https://gpt.Chatapi.art/?Building safer dialogue agentshttps://jmcdonnell.substack.com/p/the-near-future-of-ai-is-action-driven
https://mp.weixin.qq.com/s/OO03dHMStOV8tVdRwzEkLAhttps://36kr.com/p/2033972476849410https://easyai.tech/ai-definiti
on/reinforcement-learning/
"我用文字勾勒出心中的画卷，希望能取你分享这份美好。如果你喜欢这篇文章，记得关注收藏点赞哦！"
