20230214_德邦证券_计算机行业证券研究报告:ChatGPT更懂人类的叙事_42页.pdf
0AIGC ChatGPT 2023 2 14|S0120522100002 maxiao 1 ChatGPT AI ChatGPT OpenAI ChatGPT UBS ChatGPT 2 1 OpenAI API 2023 2 1 OpenAI ChatGPTPlus$20/API ChatGPT OpenAI API 1 ChatGPT AI ChatGPT ChatGPT-4 BING 2 AI AIGC ChatGPT AI ERNIE Bot AI AI AI ERNIE ERNIE3.0 10B 4TB AIGC AIGC ChatGPT 1 AIGC ChatGPT 2 AIGC/0YDWuNqNnOnMqOpMtOqPmNaQdNbRnPrRtRmPeRnNnPlOpOnQ9PqQzQxNsRxOMYoNzQ2 0102030405ChatGPT&CONTENTS3SEPARATOR PAGE01ChatGPT4 OpenAI AI ChatGPT DALL E2 Whisper OpenAI 2015 12 Y Combinator PayPal 1.1 OpenAI 表1:OpenAI 部 分 重 点 研究领 域及成 果研究领域 模型/成果深度学习生成模型GPT 系列语言:ChatGPT、InstructGPT代码:Codex图像:Image GPT、DALL E、DALL E2音乐:Jukebox、MuseNetCLIPWhisper神经图灵机人工神经网络中的多模态神经元无监督情绪神经元强化学习方法近端优化策略进化策略资 料 来 源:OpenAI,德邦研究所表2:OpenAI 的 特色 产品重要技术 发布时间 用途ChatGPT 2022 年11 月30 日 人工智能聊天机器人DALL E2 2022年4 月6 日文 本 到 图像生成模型,它基于扩散模型原理,可以通过自然语言对现有图像进行逼真的编辑,它可以添加和删除元素等。Whisper 2022 年9 月21 日自 动 语 音识别(ASR)系统,经过68万小时的多语言和多任务监督数据训练,支持多种语言的转录,以及从这些语言翻译成英语。Alignment 2022 年8 月24 日专注于训练人工智能系统,使其变得有用、真实和安全,与人类意图保持一致资 料来源:OpenAI,德邦 研究 所5 2015 12 OpenAI 2018 2 20 2019 7 22 OpenAI 10 Azure 2023 1 17 ChatGPT DALL-E 2023 1 23 OpenAI AI 1.1 OpenAI 2016 4 27 OpenAI 2016 12 5 OpenAI 2020 5 OpenAI GPT-3 2020 9 22 GPT-3 2021 1 5 OpenAI DALL-E CLIP 2022 11 30 OpenAI ChatGPT2022 4 6 OpenAI 资 料 来源:OpenAI 等,德 邦研究 所6 1.2 ChatGPT 2023 1 17 CEO OpenAI ChatGPT DALL-E.2023 1 UBS ChatGPT 2 1 2023 2 1 OpenAI ChatGPT Plus$20/2022 11 30 OpenAI ChatGPT ChatGPT OpenAI 2022 11 30 ChatGPT UBS ChatGPT 2 1 2023 2 1 OpenAI ChatGPT Plus$20/资 料 来源:OpenAI 等,德 邦研究 所7 图1:GPT-3.5 的 进化树资 料来源:符尧 等 拆解 追溯 GPT-3.5 各 项 能力 的起 源,德 邦研 究所图2:ChatGPT 技术 逻辑资 料来源:符尧 等 拆解 追溯 GPT-3.5 各 项 能力 的起 源,德 邦研 究所1.3 ChatGPT GPT3.5 OpenAI GPT ChatGPT RLHF ChatGPT ChatGPT GPT Reward Model PPO8 1.3.1 GPT3.5 GPT3.5 prompt GPT-3.5 InstructGPT 175B GPT GPT OpenAI API GPT-3 图3:ChatGPT 训练Step1资 料来源:OpenAI,德邦 研究 所9 Reward Model RM RM RM 图4:ChatGPT 训练Step2资 料来源:OpenAI,德邦 研究 所1.3.2 10 图5:ChatGPT 训练Step3资 料来源:OpenAI,德邦 研究 所1.3.3 PPO RM PPO PPO PPO RM PPO 11SEPARATOR PAGE0212图7:OpenAI 与 微软的合作关系资 料来源:FourWeekMBA,德 邦研 究所图6:OpenAI 组 织架构资 料来源:FourWeekMBA,德 邦研 究所2.1 OpenAI LP 2019 7 22 OpenAI 10 2023 1 23 OpenAI AI 1 OpenAI Azure AI 2-Azure API OpenAI 1 17 ChatGPT DALL-E Bing Microsoft Office Azure Teams132.2 表3:OpenAI LP 管 理 层均为精英姓名 职位 上任 时间 履历Greg Brockman 董事 长;联合 创始 人 2019.03毕业 于哈 佛大 学和 麻省 理 工大 学;是OpenAI 的创始人 之一Sam Altman CEO;联合创始 人 2019.032011 年开始担任Y Combinator 的兼职 合伙 人;2014 年 2 月,被任命为Y Combinator 总裁;2015年成为OpenAI 联合 创始 人之 一;2019.3 转任Y Combinator 董事长,未来 专注OpenAI 的工 作Ilya Sutskever 首席 科学 家;联合 创始 人 2019.032012年毕业于多伦多 大学,获 得计 算机 博士 学位;2013年加入谷歌;2015年成为OpenAI 联合 创始 人之 一Brad Lightcap COO 2022.052008年毕业于杜克大 学;先后就职于摩根 大通、DropBox、Y Combinator 等;2018.08 入职OpenAI 担任CFOMira Murati CTO 2022.05毕业 于达 特茅 斯商 学院;先后 就职 于高 盛、特斯 拉 等;2018.6 加入OpenAIChris Clark 非营 利和 战略 计划 主管 2022.052005年毕业于斯坦福 大学;2016.3-2022.5 Open AI COO;2016.3-至今,OpenResearch(前 身为Y Combinator Research)COO资料来源:OpenAI,领 英等,德邦研 究所14SEPARATOR PAGE0315 图8:OpenAI 商 业模式资 料 来 源:FourWeekMBA,德 邦 研 究 所 OpenAI API 2023 2 1 OpenAI ChatGPT Plus$20/ChatGPT ChatGPT API ChatGPT OpenAI API OpenAI API Token NLP 1.2M Token Azure OpenAI Token 3.1 ChatGPT 表4:OpenAI 的API收费,Davinci 是 同系列中最强大的模型模型 价格基 础模型Ada Babbage Curie Davinci$0.0004/1K tokens$0.0005/1K tokens$0.0020/1K tokens$0.0200/1K tokens微 调模型Ada Babbage Curie Davinci训练$0.0004/1K tokens$0.0006/1K tokens$0.0030/1K tokens$0.0300/1K tokens使用$0.0016/1K tokens$0.0024/1K tokens$0.0120/1K tokens$0.1200/1K tokens参 考最大 请求预 训练模 型GPT-3text-ada-001 text-babbage-001 text-curie-001 text-davinci-0032,048 tokens 2,048 tokens 2,048 tokens 4,000 tokensCodex-code-cushman-001 code-davinci-002-最多2,048 tokens 8,000 tokens资 料 来源:OpenAI,德邦 研究所16 3.2 GPT API ChatGPT API API Text-davinci-003 Code-davinci-002 ChatGPT Text-davinci-003 GPT3.5 Text-davinci-003 SQL+VR+Code-davinci-002 Stripe API+OpenAI API+SQL+Python+Python+JavaScript+JavaScript Python+Python+JavaScript+资 料 来源:OpenAI,德邦 研究所表5:Text-davinci-003 与Code-davinci-002 的 部分应 用举例17 图10:GPT-3 应 用于 客服 团 队资 料 来 源:AchieveChat AI,德 邦 研究所图9:GPT 系 列的CodeX 应 用于 辅 助编 程资 料 来 源:OpenAI,德 邦研究所3.3 ToB GPT 1 AI GitHub Copilot Codex 2 Viable GPT-3 Algolia ActiveChat GPT-3 18 图11:GPT-3 应 用于Duolingo资 料 来 源:OpenAI,德 邦研究所3.3 ToC GPT 1 GithubElicit GPT-3 2 Duolingo GPT-3 Duolingo 1 Blog Blog Idea Generator Google GPT-3 2 Compose.ai Chrome AI GPT-3 图12:GPT-3 应 用于 博客创 意生成资 料 来 源:Usetopic,德邦研究 所19 图13:GPT 系 列应用于AI 驱 动 游戏资 料 来 源:AI Dungeon,德 邦研究所图14:GPT 系 列用 于Keeper Tax资 料 来 源:OpenAI,德 邦研究所3.3 ToC GPT APP 1 AI AI Dungeon AI AI 2 AI WhatsApp AI Buddy GPT-3.5 Keeper Tax Keeper Tax 20 16 Bing ChatGPT IT 15 ChatGPT Chatonai 3.3.1 ChatGPT ChatGPT ChatGPT-4 BING ChatGPT Chrome Firefox Edge;Bing ChatGPT ChatGPT-4 Bing 2 4 Owen Yin Bing Bing 21 17 ChatGPT ChatGPT AIGC ChatGPT Tik Tok ChatGPT CiCi CiCi AIGC 3.3.2 22 19 B Up ChatGPT Galgame AI Bilibili Up addone123 18 2 NPC Gamepressure 3.3.2 RPG 2 ChatGPT 2 Mod Youtube Bloc ChatGPT NPC ChatGPT Galgame ChatGPT AI 23SEPARATOR PAGE04244.1 表6:ChatGPT 部 分海外竞品梳 理模型 公司 底层模型 编程能力 合并历史 记录 价格 类别ChatGPT OpenAI GPT-3.5 免费预览;付 费 订阅20 美元/月聊天机器 人模型Claude Anthropic Constitutional Al 内测阶段 聊 天 机器人 模型;采用RLAIFNeuroflash neuroflash GPT-3.5 2000 字/月免费;199./月无限字主要服务 于德语 内容的 生成器Chatsonic Writesonic GPT-3.X 免费试用;多种付费 订阅模 式提 供 了访问 当前谷 歌数据 的选项,而 ChatGPT 的 答 案有时是几年前 的。YouChat Richard Socher-免费将聊天助 手集成 到其搜 索结果 中的 搜索引擎,它在 答案中 包含自己的 搜索索 引,同 时也将 源网 页包含在 答案中,并且 有脚注编号。Perplexity Perplexity AI 基于OpenAI 的API 免费Perplexity是基于OpenAI API 的 搜 索引 擎,或 者说是 答案引擎。与 ChatGPT 不 同 的是 它的答 案中不 仅包括 训练数 据,还包括来 自互联 网的内 容。GitHub Copilot GitHub GPT-3.5$10/月及以上 基于 OpenAI API,侧重代码生 成LaMDA Google LaMDA 免费预览与 ChatGPT 不同,LaMDa 更积极地参与对 话、提 出问题、讲述自己,并且 不仅根 据事实 而且 还“情感 地”回 答问题。Sparrow DeepMind Sparrow Model-私人Beta 版即将推出Sparrow 使用 Google 搜 索 来寻找合 适的来 源;与ChatGPT 类 似,使用 强化学 习(RL)进 行 训练资 料 来源:Daniel Peric Top 8 ChatGPT Alternatives for 2023:Discover the Best Options for Your Needs,Source Forge,德 邦 研究所25 20 CAI Yuntao Bai et al.Constitutional AI:Harmlessness from AI Feedback 4.2 Claude ChatGPT Claude Anthropic ChatGPT AI Anthropic 3 Anthropic OpenAI OpenAI OpenAI GPT-3 Financial Times Anthropic 3 Anthropic 10%Claude Constitutional AI CAI RLHF AI,RLAIF 21 Claude RLAIF Scale 26 22 Claude ChatGPT Claude ChatGPT 1555.80 ChatGPT ChatGPT Claude ChatGPT Claude Scale 4.2.1 Claude ChatGPT27 22 Claude ChatGPT Claude ChatGPT ChatGPT 5 4Claude 5 Scale 4.2.2 Claude ChatGPT28 22 Claude ChatGPT Claude ChatGPT Claude ChatGPT Scale 4.2.3 Claude ChatGPT29 24 AI 23 IDC 4.3 ChatGPT AI AI AI PaddlePaddle AI Al Al Al AI AI AI30 26 ERNIE3.0 Yu Sun et al.ERNIE 3.0:LARGE-SCALE KNOWLEDGE ENHANCED PRE-TRAINING FOR LANGUAGE UNDERSTANDING AND GENERATION 25 ERNIE3.0 Yu Sun et al.ERNIE 3.0:LARGE-SCALE KNOWLEDGE ENHANCED PRE-TRAINING FOR LANGUAGE UNDERSTANDING AND GENERATION 4.3.1 ERNIE BERT NLP 2 7 ERNIE Bot ERNIE ERNIE 16 GLUE 90 ERNIE314.3.1 ERNIE BERT NLP ERNIE BERT 3.0 ERNIE 3.0 ERNIE 2.0 Tranformer-XL ERNIE 3.0 SOTA 表7:ERNIE3.0 与GPT-3 的 对比ERNIE3.0 GPT-3基本信息公司 百度 OpenAI发布时间 2021 年7 月 2020 年5 月模型底层模型 BERT GPT参数量 10B 175B学习量 4TB 45TB资料来源:各公 司官网,Tom B.Brown et al.Language Models are Few-Shot Learners,Yu Sun et al.ERNIE 3.0:LARGE-SCALEKNOWLEDGE ENHANCED PRE-TRAINING FOR LANGUAGE UNDERSTANDING AND GENERATION,德邦 研究所324.4 表8:腾讯、阿里、华为申请的人机对话相关专利专利名称 人机对话 方法以 及对话 系统 人机对话 方法、装置、设备及 计算 机可读存 储介质 人机对话 及预训 练语言 模型训 练方 法、系统 及电子 设备公司(专 利权人)华为技术 有限公 司 腾讯科技(深圳)有限 公司 阿里巴巴 达摩院(杭州)科技 有限 公司授权公告 时间 2023/2/3 2023/2/3 2023/01/31 实 质 审查的生 效内容简介-资料来源:国家 知识产 权局,企查 查,德邦 研究所33SEPARATOR PAGE05&34 19 OpenAI ChatGPT Plus$20/OpenAI 18 ChatGPT 2 1 yahoo finance UBS 5.AIGC ChatGPT AICG AIGC ChatGPT 1 AIGC ChatGPT 2 AIGC/355.AIGC表9:部分公司在AIGC 领域的布局(截至2023/2/6)港 股公司证券代码 证券简称 主要研究领域 相 关 应用/布局总市值 PE PS(亿 元,HKD)(TTM)(TTM)9888.HK 百度集团-SW深度学习开源框架 飞浆Paddle Paddle3,895 81.5 2.8 全栈AI 基 础设施 百度AI 大 底座AI 应 用 场 景全覆盖的大模型文心大模型(NLP、CV、跨模态、生物计算、及各种行业大模型)0020.HK 商汤-WAI基础设施 Sense Core 商汤AI 大装置1,004-5.2 19.2CV(2D/3D 关 键 点捕捉;3D 关键 点驱动;肖像风格 化;图像/视频编辑);虚拟穿戴;数字人-0700.HK 腾讯控股AI 实 验 室 覆盖CV、NLP、机器学习、强化学习等方面研究-36,016 18.4 5.9AI平台服务腾讯云TI 平 台;人工智能服务平台;腾讯智 能 对 话平台;IP 虚 拟 人;音视频字幕平台0772.HK 阅文集团 NLP联合微软(亚洲)互联网工程院开启AI 赋能网络文学403 34.7 4.11357.HK 美图公司 CV 美 图 秀 秀上新AI 绘画功能 108-50.9 5.0资料来源:各公司官网,各公司公告,Wind,同花顺等,德邦研究 所 注:CV(Computer Vision,计算机视觉)36表9:部 分公 司在AIGC 领域 的布 局(截 至2023/2/6,续 前)A 股公司证券代码 证券简称 主要研究领域 相 关 应用/布局总市值 PE PS(亿 元,CNY)(TTM)(TTM)300624.SZ 万兴科技 CV旗下 首款AIGC产品“万兴AI 绘画”将开启公 测;产品 包括Filmora、万兴喵影、Pixso55 180.6 4.9300229.SZ 拓尔思 NLP TRS 小思智能问答机器人;语义智能技术平台“智拓”147 58.9 13.9300418.SZ 昆仑万维图像、音乐、文本、编程等多模态内容生成能力“昆 仑 天 工”旗 下 模 型 包 括 天 工 巧 绘Sky Paint、天 工 乐 府SkyMusic、天工妙笔Sky Text、天工智码SkyCode232 263.6 5.0000681.SZ 视觉中国 CV发售 数轮AIGC 数 字藏品:与百 度旗下 的AI 作画 平台文心一 格达成战略合作协议、赋 能 创 作 者 和 版 权 保 护。AIGC 方 式 创 造 图 片 内 容,平台场景逻辑顺,且仍在大力投入AI 布局。118 142.9 17.8300364.SZ 中文在线 NLP、CV 等AI 文 字辅助创 作功能已 推出,并在17k 小 说网面向所 有作者开放;AI 辅 助 绘 画 功 能 已 推 出。“Al 主播”实 现 低 成 本2 高 效 优 质 的 内容生产,通过 Al 驱动复活3D 模型虚拟数字人。89-108.6 7.1301270.SZ 汉仪股份 字体生成 AI 造字 39 55.9 17.1002354.SZ 天娱数科 多模态智能算法等升 级发布“Meta Surfing-元享智 能云平台”,在原 有功能基础上纳入AIGC 功能模块92-834.8 4.8603466.SH 风语筑 CV;数字人等公 司 在 虚 拟 展 厅、虚 拟 数 字 人、虚 拟 场 景 以 及 数 字 艺 术 创 作 领 域均 有 结 合AI 人 工 智 能 技 术 的 探 索 与 应 用,有 效 提 升 了 数 字 创 意、三 维 设 计 与3D 内 容 创 作 的 效 率 和 独 特 性。现 阶 段,上 述 探 索 仍 集中在AI 生成艺术、AI 辅助内容创意与生产等领域89 147.3 4.5资料来源:各公司官网,各公司公告,Wind,同花顺等,德邦研究 所 注:CV(Computer Vision,计算机视觉)5.AIGC37 38 2022&5 2/TMT/2018 2020 wind 1.6 6 20%5%20%-5%+5%5%2.A 500 10%-10%10%10%39 2017 7 1/40 600 N1 9+86 21 68761616+86 21 68767880400-8888-128 前沿报告库是中国新经济产业咨询报告共享平台。行业范围涵盖新一代信息技术、5G、物联网、新能源、新材料、新消费、大健康、大数据、智能制造等新兴领域。为企事业单位、科研院所、投融资机构等提供研究和决策参考。扫一扫免费获取海量报告