敬请参阅最后一页特别声明 1 2022 12 Google 2017 Transformer 1 2 3+4 5 AI+AI-/4/AI AI+AI+AI 2017 Google MoE 2022 6 Google LimoE AI AI PaddlePaddle 4D MLPerf AI 16 32 AI AI 行业深度研究 敬请参阅最后一页特别声明 2 内容目录 1.3 2.6 3.7 4.8 5.9 6.10 7.10 图表目录 1.3 2 LeNet-5.4 3+BP.4 4.5 5.5 6 MAE.6 7.7 8 AI“”.7 9 InstructGPT/ChatGPT.8 10.9 11.9 12 PaddlePaddle 4D.10 0YDWuNnQtQmNsMoNnQtMmNaQbP6MsQoOmOtQiNqQsQjMnPxP7NqRoOMYtRoNxNoPsQ行业深度研究 敬请参阅最后一页特别声明 3 2022 12 Google 2017 Transformer AI 1 2 3+4 5 1.AI+1 CSDN AI-/4/2006 SVM 1998 Yann LeCun LeNet-5 LeNet-5 AI 行业深度研究 敬请参阅最后一页特别声明 4 2 LeNet-5 Dive into Deep Learning Aston Zhang 2021 CPU AI 2006 2011 Hinton Hinton 1 2 3+BP A Fas t Learning Algorithm for Deep Belief Nets Hinton 2006 AI 1 2 GPU GPU 2012 2017 AlexNet Hinton 2012 AlexNet AlexNet CNN ReLu 行业深度研究 敬请参阅最后一页特别声明 5 GPU AlexNet ImageNet 26%15%5 AlexNet AI ImageNet AI 4 ImageNet 1,420 2 CIFAR-10 6 10 MegaFace 67 475 MPII 2.5 410 Flicker-30k 15.8 3.2 MSCoco 32.8 250 Paperswithcode AlexNet GPU 2017 Transformer 2017 Transformer 2018 Transformer BERT GPT MLM NSP 5 GPT OpenAI BERT Google MLM NSP OpenAI Google 2020 MoCo 行业深度研究 敬请参阅最后一页特别声明 6 6 MAE Masked Autoencoders Are Scalable Vision Learners Kaiming He 2021 2021 Facebook AI Mata AI MAE MLM MAE 3 AI Tesla Auto pilot Tesla AI Tesla 2021 AI Day Tesla 500,000(Auto Labeling)AI L5 2021 Tesla 75,000 AI 8 AI Tesla AI AI Tesla 2.BERT GPT-3 AI AI AI AI AI 1 AI AI 2 AI AI 行业深度研究 敬请参阅最后一页特别声明 7 7 8 AI Beyond the Imitation Game:Quantifying and extrapolating the capabilities of language models Aarohi Srivastava 2022 Beyond the Imitation Game:Quantifying and extrapolating the capabilities of language models Aarohi Srivastava 2022 Google T5 AI 1 AI ImageNet ObjectNet ImageNet ObjectNet ImageNet 40 45 90%50%2 3 AI ChatGPT Github ChatGPT ChatGPT 3.AI+AI AI AI AI AI AI AI AI AI AI+行业深度研究 敬请参阅最后一页特别声明 8 1+AI 2 3 AI AI AI 2020-2022 1.0 AI 2022 2.0 LaMDA ChatGPT AI AI 2022 1 Google AI LaMDA LaMDA Google LaMDA LaMDA LaMDA 20,000 AI LaMDA 2022 3 OpenAI InstructGPT RLHF AI InstructGPT 40 GPT-3 InstructGPT 13 1750 GPT-3 9 InstructGPT/ChatGPT OpenAI 2022 11 30 OpenAI ChatGPT ChatGPT RLHF ChatGPT InstructGPT ChatGPT AI 4.AI 行业深度研究 敬请参阅最后一页特别声明 9 10 11 Switch Transformers:Scaling to Trillion Parameter Models with Simple and Efficient Sparsity William Fedus 2022 GPT-3 AI AI AI 2017 Google Mixture of Expert MoE“”100 2021 Google Switch Transformers T5 7 1.6 AI AI 2022 6 Google LimoE AI AI 5.AI AI AI PaddlePaddle 4D AI MLPerf AI 行业深度研究 敬请参阅最后一页特别声明 10 12 PaddlePaddle 4D PaddlePaddle AI 16 32 6.AI AI。7.GPU Transformer Transformer Transformer 行业深度研究 敬请参阅最后一页特别声明 11 行业 投 资评级的说明：买入：预期未来 3 6 个月内该行业上涨幅度超过大盘在 15%以上；增持：预期未来 3 6 个月内该行业上涨幅度超过大盘在 5%15%；中性：预期未来 3 6 个月内该行业变动幅度相对大盘在-5%5%；减持：预期未来 3 6 个月内该行业下跌幅度超过大盘在 5%以上。行业深度研究 敬请参阅最后一页特别声明 12 特 别 声 明：国金证券股份有限公司经中国证券监督管理委员会批准，已具备证券投资咨询业务资格。本报告版权归“国金证券股份有限公司”（以下简称“国金证券”）所有，未经事先书面授权，任何机构和个人均不得以任何方式对本报告的任何部分制作任何形式的复制、转发、转载、引用、修改、仿制、刊发，或以任何侵犯本公司版权的其他方式使用。经过书面授权的引用、刊发，需注明出处为“国金证券股份有限公司”，且不得对本报告进行任何有悖原意的删节和修改。本报告的产生基于国金证券及其研究人员认为可信的公开资料或实地调研资料，但国金证券及其研究人员对这些信息的准确性和完整性不作任何保证。本报告反映撰写研究人员的不同设想、见解及分析 方法，故本报告所载观点可能与其他类似研究报告的观点及市场实际情况不一致，国金证券不对使用本报告所包含的材料产生的任何直接或间接损失或与此有关的其他任何损失承担任何责任。且本报告中的资料、意见、预测均反映报告初次公开发布时的判断，在不作事先通知的情况下，可能会随时调整，亦可因使用不同假设和标准、采用不同观点和分析方法而与国金证券其它业务部门、单位或附属机构在制作类似的其他材料时所给出的意见不同或者相反。本报告仅为参考之用，在任何地区均不应被视为买卖任何证券、金融工具的要约或要约邀请。本报告提及的任何证券或金 融工具均可能含有重大的风险，可能不易变卖以及不适合所有投资者。本报告所提及的证券或金融工具的价格、价值及收益可能会受汇率影响而波动。过往的业绩并不能代表未来的表现。客户应当考虑到国金证券存在可能影响本报告客观性的利益冲突，而不应视本报告为作出 投资决策的唯一因素。证券研究报告是用于服务具备专业知识的投资者和投资顾问的专业产品，使用时必须经专业人士进行解读。国金证券建议获取报告人员应考虑本报告的任何意见或建议是否符合其特定状况，以及（若有必要）咨询独立投资顾问。报告本身、报告中的信息或所表达意见也不构成投资、法律、会计或税务的最终操作建议，国金证券不就报告中的内容对最终操作建议做出任何担保，在任何时候均不构成对任何人的个人推荐。在法律允许的情况下，国金证券的关联机构可能会持有报告中涉及的公司所发行的证券并进行交易，并可能为这些公司正在提供或争取提 供多种金融服务。本报告并非意图发送、发布给在当地法律或监管规则下不允许向其发送、发布该研究报告的人员。国金证券并不因收件人收到本报告而视其为国金证券的客户。本报告对于收件人而言属高度机密，只有符合条件的收件人才能使用。根据 证券期货投资者适当性管理办法，本报告仅供国金证券股份有限公司客户中风险评级高于 C3 级(含 C3 级）的投资者使用；本报告所包含的观点及建议并未考虑个别客户的特殊状况、目标或需要，不应被视为对特定客户关于特定证券或金融工 具的建议或策略。对于本报告中提及的任何证券或金融工具，本报告的收件人须 保持自身的独立判断。使用国金证券研究报告进行投资，遭受任何损失，国金证券不承担相关法律责任。若国金证券以外的任何机构或个人发送本报告，则由该机构或个人为此发送行为承担全部责任。本报告不构成国金证券向发送本报告机构或个人的收件人提供投资建议，国金证券不为此承担任何责任。此报告仅限于中国境内使用。国金证券版权所有，保留一切权利。上海 北京 深圳 电话：021-60753903 传真：021-61038200 邮箱：邮编：201204 地址：上海浦东新区芳甸路 1088 号 紫竹国际大厦 7 楼 电话：010-85950438 邮箱：邮编：100005 地址：北京市东城区建内大街 26 号 新闻大厦 8 层南侧 电话：0755-83831378 传真：0755-83830558 邮箱：邮编：518000 地址：中国深圳市福田区中心四路 1-1 号 嘉里建设广场 T3-2402 前沿报告库是中国新经济产业咨询报告共享平台。行业范围涵盖新一代信息技术、5G、物联网、新能源、新材料、新消费、大健康、大数据、智能制造等新兴领域。为企事业单位、科研院所、投融资机构等提供研究和决策参考。扫一扫免费获取海量报告