中国大模型到底什么水平?
钛媒体 2023-07-05 20:07:52
图片来源 @视觉中国

文 | 白马商评

" 都快成红海了。" 当我和一个创业者聊起大模型的时候,他直接甩了这句话给我。

去年 11 月,OpenAI 发布基于 GPT-3.5 的 ChatGPT,瞬间引爆大模型的热潮。半年多的时间,中国出现了 " 百模大战 " 的局面,BAT 等头部互联网公司和人工智能公司基本都对外宣布了自己的大模型。


(相关资料图)

5 月初,360 掌门人周鸿祎对外称," 如果不经过两年的模仿和抄袭,上来就说自己能超越,那才叫吹牛呢。" 仅仅一个月后,周鸿祎就表示," 我原来说国内大模型跟国外差距两年,我收回这句话,今天已经接近国际水平。"

有人感慨,半年就追上 ChatGPT 了,大模型似乎也不难。那么,大模型的核心壁垒是什么?中国大模型到底什么水平?大模型在应用层面最先突围的方向是什么?

沈为(化名)是某知名 985 高校教授,多年从事机器学习研究,还曾担任过某头部券商首席分析师,我们和他聊了聊,试图揭开大模型的迷雾。

GPT 路径跑通了,所以有了 " 百模大战 "

白马商评:能不能用最通俗简单的语言解释一下大模型,大模型是什么?和以往的 AI 模型有什么区别?

沈为:所谓大模型就是指模型的参数量大,但学术界并没有一个清晰明确的定义界定到底多大参数叫 " 大 ",还在快速研究发展阶段,一般来讲大模型的参数量达到 1 亿以上。

其实深度学习的发展大致经历了三个阶段。第一个阶段是 2012-2017 年,以图像分割 yolo、图像分类 ResNet 这种特定领域的小模型为代表,参数量占内存最多也就几百 MB。

2017 年,Transformer 的问世让深度学习可以并行化计算,效率更高,意味着可以做大模型的运算,随后产生了 OpenAI GPT 和谷歌 Bert 这类自然语言大模型。这一阶段诞生的是特定任务的大模型,模型参数突破了 1 亿。

到了 2020 年前后,深度学习进入通用模型阶段,它的输入就是一句带空格的话,模型的作用就是 " 填空 ",以前是模型适配下游应用,现在是下游应用适配模型。这一阶段的模型代表包括自然语言领域的 GPT 3.5、GPT 4 以及图像领域的 Clip、DALLE、Stable Diffusion、Midjourney 等等。这一阶段模型参数可以达到百亿、千亿级别。

白马商评:你了解到最早研究大模型是哪家企业或机构?有哪些成果?

沈为:最早是高校和科研机构做相关的研究,我了解比较早的是北京智源人工智能研究院的悟道、鹏程实验室的脑海,现在产业界的研究也很同步了。学术界的研究有一些成果,但性能没有 ChatGPT 那么惊艳。

白马商评:短短几个月的时间,国内出现了 " 百模大战 " 的局面,推出大模型的公司已经数不过来了,你怎么看待这种现象?

沈为:大模型肯定是趋势,也一直有人在研究。之前很多公司可能会小范围投入,做一些浅尝辄止的研究;现在突然出现了 ChatGPT 这样一个好产品,大家看到了明确的商业方向,于是都开始加大投入。

另一方面,很多公司面临商业竞争的压力,不做大模型可能就掉队了,所以必须上马大模型项目。

白马商评:周鸿祎最近说他收回 " 国内大模型跟国外差距两年 " 这句话,他认为今天已经接近国际水平。这才过去几个月的时间,大模型好像也不难嘛。你觉得差距有多少?

沈为:差距看跟谁对标吧,我目前没有体验过 360 智脑的产品,不太好评价。但是国内有些生成式 AI 产品,我体验以后感觉跟 ChatGPT 还是有差距的,国内的大模型还需要努力。

重资本投入下,只有头部公司有机会?

白马商评:研发大模型的核心壁垒是什么?

沈为:大模型的核心壁垒包括数据、算力、算法。

从算力上看,训练 ChatGPT 这样的生成式 AI 需要至少 1 万张英伟达 A100 显卡,单张显卡的价格目前是六七万,性能更优的 V100 单价 8 万元人民币,也就是说光算力投入至少就要达到六七个亿以上,只有少数头部公司和机构能承担得起。对于商业机构而言,花几个亿买一堆显卡,还不一定能产出成果,这是必须要思考的问题。

接下来是数据和算法,算法比较好理解,比如框架开发、算法优化。数据方面,中国不缺数据,甚至互联网数据比美国还要多,但是选择哪些数据去训练、采用什么样的方式处理,这些都是核心的壁垒。

白马商评:你平时会跟企业交流吗?非营利性的研究机构和企业在研究上有什么区别?

沈为:我们会跟企业的研究部门有一些交流。跟企业交流我们会更加了解实际的业务需求,有时候我们做的学术研究会更关注技术前瞻性,对落地性要求不那么高;但企业一般更强调落地性。

白马商评:你有没有研究过国内的大模型?最看好哪家?

沈为:可能还是头部公司能跑出来吧。一是重资本的投入,只有头部公司有实力;二是几家头部公司手里的数据更丰富;三是在人工智能领域已经有了一段时间的技术积累。

白马商评:你最看好的大模型应用是什么?

沈为:从技术角度看,最先应用的应该是自然语言处理和图像领域,语音识别可能要晚一些。

大家看到比较多的用 ChatGPT 来写文案,这类内容创作的应用越来越多,其他我觉得像智能客服这种应用应该也会比较快。现在的一些智能客服很多时候理解不了用户的需求,解决不了实际问题,如果让用户区分不出到底是人还是机器人,体验就会改善很多;包括游戏中的 NPC,以前的对话是 " 写死 " 的,现在渐渐可以互动了,玩家体验也会更好。

白马商评:你原来做过头部券商的首席分析师,从投资角度看,你觉得大模型有哪些机会?

沈为:资金炒作的逻辑是从应用到算法、模型,再到算力;产业的逻辑反而是相反的,算力是有明确的增长预期的,所以英伟达最近上涨很快、很多。投资者现在也明白了,谁家的大模型能跑出来、能变现还需要验证,但是增加的资本投入大部分都投到了算力。经过反复炒作,普涨行情应该已经告一段落,后面需要逻辑验证和业绩兑现。

我原来主要看传媒互联网行业,比如前段时间比较强势的游戏板块,资本的逻辑一是应用大模型提升研发效率、降低成本;二是大模型带来更好的体验,NPC 角色更智能,最后用户的粘性提升、UP 值提升。当然,最终可能还需要业绩验证。

人类无法左右 AI,甚至无法左右自己的命运?

白马商评:我们看到包括奥特曼、马斯克都对人工智能的安全性问题提出过担忧,现在我们只知道通过大模型训练出现了智能化的结果,但训练过程像一个黑箱,其实挺可怕的。你怎么看待安全问题?

沈为:在安全方面,首先我观察到几个反常的现象。第一个是今年 3 月包括马斯克、苹果公司联合创始人史蒂夫 · 沃兹尼亚克在内的 1000 多人签署了一份公开信,呼吁暂停训练比 GPT-4 更强大的 AI 系统。

第二个是,今年 5 月谷歌首席科学家、已经 75 岁的 "AI 教父 " 杰弗里 · 辛顿辞职,他离开谷歌的直接原因是担忧人工智能的危险,甚至对自己一生从事的工作感到后悔。

第三个是近两年学术领域训练大模型新增了伦理讨论。

目前来看,我觉得大模型还是可控的,没有大的问题;但是技术发展太快了,出圈以来短短几个月的时间,GPT 就又经历了几次迭代,发展速度太快,越来越智能,会不会产生自主意识,不再听人类的 " 使唤 ",走向失控?这个问题是大家担心的。

白马商评:你觉得 AI 会不会造成大量失业?在 AI 面前,普通人怎么保住工作?

沈为:从宏观上看我不觉得 AI 会造成大量的失业,人类总会有工作的,只是说人的工作内容会发生转变。当然,从个体角度看肯定会出现结构性的失业,我们只能不断学习。

白马商评:之前很多人说机器没有感情、缺乏想象力,取代不了人类;现在既然人类大脑可以通过 AI 模拟出来,那人类的情欲、性欲是不是未来也可以模拟,荷尔蒙、多巴胺这些不过是一种生物学的奖励机制嘛。

沈为:机器没有感情是当前的假设,人工智能越来越接近人的思考模式,那是不是就会产生类似于人类的 " 感情 "?只是他们和人类生活在不同的空间维度,就像《流浪地球》里图恒宇的女儿。人工智能可能会产生自己世界类似于人类的生物学意义上奖励机制。

白马商评:如果一切都可以计算、规划、设置,是不是有点无趣?

沈为:AI 的行为并不是人类预测和规划的,而是他自我强化、自我训练的结果,《流浪地球》里 MOSS 的决策是自己做的,而不是服从人类给的指令。

白马商评:硅基文明取代碳基文明是不是确定性的方向?

沈为:这个问题超纲了。按照目前的发展趋势可能是这样的,就像《流浪地球》里真正主宰人类命运的是 MOSS,而不是人类;但现实中也有可能技术会停滞在某个阶段,跨不过去,毕竟技术发展不是线性的。

更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体 App

中国大模型到底什么水平?

2023-07-05 20:07:52

you complete me.翻译(you complete me)

2023-07-05 19:36:40

高明!任敏用猪猪特效回应恶评-世界聚焦

2023-07-05 18:57:44

高质量发展调研行|海南:万宁体育+,到底加了啥?_天天速讯

2023-07-05 18:08:43

每日热讯!最终时间表即将敲定,日本粗暴推动“排污入海”

2023-07-05 17:12:34

大健康产业迎来发展黄金期,益生菌行业迎“千亿蓝海”!

2023-07-05 17:02:37

“全球银行1000强”榜单 工行、建行、农行等10家银行入全

2023-07-05 16:47:42

今日沪指跌0.69% 煤炭行业跌幅最大 世界微速讯

2023-07-05 15:53:04

国家开发银行上半年43亿元贷款支持高标准农田建设

2023-07-05 14:38:53

今日观点!宁波镇海:青春“趣”运动拓展青年“朋友圈”

2023-07-05 14:30:22

学生宿舍去世2个月家属不知死因?学校回应!-今日报

2023-07-05 13:42:20

世界通讯!圣达生物(603079):7月5日技术指标出现看涨信号-“红三兵”

2023-07-05 12:43:38

每日速递:翰森制药午后涨近8% 培莫沙肽注射液获药品注册证书 公司转型加速

2023-07-05 12:39:25

【天天聚看点】箭头符号素材_箭头符号下载

2023-07-05 12:39:21

世界观察:经典情歌大全_经典情歌大全100首爱情哥

2023-07-05 12:44:49

莫斯科市长:新莫斯科区、莫斯科州遭无人机袭击 新资讯

2023-07-05 12:30:59

天天热点!留足集体 保证农民 激励带头 村办集体农场今夏瓜甜果香

2023-07-05 11:45:25

《消失的她》中巨额财产究竟归谁?

2023-07-05 11:19:43

全球速看:国家防总工作组赴重庆指导防汛救灾工作

2023-07-05 10:39:25

天天观察:游戏界神作《艾尔登法环》史低208元 豪华版278元

2023-07-05 10:17:23

机构:宁德时代全球电动汽车电池市场份额升至36.3%

2023-07-05 09:29:24

查号移车电话(电话查车主移车怎么查)

2023-07-05 09:06:41

鼎通科技07月04日被沪股通减持21.27万股 每日看点

2023-07-05 08:52:22

七月,给狮子座,一个忠告

2023-07-05 08:34:39

四川多地雨雨雨 ,国家启动防汛四级应急响应!|全球播报

2023-07-05 08:31:38

A股异动|侨银股份连涨6日 股价创一个月新高 今年新增订单总额超20亿元|快看点

2023-07-05 08:25:37

动态:2022石家庄公办小学有哪些

2023-07-05 08:24:18

中国四大园林中属于苏州园林的是(中国四大园林)

2023-07-05 08:03:21

喜茶推出全栈自研全套茶饮智能设备

2023-07-05 07:59:14

7月4日屏下摄像板块涨幅达3%-世界速讯

2023-07-05 07:56:48

顾家家居(603816):7月4日北向资金减持3.76万股

2023-07-05 07:27:50

“我的家我接待”!古北市民中心的志愿者倍感自豪!

2023-07-05 06:52:23

【天天速看料】经济日报金观平:久久为功建设生态文明

2023-07-05 06:41:01

微软预测索尼PS5 Slim主机将于年内发布,价格399.99美元

2023-07-05 06:27:07

世界观速讯丨20亿韩元在韩国能干嘛_20亿韩元

2023-07-05 06:14:29

联合创始人沈亚楠退股理想汽车 理想汽车减资_环球今日讯

2023-07-05 05:53:50

佛山网评 | 发展、使用技术,必须循自然规律,坚持有“度”|当前速读

2023-07-05 05:31:51

荷兰政府考虑禁止游戏中的战利品箱元素-环球微资讯

2023-07-05 04:48:26

【环球新视野】日式拉面做法配图_日式拉面的做法

2023-07-05 04:32:39

神火股份股东户数增加3.43%,户均持股28.27万元 每日观点

2023-07-05 04:39:47

小草偷偷地从土里钻出来嫩嫩的绿绿的的表达效果_小草偷偷地从土里钻出来 嫩嫩的 绿绿的 赏析100字左右

2023-07-05 03:17:19

heavy的音标_heavy反义词-每日热文

2023-07-05 02:50:34

法雷奥推出首款绿色环保雨刮Canopy 有助于减少二氧化碳的排放_环球信息

2023-07-05 02:31:32

《合金装备大师合集》预购开启!售价约424元

2023-07-05 02:28:49

环球速递!华蓝集团:融资净偿还33.57万元,融资余额5390.23万元(07-03)

2023-07-05 01:10:48

总台记者观察丨国际原子能机构评估报告不能成日本排海“通行证” 全球热头条

2023-07-05 00:46:38

中国企业与非洲3国达成项目合作协议 签约总额超30亿美元 播资讯

2023-07-05 00:37:10

中国银行07月03日被沪股通减持647.27万股 天天通讯

2023-07-04 23:20:54

天天热点评!韩国房地产市场低迷威胁金融稳定

2023-07-04 22:36:47

合肥新桥国际机场暑运计划出炉 全球新资讯

2023-07-04 22:29:44

应该怎么追讨不当得利|环球观速讯

2023-07-04 21:56:35

佳缘科技:7月3日公司高管朱伟民、朱伟华减持公司股份合计8.12万股

2023-07-04 21:35:43

称赞不已的意思是什么意思_称赞不已的意思

2023-07-04 21:06:57

去黑头小窍门视频_去黑头小窍门

2023-07-04 20:42:19

热点在线丨蜂助手(301382):7月3日北向资金减持3500股

2023-07-04 20:18:13

方悦_关于方悦简介

2023-07-04 20:01:28

天津的大学顺口溜_天津的大学顺口溜

2023-07-04 20:05:04

建设银行个人网上银行怎么查账单(建设银行个人网上银行怎么登录)

2023-07-04 19:34:45

弘业期货(03678.HK):7月3日南向资金减持12.9万股_短讯

2023-07-04 19:29:16

世界今日报丨乌财政部长:乌克兰获得国际货币基金组织8.9亿美元融资贷款

2023-07-04 19:17:10

宛渠传说之倾世情缘

2023-07-04 18:02:34

全面讲解几何E,采用磷酸铁锂电池,纯电续航320KM,售价7.98万|世界播资讯

2023-07-04 18:14:09

每日播报!台江望龙路部分路段禁行 管制时间约12个月

2023-07-04 17:42:13

最高检启动一站式“多元解纷平台” 全球新动态

2023-07-04 17:23:09

昌平召开月度工作点评会,甘靖中现场点评三镇两部门 世界热文

2023-07-04 17:17:53

环球最新:北京昌平沙河0201街区规划方案公示 总建筑规模33.08万平方米

2023-07-04 16:38:38

天然锆石是什么材质(天然锆石) 全球观点

2023-07-04 16:27:49

天天动态:朝云集团 香港有限公司_对于朝云集团 香港有限公司简单介绍

2023-07-04 15:48:28

新款冠道370TURBO性价比怎么样及其性能简介-全球通讯

2023-07-04 15:51:03

王楚钦首次成为世界头号选手 樊振东世界排名跌至第二

2023-07-04 15:11:05

即将跟C罗重聚!记者:利雅得胜利即将签下31岁皇..._环球快播

2023-07-04 14:47:25

人参药酒怎么做?什么样的人参药酒才算品质好?-视点

2023-07-04 14:13:59

利用点单漏洞“薅羊毛”达百万!?上海三名男子被抓

2023-07-04 13:30:52

当前报道:A股:“为什么好股中不了”?新股豪恩汽电成大肉签,中签股民收大惊喜

2023-07-04 12:58:22

“碧恒万融”时代彻底落幕,新宇宙房企保利来袭,只是靠躺赢吗?|环球关注

2023-07-04 12:00:14

央行金融市场司副司长高飞:完善境外投资者的风险对冲工具与流动性管理工具-天天观焦点

2023-07-04 11:45:54

美团外卖上线15分钟极速达服务

2023-07-04 11:25:05

lovme手机 lovme 焦点信息

2023-07-04 10:59:46

当前视点!防晒市场如何靠差异化“破圈”?

2023-07-04 10:58:48

志存锂业新疆年产12万吨碳酸锂一期项目投产 业内预判碳酸锂供需紧平衡

2023-07-04 10:56:39

锡南科技:预计2023年1-6月经营业绩同比有所增长-全球今亮点

2023-07-04 10:43:00

中国移动研究院联合多家合作伙伴共同发布《5G工业UPF(OT UPF)白皮书》 当前消息

2023-07-04 10:58:26

布林肯没有红地毯 布林肯抵达北京 基本情况讲解_世界观察

2023-07-04 10:28:13

主题基金集体“补短板” 专业出身基金经理受青睐_全球消息

2023-07-04 10:22:28

15远洋05:交易异常波动,盘中停牌

2023-07-04 10:03:20

“和平方舟”号医院船起航 执行“和谐使命-2023”任务

2023-07-04 10:00:03

汉诺威96U17相关内容介绍

2023-07-04 09:47:55

小米MIUI 15开发版现身服务器、在系统动画、实用功能方面改进|世界今热点

2023-07-04 09:18:47

通讯!符文工房5烤饭团怎么做

2023-07-04 09:12:47

单车价值量显著提升 线控底盘蓝海市场蓄势待发|天天观天下

2023-07-04 08:58:27

环球今日报丨国艺中联当家人刘兵:提升乡村旅游品质,要做好这三点

2023-07-04 08:59:20

《猫忍之心》及其同系列作品即将移植Switch平台

2023-07-04 08:03:17

速看:中央政法委发布榜单 泉州3勇士上榜

2023-07-04 08:09:30

百炼成钢的意思是什么意思_百炼成钢的意思是什么_当前速看

2023-07-04 08:00:44

顶流基金经理难掩落寞!基金“中考”成少数人的AI盛宴 这些百亿基金接连失守

2023-07-04 07:44:21

环球快看点丨广东河源发生3.7级地震

2023-07-04 07:46:22

中粮家佳康(01610.HK)7月3日收盘涨2.13%,主力资金净流入321.6万港元

2023-07-04 07:32:01

维护金融消费公平,兴业银行济南分行开展金融知识教育宣传活动

2023-07-04 07:24:59

环球关注:最高速fallinlove

2023-07-04 05:59:05

6月30日基金净值:广发集源债券A最新净值1.0843,涨0.06%

2023-07-04 05:37:21