导读:2022年11月30日,OpenAI把ChatGPT放到了网上。刚开始它甚至只是一个“研究预览版”,谁也没想到,几个月之后,它会把整个科技行业的桌子都掀了。以前我们说人工智能,普通人想到的可能还是人脸识别、智能推荐、自动驾驶,甚至觉得这东西离自己挺远。但ChatGPT第一次让几亿普通人发现,原来……
ChatGPT让整个行业看见了新的入口
2022年11月30日,OpenAI把ChatGPT放到了网上。刚开始它甚至只是一个“研究预览版”,谁也没想到,几个月之后,它会把整个科技行业的桌子都掀了。以前我们说人工智能,普通人想到的可能还是人脸识别、智能推荐、自动驾驶,甚至觉得这东西离自己挺远。但ChatGPT第一次让几亿普通人发现,原来电脑真的可以跟你聊天、写文章、改代码、做总结,而且你不需要学编程,只需要会说话。 我做服务器二十多年,当时我看到这个东西,第一反应倒不是“聊天机器人真聪明”,而是心里咯噔一下:如果以后每个人都这样用AI,那后面得需要多少服务器、多少GPU?
更有意思的是,ChatGPT火起来以后,中国互联网行业几乎瞬间进入了“大模型时间”。百度、阿里、腾讯、字节这些公司,谁都不可能站在旁边看热闹。尤其是阿里,它其实比很多公司更尴尬,也更不能缺席。为什么?因为阿里的生意太多了。淘宝是电商,钉钉是办公,阿里云做云计算,天猫精灵做智能终端,高德做地图,还有搜索、客服、物流、企业服务。这些业务过去都在用AI,但用的更多是推荐算法、语音识别、图像识别,各干各的。ChatGPT突然证明了一件事:未来很可能出现一种通用的AI能力,把原来几十种不同的软件能力重新串起来。如果这个入口掌握在别人手里,对于一家拥有如此庞大数字业务体系的公司来说,就不是少一个产品的问题,而可能是下一代入口的问题。
通义千问从一开始就不只是聊天框
所以2023年4月11日,ChatGPT发布四个多月后,阿里云正式推出了通义千问。这个名字第一次听可能还有点文绉绉,“通义”可以理解成通晓义理,“千问”就是面对千千万万种问题。但真正值得注意的不是这个名字,而是阿里一开始就没打算把它只做成一个网页聊天框。发布当天,阿里明确说要把通义千问逐步接入整个阿里生态,第一批就包括钉钉和天猫精灵,后面还包括电商、搜索、导航等业务。钉钉当时演示的东西已经很有意思了:会议结束,AI自动整理纪要;让它写邮件、写方案;甚至拿手机拍一张画在纸上的应用草图,就可以帮你生成一个小程序。 现在回头看,这已经不是简单的“陪你聊天”,而是在试探一个问题:AI能不能开始干活?
有人可能会问,阿里是不是看到ChatGPT以后,四个月临时拉了一帮人,赶紧搞了个千问出来?当然不是。大模型这种东西不可能四个月从零开始。阿里此前已经在云计算、机器学习、自然语言处理、视觉、语音这些领域投入了很多年,阿里自己后来也把Qwen的起点描述为长期的云计算和AI基础设施投入。 所以ChatGPT更像是点燃了导火索。技术储备本来就在仓库里,只是以前大家还不知道下一场战争到底长什么样。OpenAI把ChatGPT扔出来以后,所有人突然看见了战场:原来大模型可能成为下一代软件的底座。
模型需求开始反向推动硬件扩容
这件事对我们这些做服务器的人影响其实特别直接。以前给高校、研究所、企业做计算设备,大家的需求相对容易理解。做仿真的,问CPU多少核;做数据库的,看内存和硬盘;做深度学习的,再考虑GPU。但大模型出来以后,整个需求开始变得奇怪了。客户会问:“强哥,我想自己部署一个模型,需要多大显存?”“70B模型到底要几张卡?”“我们几十个人一起用,要不要做GPU服务器?”甚至有老师原来根本没有GPU采购计划,因为突然想研究大模型,又跑来问算力。软件第一次以这么快的速度,反过来逼着硬件扩容。以前是服务器造好了,我们想办法找应用;现在是模型先跑起来,然后所有人发现,机器不够用了。
而阿里接下来做的一件事,又让这把火烧得更大。2023年8月,阿里开始开放Qwen第一批模型权重和代码,学术机构、科研人员、开发者甚至商业机构都可以把模型拿下来研究和使用,模型也进入了ModelScope和Hugging Face这些开发者平台。 这个动作特别重要。因为如果千问永远只跑在阿里云里,它需要多少GPU,是阿里自己的事情;可一旦模型开放以后,情况就完全变了。大学实验室想跑,创业公司想跑,研究所想跑,企业也想把数据留在自己机房里跑。于是大家很快发现一个非常有意思的现实:模型可以免费下载,代码也可以免费下载,但算力不能免费下载。
开放模型把算力需求带到更多组织
这就是我为什么觉得,通义千问是《算力江湖》从硬件篇走向大模型篇特别合适的第一站。我们前面讲英伟达、AMD、Intel、海光、寒武纪、摩尔线程、沐曦、长鑫,看起来一直是在讲芯片,其实那些东西都是在修路。到了2023年以后,大模型突然像一支浩浩荡荡的车队冲上了这条高速公路。车越来越多、越来越重,于是GPU不够了,显存不够了,内存不够了,存储和网络也开始不够。阿里做通义千问,表面看是在造一个AI模型,但从我们做算力的人眼里看,它其实是在创造一种新的算力消费方式。
所以第一集我们先把故事讲到这里。ChatGPT一声枪响,让阿里看见了一个不得不进入的新战场;通义千问诞生以后,真正改变的也不只是阿里,而是从云厂商到高校实验室,从互联网企业到科研团队,越来越多人开始第一次认真问同一个问题:我的AI,到底需要多少算力? 从这一步开始,模型规模、开放生态和实际部署共同把GPU服务器推到了大模型产业的中心。
从模型发展回到算力建设
大模型部署不能只看参数规模,还要结合精度方式、上下文长度、并发用户、知识库容量、响应速度以及持续运行要求,综合评估GPU显存、CPU、内存、NVMe存储、高速网络和散热条件。不同单位的业务目标不同,适合的算力路径也不会完全相同。