中文啦

手机浏览器扫描二维码访问

本站广告仅展示一次,尽可能不去影响用户体验,为了生存请广大读者理解

基础算力,人工智能的底层支撑(第2页)

本小章还未完,请点击下一页继续阅读后面精彩内容!

举个直观的例子:同样大小的芯片,5nm芯片比14nm芯片能多装好几倍的晶体管,计算速度能提升30%以上,耗电却能减少50%。这对AI来说太重要了——AI需要长时间、高强度计算,芯片又快又省电,就能让AI服务器不用频繁断电散热,还能降低成本。

再说说“架构创新”。以前芯片多是“通用架构”,比如CPU的x86架构、ARM架构,能处理各种任务,但面对AI的“并行计算”需求(也就是同时处理大量数据),效率就不够高。所以现在专门为AI设计的“专用架构”越来越多,比如NPU(神经网络处理单元)。

NPU的设计思路很简单:AI最常用的是“神经网络计算”,就像人脑的神经元一样,需要大量“重复且相似”的计算。NPU就专门优化这种计算,去掉了通用架构里用不上的功能,把所有“力气”都用在神经网络计算上。比如手机里的NPU,能快速处理拍照时的图像优化、人脸识别,比用CPU处理快好几倍,还不耗电——这就是“专芯专用”的优势。

现在的芯片,就是“先进制程+专用架构”双轮驱动,既保证了计算速度,又提高了AI任务的处理效率,成了算力升级的“核心引擎”。

2. 服务器:算力的“运输车”,装得越多、跑得越稳

如果说芯片是“心脏”,那服务器就是算力的“运输车”——芯片产生的算力,要靠服务器整合、输出,才能供AI使用。现在的服务器,主要往“装得多”(高密度)和“不趴窝”(高可靠性)两个方向发展,尤其是AI服务器,更是如此。

先看“高密度”。AI需要的算力特别大,一台服务器里装的芯片越多,能提供的算力就越大。以前的普通服务器,最多装2-4块GPU,而现在的AI服务器,能装8-16块GPU——就像以前的卡车只能装2吨货,现在的卡车能装16吨货,运输效率直接翻了好几倍。

比如2023年的时候,全球AI服务器市场规模同比增长了80%以上,很多科技公司比如谷歌、百度、阿里,都在大量采购这种多GPU的AI服务器,就是为了满足大模型训练的需求。一台能装16块GPU的AI服务器,一次能处理的数据量,比普通服务器多十几倍,大大缩短了大模型的训练时间——以前可能要几个月才能练完的模型,现在几周就能搞定。

再看“高可靠性”。AI的计算任务往往不能中断,比如训练一个大模型,要是服务器中途坏了,之前的计算成果可能就白费了,得重新开始。所以现在的服务器都做了“冗余设计”——比如关键部件(电源、风扇、硬盘)都装两个,一个坏了另一个能立刻顶上;还有“故障预警系统”,能提前检测到服务器的问题,比如某个部件温度太高,会自动报警并调整,避免突然“趴窝”。这种高可靠性,保证了AI计算能连续不断地进行,不会因为硬件故障耽误事。

3. 数据中心:算力的“仓库+调度站”,又绿色又高效

数据中心就是存放服务器、存储数据、调度算力的地方,相当于算力的“仓库”和“调度站”。现在的数据中心,不只是“堆服务器”,而是往“绿色化”和“集约化”发展,既要提供足够的算力,又要减少能耗、提高效率。

先说说“绿色化”。数据中心里有大量服务器,这些服务器运行时会产生很多热量,需要空调散热,所以耗电特别大——以前的 data center,每提供1单位的算力,可能要消耗1.5单位以上的电(用PUE值衡量,PUE=总耗电量/算力耗电量,越接近1越省电)。现在为了减少能耗,都在用“液冷技术”——不是用空调吹,而是用特殊的冷却液直接接触服务器,散热效率比空调高好几倍,能把PUE降到1.1以下。

举个例子:阿里在张北建的数据中心,用了液冷技术后,PUE只有1.09,也就是说,每提供100度的算力用电,总共只消耗109度电,比传统数据中心省了40%以上的电。这对AI来说很重要,因为AI需要长期占用大量算力,省电就等于省成本,还能减少碳排放,符合绿色发展的要求。

再说说“集约化”。以前的数据中心大多建在大城市,但大城市的土地、电力成本高,而且数据传输距离远,会有延迟。现在都在搞“边缘数据中心”——把小型数据中心建在靠近用户或设备的地方,比如城市的基站旁边、工厂的车间里、高速公路的服务区里。

这样做的好处很明显:数据不用传到远处的大型数据中心,能在本地处理,减少传输延迟。比如在自动驾驶场景里,车辆需要实时处理路况数据(比如前面有没有车、红绿灯是不是红灯),如果数据要传到几十公里外的数据中心,再传回来,哪怕只有1秒的延迟,都可能引发事故。而边缘数据中心就在路边,数据处理的响应时间能控制在毫秒级(1毫秒=0.001秒),相当于“即时反应”,能保证自动驾驶的安全。

本小章还未完,请点击下一页继续阅读后面精彩内容!

现在的数据中心,就是通过“绿色化”降成本、减排放,通过“集约化”缩延迟、提响应,成了算力的“稳定后方”,让算力既能持续输出,又能高效到达需要的地方。

三、算力怎么用得好?边缘计算+调度平台,打破“算力孤岛”

有了算力,也有了硬件支撑,还得解决一个问题:算力不能“浪费”。现在很多地方都有算力,但有的地方算力不够用(比如东部大城市),有的地方算力用不完(比如西部偏远地区),就像有的地方水多泛滥,有的地方水少干旱,这就是“算力孤岛”。要解决这个问题,就得靠算力网络建设——核心是“边缘计算”和“算力调度平台”,一个让算力“靠近用户”,一个让算力“按需分配”。

热门小说推荐
快穿之欲女系统

快穿之欲女系统

简介:冉再再本来只是一个很普通的女孩,却意外被欲女系统砸中,从此开始了淫荡的生活!...

世界那么大

世界那么大

刘步阳,一个普通的海外游读生,在一起诡异的灾难中获得了难以想象的能力,成为他平凡人生的转折点。 这能让他的生活能达到怎样的高度?象篮球之神乔丹一样打球,象世界三大男高音一样放歌全世界,还是创造一个电子竞技史上的传奇? 黑帮仇杀、神秘遗产、政府特工陆续闯进他的平淡生活,青梅竹马、高傲富家女、黑帮辣妹、清纯萝莉也将他的感情生活拖入漩涡。 在人生的道路上,刘步阳想要得到些什么?金钱的满足感?权力上快感?道德上的优越感,还是那永恒的后宫? 世界那么大,总有你我所不舍的。 只能说:万种选择,只依本心。...

重生贵女不好欺

重生贵女不好欺

长姐所嫁非人,幼弟无辜惨死,她不肯和亲蛮族,毓秀宫中决然赴死。濒死之际,想起高高在上的二姐,和冷漠绝情的母亲,她觉得,有些事情,肯定不如自己看到的那么简单。再睁开眼,却回到自己五岁之时。此生,命运的棋局又会因这颗棋子的不同而产生怎样的变化……......

佛祖座下换油鼠

佛祖座下换油鼠

《佛祖座下换油鼠》作者:耳刀东简介:【预收:《皇兄的白月光是女装大佬》文案下翻or进入作者专栏。】从前我叫十五后来我有了大出息!成为西天佛祖座下的换油鼠!所以我改名:焕尤。近日天庭出了些祸事儿导致人手不足,太上老君特地向佛祖求助我便荣幸的当选了:镇守藏书阁的任务!据说这祸事的源头是东海龙王之子,兂染。听说此子性情暴躁,易怒...

九龙大陆

九龙大陆

穿越?重生?那不就是单机游戏吗?一个服务器围绕着一个开挂者的沉侵式游戏而已,让我告诉你开挂新模式,让我们一起伴随风羽的开挂人生,点醒你也是风羽的一段人生,风羽是你,你,是风羽......

柯学背锅未遂后

柯学背锅未遂后

鹿岛一二三,高维生命创造出来的人形智能背锅程序。 外表制作精美,语言系统丰富,最重要的是,专注背锅三百余年,无一程序能出其右。 被厨力放出的观众购入投放漫画后的战绩包括但不限于: 1.在FBI小伙伴被发现之前抢先自爆—— 「什么时候背叛的?我们什么时候成为伙伴了,Gin。」 【赤井厨:四星好评,还有一颗是替Gin扣的,赤井厨也有心,赤井厨也会躲在被窝里悄悄抹眼泪。】 2.在警视厅即将逮捕组织成员之前篡改证据—— 「抱歉呐,Zero,至少这次,你知道该恨的是谁。」 【Gin厨:四星好评,还有一颗是替Zero扣的,Gin厨没有心,对帅哥除外。】 3.在死神小侦探即将和组织摊牌之前卡在中间—— 「侦探已死,现在还不知道真正的敌人是谁吗,蠢货。」 【小柯厨:一星!!一星!!!一二三你住口啊!这不是背锅这是献祭啊一二三!!!】 45678…… 眼看着评分越来越低,鹿岛一二三:你们是不是有病,任务圆满完成给个五星好评很难吗??? 人形智能背锅程序不干了! 鹿岛一二三在米花町老老实实养老等待系统格式化回老家,却在顾客回访中看到逐渐补齐的评分,和许多莫名其妙的追加评价。 【赤井厨:Akai,冲啊Akai,都知道是误会了还在店外面看着,算什么男人!】 【Gin厨:听我的,哥。咱们先把那个蹲点的FBI给崩了,然后把旁边那个金发黑皮噶掉,别管数字哥说什么鬼话他都是你一辈子的好搭档!】 【zero厨:我好恨,当初我也应该激情下单,不应该因为我推太可靠就卸下心防,让他痛失优先掀锅权……我现在下单还来得及吗?就当随礼了,谁也别和我抢。】 …… 【小柯厨:别搁那儿和大阪黑鸭玩猜谜了小柯!你义兄门外全都不是好东西啊!急急急急急急死我了!!!】 鹿岛一二三:??? ————有话好好说,你们别扒我锅啊!我又大又圆的大黑锅啊!!! *** tips: 1.主角盘条靓顺会说鬼话,爱锅敬锅,工作期间黑锅就是他的天,cpAkai 2.能确定的是主角是新一没有血缘关系的亲哥,亲到工藤夫妇都要怀疑人生的那种亲 3.私设+造谣,酒厂史诗级加强...