中文啦

手机浏览器扫描二维码访问

本站广告仅展示一次,尽可能不去影响用户体验,为了生存请广大读者理解

基础算力,人工智能的底层支撑(第2页)

本小章还未完,请点击下一页继续阅读后面精彩内容!

举个直观的例子:同样大小的芯片,5nm芯片比14nm芯片能多装好几倍的晶体管,计算速度能提升30%以上,耗电却能减少50%。这对AI来说太重要了——AI需要长时间、高强度计算,芯片又快又省电,就能让AI服务器不用频繁断电散热,还能降低成本。

再说说“架构创新”。以前芯片多是“通用架构”,比如CPU的x86架构、ARM架构,能处理各种任务,但面对AI的“并行计算”需求(也就是同时处理大量数据),效率就不够高。所以现在专门为AI设计的“专用架构”越来越多,比如NPU(神经网络处理单元)。

NPU的设计思路很简单:AI最常用的是“神经网络计算”,就像人脑的神经元一样,需要大量“重复且相似”的计算。NPU就专门优化这种计算,去掉了通用架构里用不上的功能,把所有“力气”都用在神经网络计算上。比如手机里的NPU,能快速处理拍照时的图像优化、人脸识别,比用CPU处理快好几倍,还不耗电——这就是“专芯专用”的优势。

现在的芯片,就是“先进制程+专用架构”双轮驱动,既保证了计算速度,又提高了AI任务的处理效率,成了算力升级的“核心引擎”。

2. 服务器:算力的“运输车”,装得越多、跑得越稳

如果说芯片是“心脏”,那服务器就是算力的“运输车”——芯片产生的算力,要靠服务器整合、输出,才能供AI使用。现在的服务器,主要往“装得多”(高密度)和“不趴窝”(高可靠性)两个方向发展,尤其是AI服务器,更是如此。

先看“高密度”。AI需要的算力特别大,一台服务器里装的芯片越多,能提供的算力就越大。以前的普通服务器,最多装2-4块GPU,而现在的AI服务器,能装8-16块GPU——就像以前的卡车只能装2吨货,现在的卡车能装16吨货,运输效率直接翻了好几倍。

比如2023年的时候,全球AI服务器市场规模同比增长了80%以上,很多科技公司比如谷歌、百度、阿里,都在大量采购这种多GPU的AI服务器,就是为了满足大模型训练的需求。一台能装16块GPU的AI服务器,一次能处理的数据量,比普通服务器多十几倍,大大缩短了大模型的训练时间——以前可能要几个月才能练完的模型,现在几周就能搞定。

再看“高可靠性”。AI的计算任务往往不能中断,比如训练一个大模型,要是服务器中途坏了,之前的计算成果可能就白费了,得重新开始。所以现在的服务器都做了“冗余设计”——比如关键部件(电源、风扇、硬盘)都装两个,一个坏了另一个能立刻顶上;还有“故障预警系统”,能提前检测到服务器的问题,比如某个部件温度太高,会自动报警并调整,避免突然“趴窝”。这种高可靠性,保证了AI计算能连续不断地进行,不会因为硬件故障耽误事。

3. 数据中心:算力的“仓库+调度站”,又绿色又高效

数据中心就是存放服务器、存储数据、调度算力的地方,相当于算力的“仓库”和“调度站”。现在的数据中心,不只是“堆服务器”,而是往“绿色化”和“集约化”发展,既要提供足够的算力,又要减少能耗、提高效率。

先说说“绿色化”。数据中心里有大量服务器,这些服务器运行时会产生很多热量,需要空调散热,所以耗电特别大——以前的 data center,每提供1单位的算力,可能要消耗1.5单位以上的电(用PUE值衡量,PUE=总耗电量/算力耗电量,越接近1越省电)。现在为了减少能耗,都在用“液冷技术”——不是用空调吹,而是用特殊的冷却液直接接触服务器,散热效率比空调高好几倍,能把PUE降到1.1以下。

举个例子:阿里在张北建的数据中心,用了液冷技术后,PUE只有1.09,也就是说,每提供100度的算力用电,总共只消耗109度电,比传统数据中心省了40%以上的电。这对AI来说很重要,因为AI需要长期占用大量算力,省电就等于省成本,还能减少碳排放,符合绿色发展的要求。

再说说“集约化”。以前的数据中心大多建在大城市,但大城市的土地、电力成本高,而且数据传输距离远,会有延迟。现在都在搞“边缘数据中心”——把小型数据中心建在靠近用户或设备的地方,比如城市的基站旁边、工厂的车间里、高速公路的服务区里。

这样做的好处很明显:数据不用传到远处的大型数据中心,能在本地处理,减少传输延迟。比如在自动驾驶场景里,车辆需要实时处理路况数据(比如前面有没有车、红绿灯是不是红灯),如果数据要传到几十公里外的数据中心,再传回来,哪怕只有1秒的延迟,都可能引发事故。而边缘数据中心就在路边,数据处理的响应时间能控制在毫秒级(1毫秒=0.001秒),相当于“即时反应”,能保证自动驾驶的安全。

本小章还未完,请点击下一页继续阅读后面精彩内容!

现在的数据中心,就是通过“绿色化”降成本、减排放,通过“集约化”缩延迟、提响应,成了算力的“稳定后方”,让算力既能持续输出,又能高效到达需要的地方。

三、算力怎么用得好?边缘计算+调度平台,打破“算力孤岛”

有了算力,也有了硬件支撑,还得解决一个问题:算力不能“浪费”。现在很多地方都有算力,但有的地方算力不够用(比如东部大城市),有的地方算力用不完(比如西部偏远地区),就像有的地方水多泛滥,有的地方水少干旱,这就是“算力孤岛”。要解决这个问题,就得靠算力网络建设——核心是“边缘计算”和“算力调度平台”,一个让算力“靠近用户”,一个让算力“按需分配”。

1. 边缘计算:把算力“搬”到用户身边,减少延迟更安全

热门小说推荐
天空守夜人

天空守夜人

人们永远不会忘记那天的事情。那天,他们亲眼目睹传说中的怪物降临天空都市。亲眼目睹超自然之力在我面前觉醒的那场流星。亲眼目睹自己站在孤风琳琳的苍地之上。但我最过目不忘的是亲眼目睹了梦想中畅望被神雾笼罩的陆地。那一刻,人类过去的一切幻想,理想,全部化为尘埃。天空之城中的人们依稀记着,血骸枯寂之中,少年立于天地之间,什么......

萝莉外传

萝莉外传

现在的时候已经可算是早春,艾尔丹特帝国的首都里克城因为在整个大陆的东北地区,所以依然还算寒冷,在南方已经可以降水开始耕种的时候,里克依然还算是带着冬季的色彩,即便是皇宫里的侍卫,还是穿着棉袄执勤,尤其是在夜晚寒气逼人的时候。...

容皇后

容皇后

未过门夫君已有小妾娇儿,软玉温香放浪形骸,容晗适婚之龄将过,望京中再无未定婚的合适人家,家中亲人百般不愿也只能含泪将他许配。此时天降良缘,一道圣旨将容晗赐婚帝后嫡出皇子,当今太子胞弟为王妃,容晗...

再欺负我挠你了

再欺负我挠你了

简棠是只脏兮兮的流浪猫。 某天流浪经过影视城时,瞥见某个男人腿上有打开的小饼干,而男人已经睡着了。 简棠饿惨了,于是悄咪咪地跳上男人的腿,偷了饼干就准备跑。 但下一秒,他被人拎着后颈提了起来。 简棠扑腾着小脏腿:“……喵?” 男人皱着眉把他拎开,语气嫌弃,“哪儿来的小东西,这么脏。” 简棠每次偷吃都会被打,他生怕男人一个不高兴就把他扔出去,连忙卖萌装乖,眨巴着大眼睛蹭蹭蹭蹭…… 直到把男人一只手蹭得黢黑黢黑…… 心惊胆战的简棠缓缓回头,就看到男人面容漆黑,咬着牙把他拎得远远的,“偷我饼干,还蹭脏我衣服,你是对家买来报复我的?” 简棠:……啊? +++ 大概是另类的卖萌有奇效,男人把他带回了家里养呃……报复? 晚上,简棠在沙发一角团吧团吧准备睡觉了,刚闭眼就被男人扒拉一下。 “你脏死了,睡地上去。” 简棠就小心翼翼地在地板上新买的软垫里趴了下来。 吃饭时,照旧被为难。 “你最近怎么胖这么多?小饼干没收。” 下一秒,小碗里出现了更好吃的鳗鱼卷。 一段时间后,男人不由分说把他抱上了床。 “看什么看,喂你吃这么多好东西,不该给我暖个床?” 简棠连忙在他胸前趴趴好,应该的应该的,饲主您好好休息。 简棠觉得他这个新饲主哪里都好,就是嘴太毒,老喜欢欺负猫猫,不过每天都有好吃的鳗鱼饭和小零食,比在外面流浪好多了。 于是简棠心安理得地表示,这个饲主,他养了!直到某天晚上,他意外在被子里变出人形,跟一脸错愕的男人四目相对。 简棠哀嚎一声闭上眼,完了完了,他的美好生活就要终止在这一晚,他就要被当成妖怪丢出门继续流浪了…… 没想到下一秒,男人飞快用被子裹住他光溜溜的身体,闭着眼睛,继续把他当暖床器抱进怀里。 +++ 全国人民都知道,影帝家里养了只鸳鸯眼的漂亮小猫,可可爱爱,奶敷敷的叫声能迷死一大片人。 于是,当影帝直播宣传新剧时,弹幕都是整齐划一的 【哥哥看猫看猫,小猫好乖,我好爱】 影帝气得一键清屏弹幕,爱什么爱,那是他的! +++ 山中妖王丢了宝贝儿子,不得不出门寻找,可一连找了几年,依旧音讯全无,直到某天看到影帝直播间的小猫,妖王一脸呆滞。 那不是他丢了好几年的傻儿子吗? 居然妖身出道,还火了? 口嫌体正直/喜欢毛茸茸不承认/嘴硬心软影帝攻vs妖王家的傻儿子/有吃就好快乐开摆/软萌可爱猫猫受...

率土控号手

率土控号手

狂热率土爱好者韩枫的控号之旅!【草原团】顶级控号手韩枫意外重生,觉醒控号系统,可用意识随时随地操控千军万马进行作战。“别问我能控多少,能吊打你就行!”“对不起,我从不单挑,我只玩群殴!”“满红了不起吗?我用人数堆死你!”从此率土中诞生一个顶级雇佣团【枫组织】,但是却无人知道这背后到底是谁在操控着这一切!...

重生之千年春秋梦

重生之千年春秋梦

这是一个重生者意外获得拥有神奇力量的“宠物卡福龙”之后,通过努力,一步步拥有无限穿越能力的传奇故事!都市篇他叫夏小天;军事历史篇他叫刘和;灵异异人篇又改名叫全真的男人的故事!......