手机浏览器扫描二维码访问
2. AI推理:需要光模块“不卡顿”
AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。
比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。
而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。
3. AI集群:需要光模块“连得密”
本小章还未完,请点击下一页继续阅读后面精彩内容!
AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。
以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。
中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。
五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?
光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。
1. 传统可插拔光模块:灵活但有瓶颈
我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。
这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:
- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。
- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。
- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。
2. CPO技术:把光模块“焊”在芯片上,突破瓶颈
为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。
“啊!!!不要!!!”苏木嘴里又是一声尖叫,整个人剧烈地扭动了几下。原来司机一只手去抓苏木胸部的同时,另一只手竟然扒开了她的内裤,直接摸到了苏木两腿中间那道狭窄的肉缝,一根脏兮兮的手指就那么硬生生地塞了进去。然而手指才插进去一截,中年司机脸上就露出了惊讶,很快这种惊讶就变成了不可思议的狂喜,他万万没想到,今天竟然这么走运,来市郊打了个转便让他逮到了个雏。...
末日黎歌情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的科幻小说小说,末日黎歌-楚声黎歌-小说旗免费提供末日黎歌最新清爽干净的文字章节在线阅读和TXT下载。...
云铃,京城大小姐,以骄傲优雅的气质,在上流圈中一直是许多年轻贵公子的遥不可及的白月光。中考过后,如约和闺蜜洛家大小姐洛晓颖一起考上紫藤一中。云铃才刚刚正式踏入全新的高中生活,就碰到了一个男孩。瞿星尘,是瞿家大公子,有一个大五岁的姐姐瞿晨曦,瞿家一直低调行事,虽然很少在各种社交宴会上出席,瞿星尘才刚刚准备接受全新生活......
雪狼族部落中出现了一个异类。 这个来自地球的男人身陷蠢萌族人的包围圈中,45°望天,无语凝噎。 穿到这种穷得当底裤的草原部落,咱这文明人还得倒回来习惯茹毛饮血?! 他弯腰捡起小皮鞭,硬着心肠指向一众毛绒绒: “干活!” 一代坑神、腹黑大帝、雪狼人の皇的传说,就此开启……...
谈清是名小保安,生活就是保温杯里泡枸杞、喝喝茶、看看报以及和大爷们吹牛皮 天天张口闭口就是我老婆肤白貌美,温柔体贴,还会给我织毛衣 同事们看着谈清每天不重样的新毛衣,对着他年轻俊俏的脸直摇头,私下里说他脑袋有问题 但谈清觉得他们就是嫉妒自己,毕竟同事们天天卷生卷死,而他直接少走30年弯路,年纪轻轻享受上了退休生活 直到灵气复苏,诡异怪谈入侵现世,谈清的大名空降全球榜一 同事们才知道,守门人谈清,凭借一己之力击穿无限游戏,是强行把怪谈入侵拦在门外五年,为人类争取宝贵时间的顶尖大佬 他那个天天挂在嘴上的温柔老婆,是无限游戏王座之上的终极BOSS,为谈清堕落人间的诡界之神 本文又名:我老婆是触手怪,用十只手为我织毛衣,他好爱我...
身患癌症的秦阳,本以为自己最多只能再活一个月。借着绝症之躯,秦阳怒怼上司老板,再甩物质女友,霸气侧漏。直到有一天,有神秘人突然找上门来,他才发现自己得的不是什么绝症,而是可以让普通人变得强大的细胞基因变异。末世来临,万物变异,全球危机,极致恐慌。家里养的宠物突然变成了怪物,人畜无害的花草树木也变得狰狞可怖,甚至死去的人都开始行尸走肉。大夏之地,妖魔肆虐,灵异横行,谁能保国安民?绝境之下,大夏镇夜司横空出世,镇国守疆保万民,犹如定海神针。而秦阳,也在身患绝症之后,成为了大夏镇夜司的一员。这一日,秦阳横刀立马,一夫当关。“镇夜司秦阳在此,谁敢犯我大夏?”...