83小说

手机浏览器扫描二维码访问

本站广告仅展示一次,尽可能不去影响用户体验,为了生存请广大读者理解

一文看懂光模块:从“数据快递员”到ai时代的“基建核心”(第4页)

2. AI推理:需要光模块“不卡顿”

AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。

比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。

而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。

3. AI集群:需要光模块“连得密”

本小章还未完,请点击下一页继续阅读后面精彩内容!

AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。

以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。

中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。

五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?

光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。

1. 传统可插拔光模块:灵活但有瓶颈

我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。

这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:

- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。

- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。

- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。

2. CPO技术:把光模块“焊”在芯片上,突破瓶颈

热门小说推荐
穿呀主神

穿呀主神

穿呀主神情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的科幻小说小说,穿呀主神-幽幽弱水-小说旗免费提供穿呀主神最新清爽干净的文字章节在线阅读和TXT下载。...

阴阳师祁鬼

阴阳师祁鬼

在现代,有一批阴间使者。这些阴间使者的任务就是让那些在世界游荡许久的鬼魂找到归宿。还有一位阴阳使者(祁鬼)它可以在现代和冥界自由来往。他的存在是让那些高级以后可以得到一些归宿,他在人间300年。化名(张予诺),这次从重生,只是想找一人魂魄。这也是他最后一次机会,这最后一次机会。在这最后一次机会,有她意想不到的变数......

散文集一励志

散文集一励志

散文集一励志情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的其他类型小说,散文集一励志-秦王刺杀荆轲-小说旗免费提供散文集一励志最新清爽干净的文字章节在线阅读和TXT下载。...

血天空

血天空

这是一场无法醒来的梦吗?还是无尽痛苦的轮回?既然已死,为何又让我经历这生命中难以承受之重?朝天怒吼的兽人战士,优雅哀伤的精灵射手,阴暗残暴的亡灵法师,杀红了眼...

柯学,枪火与药剂

柯学,枪火与药剂

柯学,枪火与药剂情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的其他类型小说,柯学,枪火与药剂-幻想一下-小说旗免费提供柯学,枪火与药剂最新清爽干净的文字章节在线阅读和TXT下载。...

诱A

诱A

[攻视角] 萧纵年少时谈了场轰轰烈烈的恋爱,最终与竹马分道扬镳 几年错付,幡然醒悟后的他继承家族企业后逆风翻盘,就在事业风生水起时, 他得知竹马回国了。 同时家人给他安排了一名相亲对象, 萧纵不胜其烦——介绍来的千篇一律:居家贤惠、默默无闻。 他更想找个能携手拼事业的伴侣, Beta才是最适合的。 为躲避竹马的纠缠,萧纵去见了相亲对象, 对方看上去寡言少语,冷清禁欲,不过听说他们俩信息素契合度极高, “契合就一定要成吗?”萧二少如是说:“假清高。” (真香警告) ** [受视角] 突然分化成一个Omega,顾引只得从特种部队退役。 身为教官,退役前每天面对一帮满身臭汗的糙老爷们,顾引的审美遭到严重荼毒。 这时他看到相亲对象的照片, 顾引:啊啊啊啊啊啊啊啊我可以! 众士兵:你可以他不可以。 士兵1:O要有O的样子,教官你……算了我不说了。 士兵2:这个少爷细皮嫩肉的,你嗓门别吓着人家。 士兵3:可以学学别的Omega是什么样的。 顾引(好奇):怎么学? 众人扭扭捏捏地贡献出珍藏多年的小电影。 顾引:? ** 于是某个月黑风高的晚上,清冷禁欲还假清高的Omega洗得白白净净…… 然后身手利落地爬上萧纵的阳台。 再后来—— 有天顾引遇到当街抢劫,顺手给对方一记鞭拳+低勾踢,直接把人送进医院。 不小心看到的萧纵:卧槽,这我媳妇?! 顾引:卧槽,我死了。 「萧纵在身边时,顾引说话声音小,瓶盖拧不开,出门不认路,还会嘤嘤嘤。 萧纵不在时,他扛百斤电磁炮,远程狙劫匪,驾车两百迈,单手开飞机。」 富可敌国·口是心非傲娇攻x退役特种兵·感情单纯直率诱受 #我对象何止能携手拼事业,他简直能打江山# 食用指南: 1.攻【无标记经验】; 2.受前职业具有保密性。上厅堂下厨房都是现学的,本身不是糙性格; 3.架空星际abo社会; 4.1V1,HE,加粗双箭头互宠向; 5.信我。 【排雷:番外生子。】...