PCIe,越来越重要
如果您希望可以时常见面,欢迎标星收藏哦~
PCIe 技术将成为 AI 基础设施市场的重要组成部分。
根据 ABI Research 的“ PCI Express 市场垂直机会”报告,预计到 2030 年,AI 领域 PCIe 技术的总潜在市场 将从 4.4933 亿美元增长至 27.84 亿美元,复合年增长率 (CAGR) 为 22%。AI 的一个新兴用例是生成人工智能或 GenAI。GenAI 是一种用于生成内容的 AI 技术,包括文本、图像、视频、音频等。
随着 GenAI 的发展,GenAI 应用中的一些独特挑战变得清晰起来,例如需要低功耗、低延迟的稳健技术来将这些系统连接在一起。由于大型语言模型 的复杂性和规模不断增加,最先进的生成 AI 模型无法安装在一个 GPU、一台服务器、一个机架甚至一个数据中心上。
PCIe技术为生成式 AI 应用提供了众多优势,因为其固有 DNA 非常适合实现分解系统,包括对 LLM 有价值的分布式乘法功能。在本文中,我们将讨论 PCIe 技术目前在生成式 AI 中的应用方式、PCIe 技术功能如何完美满足日益增长的 AI 需求,以及 PCIe 技术与 AI 之间的关系将如何在未来的应用中不断发展。
PCIe 技术特性满足生成式 AI 的技术需求
PCIe 技术是一种无处不在的 I/O 互连,它通过实现低延迟、低功耗连接并始终确保向后兼容性来提供将节点连接在一起的结构。PCIe 技术连接整个数据中心,创建计算、内存和存储的池化资源,以满足生成式 AI 应用程序的独特和特定需求。
随着对更高数据速率的需求不断增长,以及行业从 NRZ 信号转向 PAM4 信号,前向纠错 对于保持可靠性至关重要。PCIe 通过利用 FLIT(流量控制单元)模式解决了生成 AI 和所有低延迟应用的这一问题。FLIT 有助于保持 PCIe 技术的低延迟,同时仍提供较低的 FEC 后错误率。此外,PCIe 架构包括低功耗模式,当需要较少的数据吞吐量时可节省能源,当通过 L0p 和 L1 子状态暂时不使用链路时,可节省更多能源。
进一步探讨 PCIe 低延迟优势的重要性,硬件一致性在扩大网络以提高效率方面发挥着至关重要的作用。这不仅仅与整体带宽有关——数据交换中的延迟可能会导致 GPU 和 CPU 在等待数据时停滞。流水线算法通常依赖于分布式结果,即使是单个节点的延迟也会导致显著的减速,从而闲置宝贵的计算资源。PCIe 技术现在具有 FLIT 模式,可最大限度地减少数据传输延迟并保持一致,从而实现高效的性能。
新兴 PCIe 技术助力生成式 AI 的未来发展
PCIe 技术将有助于推动生成式 AI 的应用,因为它可扩展到 AI 运行的后端网络中的电气和光学链路。随着带宽增加和电气覆盖范围减少,CopprLinktrade; 内部和外部电缆可以扩展 PCIe 信号在生成式 AI 应用中的覆盖范围 ,CopprLink 内部电缆在单个系统内的最大覆盖范围为 1 米,而 CopprLink 外部电缆的最大覆盖范围为 2 米。此外,PCI-SIG 光学工作组目前正在研究通过光学链路实现 PCIe 技术的途径,以确保任何 PCIe 链路在未来的生成式 AI 应用中都是可行的。
半导体精品公众号推荐
专注半导体领域更多原创内容
关注全球半导体产业动向与趋势
今天是《半导体行业观察》为您分享的第4004期内容,欢迎关注。
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID:icbank
喜欢我们的内容就点“在看”分享给小伙伴哦
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
推荐
-
上海整整一个月没下雨了,今起上演冷暖大反转
东方网记者柏可林1月12日报道:气温“过山车”要来了,从今天起,上海的气温将逐步走出一个小高峰,特别是下周二全天回升至7~14℃。然而随着新一股冷空气到场,15...2025-01-12 14:30 -
机会来了?基金密集调研医药股!零持仓股暗含配置需求
跨年行情结束后,基金经理对上一年度的弱势赛道医药的兴趣显著上心。 券商中国记者注意到,开年后大型公募几乎倾巢而出密集调研医药股,其中许多被基金联合调研的医药股...2025-01-12 10:53 -
市值翻倍牛股,1场电话会议,超100家机构参与!
又一牛股成最受机构青睐的个股。 本周市场继续回调,全周上证指数跌1.34%,收于3168.52点;深证成指跌1.02%,创业板指跌2.02%。 盘面上,申万...2025-01-12 10:33 -
佛山力争5年内让理工硕士教师成中小学科学课标配
《佛山市全国中小学科学教育实验区建设实施方案》出台 羊城晚报全媒体记者李婷婷通讯员王蓉丹 创新教学模式、培养和提升科学教育师资……1月8日,记者从佛山市教育...2025-01-12 09:05 -
罗氏诊断中国荣获2025《商业周刊》彭博绿金中国ESG50榜单“领军企业
近日,2025《商业周刊》彭博绿金中国ESG50最值得关注榜单(以下简称“彭博绿金ESG50榜单”)正式揭晓,罗氏诊断中国凭借其全面的可持续发展战略、创新的实践...2025-01-12 07:09
最新
图文
-
德国统计局表示,今年第一季度进口电动汽车中,中国生产的汽车占比28.2%,排名第二。在进口国家中,中国超过了韩国。这比去...[详情]
-
初夏悄然而至,正是出游好时节。这不,正适合跟着斯柯达柯迪亚克、明锐Pro前往美丽鹭岛,开启一场海滨之旅。好时节又逢理想“...[详情]
-
行至巅峰,也向山海。5月25日,在世界最高峰——珠穆朗玛峰下,通过长安马自达官方直播间和浙江卫视频道和Z视介平台,“山系...[详情]
-
近日,北美年度风云车(简称NACTOY)公布了2023年度汽车名单。其中起亚纯电动汽车EV6荣获NACTOY评审团授予的...[详情]
-
对于汽车厂家来说,紧凑型SUV市场是必争之地。不管是中国品牌,还是合资对手,都将这块市场视为“一...[详情]
-
车评观察《车评社》前言:作为自主一线豪华品牌,红旗汽车在国内市场的环境可谓是强敌环伺,但即便如此...[详情]
-
回首2022年,新能源汽车市场可谓炙手可热。在这条快速成长的轨道上,各路车企纷纷抢滩登陆,在市场中抢占先机。伴随着竞争愈...[详情]
-
今日,极氪智能科技旗下全球首款原生纯电豪华MPV极氪009如期开启交付。首批用户在北京、上海、杭州、南京等城市的极氪交付...[详情]