大模型兴起导致算力紧张?专家呼吁:国产AI芯片系统应练好“内功”
大模型兴起导致算力紧张?专家呼吁——
国产AI芯片系统应练好“内功”
“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
加强底层研发,提升国产AI芯片“包容力”
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
共建基础生态,推动现有算力融合创新
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
推荐
-
闵行试点“家庭养老床位”,“随申办”上可量身定制
父母在家养老,自己又无法照顾;想找人照顾,又怕专业度不够;老人术后回家,需要专业的上门康复护理——这些服务哪里找?闵行区推出付费可享受、价格可承受、质量有保障、...2023-12-23 19:57 -
为乡村青少年开启信息金融时代大门星展银行捐款百万推动城乡社区发展
在当今充满挑战的时代,越来越多的货币交易正在以数字方式进行,因此具备金融知识并通过适当的工具来做出审慎的财务决策变得至关重要。新时期的青少年被称为“数字原住民”...2023-12-23 19:05 -
股价暴跌之后,格力电器凌晨发布业绩预告:净利预增超10%
在股价暴跌7%后,格力电器急了,12月21日凌晨发布了对外投资的补充公告,并甩出了2023年全年业绩预告。 格力电器称,2023年全年预计实现营业总收入在...2023-12-23 17:01 -
经济与产业周期加速回归带来创业板配置机遇期指数体系日益完善相关ETF产品
12月21日,创业板指低开高走,盘中涨幅一度超2%,截至收盘,指数上涨1.65%,报收1832.62点。与此同时,跟踪创业板指的ETF产品持续获得市场关注,资金...2023-12-23 15:46 -
河南妈妈赶到积石山临时安置点义剪,一份力量温暖万家
12月21日,在本次地震受灾严重的积石山县大河家镇临时安置点内,来自河南的刘荣胜带着妈妈王琴为群众义务理发。 地震发生时,刘荣胜正带着母亲在成都自驾游,看到地...2023-12-23 14:40
最新
图文
-
德国统计局表示,今年第一季度进口电动汽车中,中国生产的汽车占比28.2%,排名第二。在进口国家中,中国超过了韩国。这比去...[详情]
-
初夏悄然而至,正是出游好时节。这不,正适合跟着斯柯达柯迪亚克、明锐Pro前往美丽鹭岛,开启一场海滨之旅。好时节又逢理想“...[详情]
-
行至巅峰,也向山海。5月25日,在世界最高峰——珠穆朗玛峰下,通过长安马自达官方直播间和浙江卫视频道和Z视介平台,“山系...[详情]
-
近日,北美年度风云车(简称NACTOY)公布了2023年度汽车名单。其中起亚纯电动汽车EV6荣获NACTOY评审团授予的...[详情]
-
对于汽车厂家来说,紧凑型SUV市场是必争之地。不管是中国品牌,还是合资对手,都将这块市场视为“一...[详情]
-
车评观察《车评社》前言:作为自主一线豪华品牌,红旗汽车在国内市场的环境可谓是强敌环伺,但即便如此...[详情]
-
回首2022年,新能源汽车市场可谓炙手可热。在这条快速成长的轨道上,各路车企纷纷抢滩登陆,在市场中抢占先机。伴随着竞争愈...[详情]
-
今日,极氪智能科技旗下全球首款原生纯电豪华MPV极氪009如期开启交付。首批用户在北京、上海、杭州、南京等城市的极氪交付...[详情]