我的网站最新发布:Chegg and SEEDS distributes nutrition kits to Delhi school students R. Kelly Slapped With 30-Year Prison Sentence Over Sex Trafficking, Racketeering Charges 《天龙八部·归来》七夕白蛇联动今日上线 送价值20万元宝黄金之心 东契奇只效力过2支球队 已经经历五任老板 Hamid urges Brunei Sultan to recruit more manpower from Bangladesh 先领教了歼-10C,又见识了歼-16,埃及空军恐怕会对F-16V失去兴趣,锋芒点兵,原创 先领教了歼-10C,又见识了歼-16,埃及空军恐怕会对F-16V失去兴趣

steam

超节点、超集群、TPU方案涌现 算力“拼系统”时代产业最关心Token性价比|WAIC观察_我的网站

夜行书生

A |     财联社7月21日讯(记者 付静)“我们真正关注的是Token性价比:在保证模型效果和服务质量的前提下,以更低的综合成本生成更多高质量Token。    

【文/观察者网 熊超然】当地时间5月9日,阿根廷迎来了自现任总统米莱上任以来的第二次全国大罢工,涉及到交通运输行业,这加大了其领导的政府在国会所面临到的巨大考验和压力。

B | ”2026世界人工智能大会(WAIC)期间,云天励飞-U(688343.SH)方面在接受财联社记者采访时表示。

彭博社报道称,由于当天火车、地铁和数条公交线路计划停运24小时,导致首都布宜诺斯艾利斯市区陷入瘫痪状态,还有约9.3万名乘坐航班的乘客也受到影响。         当下,模型层面训推规模迈向万卡,应用侧C端多款智能体涌现,AI进化为生产生活“搭子”,B端的人工智能真实场景落地也在加速。报道指出,在阿根廷近代史上,没有哪一位总统在上任之初就遭遇如此大规模的两次“打击”,尽管米莱在国外正受到马斯克和斯坦利·德鲁肯米勒(Stanley Druckenmiller)等亿万富翁投资者的赞誉,但公众在国内却对他极为不满。
今年1月24日,在米莱上台执政的第46天,阿根廷就迎来了12小时的全国性罢工,打破该国两项纪录——这是阿根廷自1983年民主政体巩固以来历届总统任内最快出现的罢工,也是阿根廷2019年来的首次全国性罢工。在这些需求的带动下,产业链频频传递出“算力供不应求”信号。         财联社记者多方采访获悉,算力进入“拼系统”时代,构建超节点、超集群已经成为主流做法,且收获了下游各行业的积极反应。
彭博社指出,而与1月的第一次全国罢工相比,此次全国罢工所引发的风险更高。现阶段,米莱已经改变了他的立法策略,与温和的政治集团妥协,同所谓“支持对话”的反对派进行谈判,而不是用最初通过法令推动改革的方法,绕过他经常抨击的政治阶层。
自去年12月上任以来,米莱提出的以“休克疗法”为核心的一系列口号和措施引发外界关注,他提出货币美元化、放松市场管制和紧缩措施来修复经济并抑制通货膨胀。但在“朝小野大”的国会政治现实下,米莱的改革计划推进艰难。与此同时,TPU路线正在同步发力,华东地区首座国产TPU千卡智算集群已经落成。

C |

当地时间3月14日,阿根廷参议院投票否决了总统米莱签署的一项旨在放松经济管制的法令。多种方案涌现背后,产业最关心的则是Token性价比。

D |          “超节点是未来几年重点方向” 下游已给出积极反应          WAIC期间,华为昇腾950超节点(Atlas 950 SuperPoD)真机、超节点集群Atlas 950 SuperCluster、首个全国产十万卡AI超集群曙光8000(登峰)真机、燧原科技与中兴通讯(000063.SZ)联合打造的正交架构方案“云燧ESL64-O”超节点、阿里云磐久AL128超节点服务器、沐曦股份-U(688802.SH)新一代AI超节点曦景S600、摩尔线程-U(688795.SH)MTT C256超节点、壁仞科技(06082.HK)分布式解耦架构超节点方案、百度智能云超节点“天池”等格外吸睛。         华为昇腾950超节点 图片来源:财联社记者/摄          “云燧 ESL64-O”超节点 图片来源:受访者供图          中兴超节点方案 图片来源:受访者供图          中国电子云则发布了自研的翎枢6020轻量型、翎枢6032平衡型、翎枢6064性能型三款超节点产品。

E | 舆论普遍认为,在挽救国内经济议程上,米莱遭受到了历史性的重大打击。彭博社称,这标志着米莱的“第一剂休克疗法濒临崩溃”。

F |          中国电子信息产业集团有限公司首席科学家、中国电子云总工程师朱国平介绍,翎枢超节点将千百张GPU融合为单一逻辑超级单卡,通过Tbps级超高带宽、百纳秒级超低时延、统一内存编址提升算力释放效率。

G |

报道称,此后,米莱最重要的一项亲商措施立法于4月在众议院获得通过后,将于本月在参议院进行投票。目前,阿根廷强大的工会组织正抵制米莱的改革努力,这一改革将降低公司的遣散费用,并进一步加强他的紧缩计划。翎枢超节点覆盖20-64卡黄金算力区间,相比其他超节点方案,优势在于成本更低、生态开放,可兼容现有风冷、液冷机房。         云天励飞方面也告诉财联社记者,公司未来三年计划推出DeepVerse100P、DeepVerse100D和DeepVerse100L三款芯片,分别针对Prefill、Decode Attention和Decode FFN进行优化,未来在此基础上构建面向万卡异构集群的分离式AI推理基础设施。
与此同时,投资者也正密切关注米莱在国会能否取得进展,将其视为一个“晴雨表”,观察他是否有能力制定一项有利于市场的议程,为阿根廷最终重返国际资本市场铺平道路。自2020年上届政府违约以来,阿根廷尚未在海外发行新债券。         财联社记者采访获悉,产业链下游已对超节点、超集群产品有了积极反应。中科曙光(603019.SH)方面提供的数据显示,曙光8000集群正式上线首周即需求爆满,应用满载运行,目前日均处理作业数突破15万个,单日处理作业峰值超过50万个。截至目前,曙光8000已完成近千项超智融合应用适配,覆盖大模型训练、高通量推理、科学计算等多个万卡级规模场景。
彭博社称,在5月9日的全国罢工爆发之前,阿根廷的经济衰退正在不断加剧,这是由于米莱的政策所造成的,这些政策包括去年12月阿根廷货币贬值54%,以及政府大幅削减开支。         上线后快速满载,意味着科研机构、企业和开发者对超大规模、高质量算力的现实需求正在加速释放,也表明十万卡级算力已开始持续承接更加广泛的科研和产业任务。         据悉,曙光8000采用全球首创的高密度机柜结构,单个计算单元算力密度较其他超节点提升20倍,在有限空间内实现更高算力部署;自研scaleFabric类IB原生RDMA高速互连技术,实现十万卡规模稳定互连。         另据媒体报道,华为昇腾384超节点目前已商用落地750多套,规模应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。         一位算力从业者告诉财联社记者,内部连接是超节点及算力集群发展面临的核心问题。“超节点架构、超节点内部的连接,这可能是我们现在包括未来几年重点(攻克)方向,核心是要解决GPU或TPU之间高速互联的问题,通过交换芯片提供单个节点大容量,比如可以提供64卡、128卡这种超大规模的连接,在这个基础上组建更大的千卡、万卡集群。”          据悉,在AI算力基础设施与数据中心网络架构中,Scale-Up、Scale-Out和Scale-Across分别为三种不同层次的扩展模式:Scale-Up(纵向扩展)聚焦于超节点内部的紧密耦合,Scale-Out(横向扩展)侧重于集群之间的规模扩张,Scale-Across(跨域互联)则致力于数据中心之间的广域协同,旨在打破单数据中心的物理极限。

H | 当地时间5月8日公布的官方数据显示,今年3月阿根廷制造业和建筑业出现了自新冠疫情大流行以来的最大跌幅,这两个行业的雇主预计都将进行裁员。

此外,据阿根廷主流媒体《国民报》(La Nación)当地时间5月7日报道,为简化国内在货币崩溃后使用大量现金的繁琐过程,阿根廷央行宣布新版10000比索纸币正式开始流通。         “Scale-Out相对来说更成熟,Scale-Up的挑战更大,这是我们要重点解决的。
这是目前阿根廷面额最大的货币,此前最大面额为2000比索。按照官方汇率计算,10000比索约合11美元。首批7.7亿张10000比索新钞由阿根廷央行向中国造币印钞集团有限公司(CBPM)订购,几天前刚刚运抵阿根廷。现在单个GPU Scale-Up领域的带宽都达到TB的级别,单交换机的交换容量可能要达到100T以上。解决了这个问题之后,才能组成大规模的集群。大规模集群要为芯片解决的,就是把极限带宽提高。”前述从业者介绍。
近年来,受持续高通膨和严重货币贬值影响,阿根廷发行的纸币面值不断增大。

I | 2016年和2017年,阿根廷先后发行了面额500比索和1000比索的纸币。去年5月开始流通的2000比索纸币,则是在此之前阿根廷市场上最大面额钞票。         财联社记者也从中兴通讯方面获悉,针对AI大模型规模化落地的网络升级要求,其构建的智能算力网络底座,主要聚焦Scale-Out机间网络(优化单集群内部通信效率,实现稳定降本、调优增效)与Scale-Across跨域互联(实现跨数据中心、跨地域的算力资源高效调度)两大核心场景。         TPU路线同步发力 产业最关心Token性价比          除了近几年持续热门的GPU路线,财联社记者还了解到,杭州电信、中兴通讯与中昊芯英联合打造了华东地区(杭州)首座国产TPU千卡智算集群,该集群亦是中国电信体系内首个大规模国产TPU集群部署项目。

J | 随着严重的经济危机爆发,阿根廷比索在过去5年贬值95%,今年3月份的年通胀率高达287%。         “选择做千卡集群而不是万卡集群,是因为我们想把它做成试验田。

K | 我们先把千卡级的软件栈系统集成到千卡集群上,在Token Factory上能提供不错的服务,在服务逐步做透的情况下逐步开展二期、三期。

英国《金融时报》报道称,现金支付在阿根廷仍然是非常常见的支付方式。阿根廷国内经济长期处于不稳定状态,在高通胀和货币严重贬值的背景下,许多零售商更倾向于立即收到现金。因此,即便是支付小额款项,阿根廷人也不得不携带大把钞票,而在支付大额款项时,更是不得不背一大包纸钞出门。未来,我们也希望逐步从千卡向万卡集群迈进,在万卡集群上运行国产模型的训练推理,而且满足所有商用需求所需要的性价比。”中昊芯英创始人、CEO杨龚轶凡告诉财联社记者。

L |          谈及GPU与TPU两条路线如何选择,中国电信杭州分公司智算中心总经理王良表示,“并不见得每个芯片都是全能选手,不同芯片在不同场景下有独特的长处,比如TPU擅长做张量运算,我们评估推理能力是TPU的长处。

M | ”          王良还介绍,“上述TPU千卡集群落地后运行得很好,尤其是今年的Token风口起来以后,市场上对Token的需求量很大。

N | 最近(我们)和中昊芯英测试完PD分离,这一技术把TPU的优势进一步放大,已经比较满足当初的设计目标。

阿根廷央行还表示,面额为20000比索的纸币,也将于今年年底开始流通。”          据悉,该集群基于“泰则®”智算平台构建,将面向大模型训练、AI推理、科学计算等场景提供全自主算力支撑,该集群二期规划今年9月上线投产。

o |

。“          王良进一步谈到,调优将是一项非常重要的工作。他介绍,“现在所有的大模型厂商、芯片厂商,都是拿出百米冲刺的速度在跑马拉松,芯片厂商每年都会发布一个新版本,而大模型厂商每个季度都会发一个新版本,这里面的适配工作量是很大的。我们在持续的调优工作中发现,从年初到现在,TPU集群通过调优实现了超过10倍的效率提升。原来每百万Token的成本如果是100元,现在就差不多能降到10元以下。

p | ”          WAIC期间,多位受访的算力产业人士均谈及了Token成本问题。         对于模型厂商、AI应用企业和算力运营方而言,真正影响商业化效率的是在一定时间和成本条件下,能够稳定生成多少有效Token。         财联社记者另从AI基础设施及智算云提供商九章云极方面了解到,AI从技术竞赛迈向规模交付,主要面临四个核心卡点:算力成本高企、多芯片计价割裂、GPU利用率困于30%红线、研发缺乏标准化体系。         据悉,九章智算云在全球范围内已部署12个数据中心,算力总规模约22 EFLOPS,配备6600余张GPU卡,具备日产64亿词元(Token)的生产能力。从产出量看,DeepSeek-V4是当前产出最大的模型,日产24.5亿TOKEN,占比38%,随后依次为KIMI 2.5、Qwen-3.5、GLM-5、MiniMax-2.5。其弹性算力体系,已使得某头部模型厂商的项目综合成本最高节省了82.1%。         云天励飞方面则告诉财联社记者,降低Token成本是一项系统工程,从底层的IP、EDA、芯片设计和封装测试,到服务器、互联、软件栈和算力平台,再到模型及应用,各环节都会影响最终的Token生成效率。         据了解,目前国内主流大模型的公开API价格已明显分层。根据不同模型能力和服务方式,常规文本模型的输入价格大致为每百万Token几角钱至十余元,输出价格大致为每百万Token一两元至数十元。         “现在的问题不是将百万Token成本价格从2毛降到1毛,更多的是提升Token价值,这是算力基建和模型要协力解决的问题。如果价值的问题可以解决,定价2块或10块大家都不觉得贵。”前述算力从业者也表示。         (财联社记者 付静)。

Current article:http://40z9al.gamajionghuanmuniuzhuanguchu.cyou/16gq/4ciu80.html

Published on:11:27:14


上一篇:黑龙江省:助力初创企业找准定位、少走弯路、稳健成长 下一篇:“民政惠民生 福彩龙江行”2026年首场公益宣传活动在林都伊春启幕

我的网站相关阅读