关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者483人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

特朗普:我若遭到暗杀 美国将把伊朗“从地球上抹去”

扬子晚报 浏览 329

德黑兰上空传出爆炸声 以色列回应

央视新闻客户端 浏览 191

前桑德兰队友:阿马德和我在场上很默契,未来他还会更出色

懂球帝 浏览 251

中金公司出席第19届亚洲金融论坛,以国际化投行实力融通世界

时代周报 浏览 1037

乌克兰:大量哥伦比亚人参与对俄作战

每日经济新闻 浏览 450

和马蓉离婚9年后,自己的一双儿女开始为他争光了

TVB的四小花 浏览 579

再见了卡梅隆,再见了《阿凡达3》,中国观众别再被骗了

娱乐圈笔娱君 浏览 390

拆解重庆农商行2025年财报:对公发力促增长,零售战略受挫

Daily每日财报 浏览 6356

杨瀚森NBA生涯季后赛首胜:全场遭弃用躺赢 回主场后能否登场?

醉卧浮生 浏览 210

夏天的白裙,可以像赫本那样穿

Yuki女人故事 浏览 193

福建舰常驻地为三亚军港

人民网-人民日报 浏览 474

今日热点:许光汉否认和周子瑜恋情;郝熠然与诚实一口终止合作……

伊周潮流 浏览 264

伊姐周六热推:电视剧《不眠日》;电视剧《照镜辞》......

伊周潮流 浏览 535

越来越流行的松弛感穿搭,照着穿就很好看

LinkFashion 浏览 239

小米杠上奇瑞,争夺高强度钢第一!理想高管吐槽“都是键盘值”

明镜pro 浏览 337

记者:尽管与热刺和切尔西传出绯闻,但托尼1月不会返回英超

懂球帝 浏览 517

赵露思的任性退博与退出娱乐圈

孟一宜 浏览 692

懂穿搭的女人,把“卫衣”收进衣柜,这3件单品才是时髦密码

静儿时尚达人 浏览 516

什么?!你告诉我佘诗曼已经50岁了

时尚COSMO 浏览 422

父亲脑血栓瘫痪儿子正叛逆 母亲又气又痛告知儿子身世

红星新闻 浏览 210

异军突起!周四与特朗普会面顺利,贝莱德的里德尔竞选美联储主席呼声渐起

华尔街见闻官方 浏览 1260
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4