关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者369人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

AI让机器写代码变得更聪明:伊利诺伊大学团队破解训练瓶颈新方法

科技行者 浏览 370

国米官方:博尼左膝轻微扭伤,将在下周接受进一步评估

懂球帝 浏览 285

百年同仁堂,怎么成了中药界的“南极人”?

花朵财经 浏览 1100

华为路由 12 月升级 HarmonyOS 6 系统,支持 AI 绿色上网 2.0

IT之家 浏览 350

任素汐传2年婚姻1年出轨,她凭什么被原谅

赏心悦目的我 浏览 105

明抢!中国企业147亿半导体资产被荷兰政府冻结,CEO被停职;小米第三款车YU9多张实车谍照曝光;美团外卖骑手能屏蔽顾客了丨雷峰早报

雷峰网 浏览 406

去年的今天:辽宁将郭艾伦的顶薪独家签约权正式转让给广州

直播吧 浏览 488

蔡康永发文缅怀大S,说大S应该被好好疼爱的

素素娱乐 浏览 200

结构性货币政策工具扩容 降准降息可期

北京商报 浏览 2009

每体:加维可能随巴萨前往沙特,为参加西超杯队友加油助威

懂球帝 浏览 234

她说“友谊万岁”的这个夜晚,揽胜已经等了五十六年

禾颜阅车 浏览 115

罗德里:我不是梅西,不能一回来就让球队不断赢球

懂球帝 浏览 467

古美关系高度紧张 古巴启动"战争状态"

扬子晚报 浏览 221

生育津贴直接发放至个人 这些地方已实现

央视财经 浏览 1353

全新奥迪A6L实车:外观大变样轴距超3米,带智能辅助驾驶小蓝灯?

Nice好车 浏览 376

79元“结婚套餐”爆发!餐企巨头纷纷盯上“小宴会”

餐饮老板内参 浏览 989

数百美军从卡塔尔的基地撤离 五角大楼认为战争或持续超12天

极目新闻 浏览 215

小米汽车李肖爽回应 YU7 被要求下线 7 天内付尾款:会认真对待

IT之家 浏览 455

寻找隐形冠军|意想不到的它

海外网 浏览 236

AI抢产能、车厂抢内存,这场博弈中国车企如何破局?

百姓评车 浏览 247

船员在公海杀同事6个月后跳海潜逃 中国海警跨境捉拿

扬子晚报 浏览 389
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4