关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者861人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

顶层设计领航!证券业年度答卷、阅评来了

券商中国 浏览 10726

马斯克宣布脑机接口将量产,特斯拉自动驾驶挑战引发安全质疑

红星新闻 浏览 766

有了AI,课堂如何“教”与“学”?

看看新闻Knews 浏览 919

新年第一顶帽子,就要不基础

时尚COSMO 浏览 740

百亿之后,珀莱雅失速

斑马消费 浏览 1331

七夕焕新玫瑰摩卡 东风日产N7成都车展带来新车色

网易汽车 浏览 991

以军称地面攻势要打数月 以防长:加沙正在燃烧

新华社 浏览 982

美乌4小时会谈细节披露 特朗普发声

新华社 浏览 875

今日最难得,我们十一周年啦!

黎贝卡的异想世界 浏览 964

夏天衣服不要太单一,试试绿色上衣、裙子,养眼高级又显活力

静儿时尚达人 浏览 520

让多图对话AI不再"搞混":首尔多所大学发现分隔符背后的秘密

科技行者 浏览 728

伊姐周六热推:电视剧《勿扰飞升》;电视剧《他为什么依然单身》......

伊周潮流 浏览 889

董忠云:保持战略定力,增强必胜信心,A股有望恢复震荡上行趋势

首席经济学家论坛 浏览 1995

委专家:马杜罗戴着镣铐受审 新的政治现实在委已出现

中国新闻周刊 浏览 790

官方:莱比锡边锋埃尔马斯租借回归那不勒斯,后者可选择买断

直播吧 浏览 993

上田绮世:踢比赛容易紧张;和日本球员吃饭常聊彼此欧冠情况

懂球帝 浏览 1093

真爱大牌|| 捡到大漏了!近两年用得最勤的好物居然只要这个价

黎贝卡的异想世界 浏览 365

美媒披露普京停火条件:基辅必须彻底放弃顿涅茨克

参考消息 浏览 848

美媒披露:美空军8天内向中东地区调派至少42架重型运输机

环球网 浏览 807

国家禁止亏本卖车,价格战就能不打了?

汽车公社 浏览 803

聚焦AI,深圳国际电子展暨嵌入式展elexcon开幕

第一财经资讯 浏览 1031
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4