关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者367人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

动力系统升级 新款方程豹豹5谍照曝光

车质网 浏览 431

万倍GDP跃迁奇迹:深圳如何破译中国经济的“三重密码”?

智谷趋势 浏览 2147

宝马将采取油电并存策略,董事会成员高乐称“内燃机永不会消失”

IT之家 浏览 410

烂番茄68%,《阿凡达2》导演的套路失灵了

瓜农娟姐 浏览 307

女人“优雅到老”并不难,别随便穿衣,这4个方法真的超实用

静儿时尚达人 浏览 564

多个品牌双11集体上调金价 每克已破1300元

潇湘晨报 浏览 289

特朗普呼吁立即停火 遭俄方坚决驳斥

财联社 浏览 393

国家医保局:职工医保个人账户跨省共济今年全国覆盖

商业观察杂志社 浏览 7765

普京公开重要情报:全国人民都该了解

环球时报新闻 浏览 360

23万粉丝博主为百色抗洪捐1分钱惹争议 本人回应

极目新闻 浏览 374

英国教授来中国考察被震撼:堪称人类史上最伟大功绩

环球时报国际 浏览 51

国产北斗守护世界最高坝,这家地区总部位于松江的企业攻克极限监测难题

上观新闻 浏览 17

阿尔特塔:厄德高和因卡皮耶身体状况不足以进入替补,好在有萨卡

直播吧 浏览 393

阿维塔上市、深蓝融资 长安两大自主板块剧变

道哥说车 浏览 331

天空记者:阿森纳的冬窗会相对平静,他们想在夏季完成交易

懂球帝 浏览 274

中国核聚变技术获国际原子能机构肯定,“环流三号”亮相聚变能国际大会

上观新闻 浏览 365

岚图泰山将于11月上市 4颗激光雷达加持/还有后轮转向

网易汽车 浏览 390

美军猛烈轰炸后 特朗普暗示或发起"踩红线"打击

界面新闻 浏览 156

外套真的没有必要买太多,准备这几件大衣就足够,简单耐穿又百搭

静儿时尚达人 浏览 144

外卖小哥认识美籍幼师5个月闪婚:在电梯里一见钟情

潇湘晨报 浏览 519

美国父亲在家喝酒将2岁女儿留车内致身亡 入狱前自杀

红星新闻 浏览 368
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4