关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者710人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

斯基拉:萨索洛换帅考虑米兰旧将阿巴特

懂球帝 浏览 460

今年冬天一定要拥有这4件“大衣服”,松弛又好看!

LinkFashion 浏览 652

荣耀林林:整个行业成本趋势非常恶劣,二手机不排除会涨价

IT之家 浏览 622

50+女人快跳出“扮嫩”误区,学会4个技巧,就能穿出高级

静儿时尚达人 浏览 666

美国想打造联合国替代机构 该机构章程透露关键信息

上观新闻 浏览 605

江南分馆新增导演惊喜交流,明日中午开票!

幕味儿 浏览 529

“2025全球十大工程成就”揭晓,DeepSeek开源大模型等上榜

上观新闻 浏览 765

安切洛蒂:现在出现问题并及时修正,总比在世界杯时出错要好

懂球帝 浏览 730

伊姐周日热推:电视剧《看得见风景的窗》;电视剧《春日狂热》......

伊周潮流 浏览 649

这「禁欲」男神天花板,太顶了

独立鱼 浏览 818

岚图发布智能超混800V技术 新梦想家/追光L下半年上市

网易汽车 浏览 894

押宝华望,广汽背水一战

青橙汽车 浏览 944

特朗普称批准韩国建造核潜艇

澎湃新闻 浏览 677

法式浪漫与极致速度 Venturi 400超跑传奇

老爷车 浏览 916

从万人偶像到幕后导演:赖冠霖的叛逆转身,撕开了内娱多少虚假?

黄色的泥土 浏览 593

谁是中国第一吐槽役?

仙女事件簿 浏览 776

媒体:马克龙戴墨镜出席达沃斯 说的话不给特朗普面子

新民周刊 浏览 665

普京称俄军越过库尔斯克地区俄乌边界 乌方否认

每日经济新闻 浏览 1147

Unity 中国官宣与零跑汽车合作,打造下一代智能座舱交互体验

IT之家 浏览 761

死磕影像十一年:vivo探索另一种可能

远川研究所 浏览 708

大S尸骨未寒,S家将大战“汪汪队”,疑似亲爸后妈撇下孩子返京

不八卦会死星人 浏览 1092
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4