关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者255人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

罗马诺:皇家奥维耶多将免签佛罗伦萨前锋布雷卡洛,Here we go!

直播吧 浏览 339

碧桂园高层调整!联席主席及总裁变更,债务重组有大进展

券商中国 浏览 5111

上海药物所突破:AI滤波器精准筛选神经系统疾病新药

科技行者 浏览 132

乌克兰袭击莫斯科一座热电站 距克宫仅百余公里

上观新闻 浏览 234

大型文化纪实纪录片《因为长江》定档10月27日

安徽博物院 浏览 293

60+女性穿搭“高级感”秘诀:4个日常技巧,轻松美出优雅气质

静儿时尚达人 浏览 149

已减重10公斤的泫雅澳门演出晕倒后公开致歉

封面新闻 浏览 226

切尔西近10年共经历10任教练,图赫尔冠军最多,孔蒂任期最长

懂球帝 浏览 147

一加 15 /Ace 6 适配《金铲铲之战》原生 165 超高帧模式

IT之家 浏览 242

美媒无法理解:油价这么高 进口最多的中国反而更滋润

书纪文谭 浏览 40

业主84万元新房被粪水环绕 管道一天直排粪水10余次

潇湘晨报 浏览 151

女生因"不当行为"被实名公告拟开除 校方涉嫌侵犯隐私

封面新闻 浏览 567

钱天一国乒第1美女,见男友家长好事将近

二疯说球 浏览 283

广安爱众0元收购一新能源发电公司90%股权

红星资本局 浏览 11635

工作“牵头”,沉默的靶心!

识局 浏览 1038

大疆 DJI Mini 5 Pro 无人机宣传物料曝光:1 英寸传感器

IT之家 浏览 338

停火协议失效?一觉醒来中东再次开打

浏览 452

俄黑海港口设施遭袭,乌军证实实施火力打击

潇湘晨报 浏览 273

货车司机在高速服务区猝死 妻子:跑车4个月只回家2次

红星新闻 浏览 232

星光伴我心,不朽迷影佳作今晚点亮大银幕!

幕味儿 浏览 205

中国最北端宜家即将闭店 东三省仅剩辽宁有宜家可逛

极目新闻 浏览 174
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4