关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者659人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

《四喜》的妈圈生存指南:没有全福,只有幸存

仙女事件簿 浏览 682

法德将就核威慑问题启动高级别战略对话

国际在线 浏览 785

35岁郑爽近照曝光!脸部又僵又肿网友直呼认不出,彻底成了素人

萌神木木 浏览 568

巴基斯坦总理:预计美伊协议将在24小时内敲定

封面新闻 浏览 312

直播|| 降温天的居家幸福感,是它们给的

黎贝卡的异想世界 浏览 649

男子去理发结果给店家投40多万 自称不好意思拒绝别人

极目新闻 浏览 711

彻底清零 缅甸官宣KK园区635栋涉赌诈建筑已全数炸毁

看看新闻Knews 浏览 635

法尔克:对没拿到三分有些失望,但对曼联拿到一分也是不错的

懂球帝 浏览 559

“躺赚”的企查查,是个苦生意?

定焦One 浏览 930

日本开年密集外交搞了不少小动作 引发地区国家警惕

澎湃新闻 浏览 504

男子每天坐高铁去北京上班 往返6小时每月花4000元

极目新闻 浏览 874

俄美领导人会晤为何被“推迟” 俄外长披露原因

每日经济新闻 浏览 669

港中深突破:AI推理模型实现自我纠错能力

科技行者 浏览 745

皮尔斯:詹姆斯有着大前锋身材&后卫打法 他身材和大本一样

直播吧 浏览 723

丑到离谱的牛马鞋,新中产抢疯了

她刊 浏览 368

美国安局利用境外品牌手机 网攻中国国家授时中心

央视新闻 浏览 675

特朗普:我不知道还能活多久 很多人都想置我于死地

扬子晚报 浏览 503

海南"零关税"豪车引热议 保时捷卡宴鲜有符合要求车型

每日经济新闻 浏览 583

陕西夫妇在赞比亚遇害被发现 所雇当地员工有重大嫌疑

极目新闻 浏览 537

【英超】德利赫特头球绝平 曼联2比2客平热刺

体坛周报 浏览 643

夏天衣服不用买贵的,准备这几款T恤,百搭舒适有性价比

静儿时尚达人 浏览 179
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4