关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者368人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

拯救“衰老”,这么护肤才有效率!

时尚COSMO 浏览 285

连发三个公告,意味深长

博闻财经 浏览 706

霍启山晒C罗合影!年过40越来越帅,被家族重用

勺哥乡村味道 浏览 506

ESPN:德容已与巴萨就续约达成协议,他的薪水将降低

懂球帝 浏览 377

KTV消亡史:卡拉还O不OK了?

时尚COSMO 浏览 514

保时捷纯电卡宴即将首发,PPE平台打造

车评网 浏览 343

“9系”旗舰+1 上汽大众的战略反攻

网易汽车 浏览 245

闪电快讯|2026款比亚迪宋Pro DM-i上市,纯电续航提升至220km

电厂 浏览 252

穿真丝的女人,挺时髦!

Yuki女人故事 浏览 31

春节档后的票房冠军,居然是她

独立鱼 浏览 802

韩磊出轨风波更多细节曝光!患上糖尿病遭小三嫌弃,谈了10年分手

萌神木木 浏览 504

小麦身价下跌,德转:仅靠稳定发挥不足以维持高身价,且已29岁

懂球帝 浏览 270

合富中国的六连板“泡沫”

北京商报 浏览 1185

“玛丽珍鞋”今年秋天爆火!这5双怎么搭都好看

LinkFashion 浏览 476

单眼皮、矮个子、微胖,停止焦虑!普通女孩的美丽指南请收好

Yuki女人故事 浏览 280

2架美军机在南海相继坠毁 原因正在调查中

界面新闻 浏览 375

丰田连续第八届参展进博会,全面展示本地化成果

观察者网 浏览 353

徐艺洋机场被偶遇,生图五官优越有星味

往史过眼云烟 浏览 246

特朗普:“国际部队”将进驻加沙地带

每日经济新闻 浏览 348

北汽集团10月整车销量160133辆 同比增长11%

网易汽车 浏览 370

影响巨大,这是中国电影英雄叙事的绝佳典范

幕味儿 浏览 494
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4