关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者209人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

不只具身智能和AI,2026年的热门风口有哪些?

BT财经 浏览 63

出手创个人赛季新高!莱昂纳德22中9&三分8中4 拿到25分4板4助2断

直播吧 浏览 574

户外赛道竞速,坦博尔、伯希和冲刺港股突围

斑马消费 浏览 1130

前维罗纳队长:图多尔有时很严厉,但比想象中更通情达理

懂球帝 浏览 294

夏天衣服没有必要买太多,试试“一衣多穿”,实用耐看又舒适

静儿时尚达人 浏览 281

科技大佬话AI未来:手机消失、工作消失、全民富有?

帮宁工作室 浏览 96

以总理办公室:内塔尼亚胡28日将启程访美

上观新闻 浏览 108

莫雷托:那不勒斯曾2500万欧求购&4队想租借,米兰不放A-希门尼斯

直播吧 浏览 340

在普度寺,倾听BALMAIN八十年来的的呼吸

时尚COSMO 浏览 229

阿里正把自己装进赛博分身

虎嗅APP 浏览 1816

国信策略:抢占科技发展制高点

网易财经 浏览 576

辛芷蕾拿影后是 “靠运作”?央视都看不下去,为她发声真解气!

娱乐圈笔娱君 浏览 194

印度双响炮!坠机塌桥献礼”迪,摔出世界纪录

浏览 418

2025 年,开发者如何抓住 AI 这波「开门红」

极客公园 浏览 553

恩里克:登贝莱得流感了所以没来,我们已习惯这赛季没有他

懂球帝 浏览 143

人道局势持续恶化 加沙停火能否进入第二阶段尚存变数

国际在线 浏览 104

突发!特斯拉美国要求禁用中国产零部件;离谱!曝多益网络创始人有300个孩子,公司回应;苹果CEO库克被曝或于明年卸任丨雷峰早报

雷峰网 浏览 169

现降至23.98万,路虎揽胜极光L,能抄底了?

优视汽车 浏览 355

张馨予医院打吊水!自曝体重降到100斤体质变差

韩小娱 浏览 76

致态 TiPlus 7100s 固态硬盘发布:长江存储新一代颗粒,659 元起

IT之家 浏览 169

邮报:法布雷加斯和特里不在切尔西新帅候选名单上

懂球帝 浏览 103
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4