关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者879人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

江苏88-84逆转天津获赛季首胜,庞峥麟34分,贾尔斯25+13

懂球帝 浏览 903

升第三!深圳双杀山西11连胜创队史纪录 王浩然33分生涯新高

醉卧浮生 浏览 782

法尔肯:德保罗来迈阿密国际?他与梅西友谊深厚,对我们帮助很大

直播吧 浏览 1241

吉利银河 A7 逆袭称王 单周狂甩 4195 辆

大象新闻 浏览 1134

零下30度,续航1500公里!奇瑞固态电池车要来了

象视汽车 浏览 873

港科大突破:代码本技术提升AI医学图像分析稳定性

科技行者 浏览 875

华为手机星闪车钥匙在鸿蒙 6 系统落地,适配尊界、享界部分车型

IT之家 浏览 1033

21.99万起 极狐问道V9开启预售 定义东方科技旗舰MPV新标准

网易汽车 浏览 733

A股三家HPV疫苗公司业绩齐降,市场“蓝海”变“红海”,专家:需要降价争夺人群

红星资本局 浏览 2200

7万级方盒子,后独悬+Flyme Auto,吉利牛仔不讲武德

盖世汽车 浏览 718

文班亚昕就这?前三节仅1分末节刷到7分 生日夜仍被杜锋战略冰封

颜小白的篮球梦 浏览 941

利润激增200%,半导体巨头,护城河太深!

飞鲸投研 浏览 1670

美军工企业发布新款防空导弹 在美国媒体上掀起热潮

枢密院十号 浏览 211

小米手表5灰度OS3.0.152.0版本,带来表端独立微信版本更新等

IT之家 浏览 875

郭敬明太爱用风险艺人!吸毒的、偷税的、进监狱的,埋了好几部戏

萌神木木 浏览 923

预计2026年正式发布 全新现代i20渲染图曝光

车质网 浏览 1068

奔四奔五的女人,冬日掌握了这些穿搭宝典,才能优雅不冻人

静儿时尚达人 浏览 941

媒体:美伊谈妥 备忘录草案中有一个数字格外引人注意

中国新闻周刊 浏览 622

斯基拉:那不勒斯预计近期与梅努经纪人进行新的直接会谈

懂球帝 浏览 916

黄晓明刚带娃去过,Angelababy后脚也来了?

今古深日报 浏览 738

白俄总统:俄方"完全赞成"空中停火 只要乌停止空袭

财联社 浏览 1065
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4