关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者769人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

涉结束俄乌冲突 美媒披露"12点方案"

环球网资讯 浏览 862

朱松玮27+4&曾凌铉三分9中9,北控战福建国内球员双双爆发

懂球帝 浏览 728

法尔克:作为升班马,对阵曼联时拿到一分始终是个不错的结果

懂球帝 浏览 757

美股反弹!纳指收涨2.21%,黄金、白银期货飙涨创历史新高

中新经纬 浏览 1909

法拉利战略转型,电动跃马如何取悦中国用户

桑之未 浏览 865

新一代理想L9电池加码体型加大 重夺高端话语权

网易汽车 浏览 790

罗马诺:鲍勃转会富勒姆谈判进最后阶段,曼城坚持要3500万镑

懂球帝 浏览 748

瘦女淡饭,害女不浅

她刊 浏览 74

生日夜刷纪录!杰约43+11+9比肩詹皇 美媒:无法想象他能如此出色

颜小白的篮球梦 浏览 811

小伙河边散步跌落砂石坑溺水双重伤残 家属索赔271万

大风新闻 浏览 949

《生万物》老戏骨撑起全场,演技一个比一个炸裂!

电和影 浏览 1009

具俊晔搬入金宝山附近的新别墅,可以遥望大S的墓园

素素娱乐 浏览 767

关键时刻委少将为美军"敞开大门" 美压制委军手段披露

澎湃新闻 浏览 778

力挺法老!紫菜蛋花兔发声了!

嘻笑堂 浏览 1261

华为智驾性价比王者 阿维塔07 Pro+售21.99万起

网易汽车 浏览 1246

盛大阅兵倒计时9天 80秒回顾三次综合演练画面

央视新闻客户端 浏览 872

避免引发恐慌 中东多国收紧社媒敏感信息管控

环球网资讯 浏览 683

60岁美上热搜的张曼玉,又给我们上了美的一课

LinkFashion 浏览 1007

4岁女童20楼坠至13楼被业主拽住 邻居们接力苦撑4分钟

极目新闻 浏览 1099

一件高定卖300万,客户究竟在买什么?

时尚COSMO 浏览 1120

美陆军部长抵达阿联酋首都 与俄“秘密会谈”

环球网资讯 浏览 847
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4