关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者71人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

郭晓冬夫妇赶农村大集!程莉莎啃鸡腿不忘撒娇

裕丰娱间说 浏览 62

尊界S800申报图 提供更多车身配色/上半年上市

网易汽车 浏览 519

马筱梅首晒孕肚状态绝佳,新生儿性别已暗示,汪小菲家将有新成员

不八卦会死星人 浏览 94

这件衣服今年太火了!时髦女人都在穿

LinkFashion 浏览 239

台湾歌手千百惠因病离世 享年62岁

极目新闻 浏览 375

或叫欧拉5?欧拉全新SUV要来了!

车叫兽 浏览 260

浙江杭州:外籍人士探跨境电商之道

环球网资讯 浏览 363

北向资金三季度持仓曝光:宁德市值第一,京东方A获增持股数最多

澎湃新闻 浏览 1146

男生最经不住女生这样撩!

Yuki女人故事 浏览 207

荣梓杉出轨约妹照曝光!与李禹熹控诉时间吻合,还曾要求对方删照

萌神木木 浏览 245

卷首语 | 拒绝和解的勇气

时尚COSMO 浏览 193

中国趁低价狂买石油,什么信号?

米筐投资 浏览 2919

鸿蒙智行首款MPV智界V9完成申报,采用7座布局

IT之家 浏览 87

科学家研发可遥控癌痛克星,比阿片类药物更安全

DeepTech深科技 浏览 79

《飞驰人生3》,那个装逼对抗资本的少年,终成背后的资本

诗与星空 浏览 5751

智能化升级 新款卡罗拉锐放限时售9.68万起

网易汽车 浏览 176

女子酒后与妹妹因清理狗屎起争执 将2只狗从21楼扔下

都市快报橙柿互动 浏览 319

38岁尹正再破天花板,这一次,他让整个娱乐圈“沉默”了

温柔娱公子 浏览 150

郭德纲相声春晚访谈,透露最新计划

杨仔述 浏览 131

续命式改款,新款英菲尼迪QX50难解市场困局

爱驾天下 浏览 191

新款小米SU7计划春节前到店 预售22.99万起

网易汽车 浏览 60
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4