关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者240人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

女人过了60岁打扮要得体!看这些穿搭就有灵感,简约不老气

静儿时尚达人 浏览 364

工银安盛一年赚了25亿,三款“鑫如意”产品退保却达28亿

独角金融 浏览 3769

伊土两国外长:地区国家应共同应对以色列侵略扩张

环球网资讯 浏览 337

映乡好物&生鲜早市创始人刘渊当社区主播:不同意,才有力!引领银发电商破局之旅|对话新经济人物

封面新闻 浏览 701

皮尔斯:库里强于詹姆斯,库里3次战胜詹姆斯还在巅峰詹时拿过全票MVP

懂球帝 浏览 283

阳光电源:从全球第一到利润骤降,新能源龙头迎来换挡时刻

博望财经 浏览 18687

欧文:拜仁现在肯定懊悔不已,赫拉芬贝赫身价绝对超过1亿镑

直播吧 浏览 409

落石砸车致司机身亡家属向政府索赔百万 遗体尚未安葬

极目新闻 浏览 602

窦骁婚变升级!何超莲被曝已有新欢

萌神木木 浏览 361

击球区来了,坐等洽洽蓄力起跳

市值Observation 浏览 1778

欧尔班:欧盟正讨论迫使俄赔偿乌方 从而偿还欧盟贷款

大风新闻 浏览 250

特朗普称赞高市:如果安倍知道你当首相 肯定非常高兴

第一财经资讯 浏览 338

俄三防部队司令遇袭身亡案调查结束 细节披露

每日经济新闻 浏览 333

首个专注"MPV品牌" 锐胜汽车官宣以独立品牌运营

网易汽车 浏览 440

泰国:洪森父子若入境 将被马上逮捕

鲁中晨报 浏览 535

创维抄袭格力,为何低级得如此赤裸裸?

正经社 浏览 986

普京否认"俄计划攻击北约" 喊话西方国家:睡个好觉

环球网资讯 浏览 402

巴黎客战布雷斯特:阿什拉夫、KK7首发, 登贝莱替补

懂球帝 浏览 340

每体:特尔施特根已进行轻度训练,但还需至少1个月康复

懂球帝 浏览 322

媒体:日本出口护卫舰 不能和中国出口武器混为一谈

新民周刊 浏览 90

姚晨怒批倍速看剧:观众不该背锅

小白趣味屋 浏览 259
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4