关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者558人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

48岁袁泉素颜逛商场被拍,口罩遮半脸仍一眼认出

小徐讲八卦 浏览 585

业主私挖300平地下室 同楼住户:家里没一面墙是完整的

新民周刊 浏览 732

古偶大女主这碗饭,王鹤润吃得并不香

娱乐圈笔娱君 浏览 475

富可敌国!孙宇晨彻底暴露,他危险了!

功夫财经 浏览 828

斯坦福大学研究称AI能被“人气”冲昏头脑,会逐渐出现不道德行为

IT之家 浏览 731

卫星互联网低轨 12 组卫星发射成功,长征系列火箭 600 次里程碑

IT之家 浏览 673

英伟达推出智驾AI大模型 马斯克泼“现实冷水”

网易汽车 浏览 567

44岁LV"太子妃"怀上第6胎震动时尚圈 曾是俄罗斯贫民

新民周刊 浏览 359

华为 nova 14 Pro / Ultra 预计今年 12 月升级支持 AI 辅助构图

IT之家 浏览 692

今年流行“毛衣+外套”,这样穿时髦又好看!

LinkFashion 浏览 604

“粉色+咖色”、“蓝色+白色”,春天这4组配色减龄又好看!

LinkFashion 浏览 1142

这款来自千年前的“扎染盲盒”你拆过吗?

时尚COSMO 浏览 388

日本年度第一!文艺影迷必刷的蓝色之诗

幕味儿 浏览 629

彻底对标苹果?小米17 Air要来,可iPhone Air都凉了

雷科技 浏览 659

唐嫣这一出手,若不出意外,央视《爱情没有神话》估计得“封神”

娱乐圈笔娱君 浏览 389

阿里腾讯一起投!理想前高管组团做机器人,半年融了20亿

财通社 浏览 4341

美日通电话后欧洲集体变脸 日本对华提出一个新要求

博览历史 浏览 607

宝刀不老,34岁加纳老将乔丹-阿尤献7球7助攻率队直通世界杯

懂球帝 浏览 697

不分红了!格力电器中报失速,二季度业绩下滑明显!空调为何卖不动了?

中国基金报 浏览 1535

小米汽车又一重要专利公布!

电动知家 浏览 600

10岁抗癌小王子豪豪化疗17次后去世 爸爸:孩子解脱了

潇湘晨报 浏览 515
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4