关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者363人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

伊姐周日热推:综艺《向往的生活-戏如人生》;电视剧《狸猫书生第二季》......

伊周潮流 浏览 505

业务调整、AI广泛应用,印度IT业“无声裁员”冲击数万岗位

环球网资讯 浏览 856

印度发射该国迄今最重军用卫星 用于提升印海军远洋作战能力

澎湃新闻 浏览 473

纪念戴安基顿,伍迪艾伦最高杰作告别放映❤️

幕味儿 浏览 362

美特使被指教俄外交官"吹捧"特朗普 美媒披露通话记录

澎湃新闻 浏览 442

春树导演制片人回应争议,否认靠卖惨打动白百何,短信内容曝光

扒虾侃娱 浏览 513

加盟米兰至今只替补出场1次,斯基拉:奥多古可能在冬窗离队

懂球帝 浏览 462

俄称在红军城打击被围困的乌军 乌称击退俄军进攻

环球网资讯 浏览 458

好起来了!王楚钦连夺世乒赛、美国大满贯两项重要赛事男单冠军

直播吧 浏览 653

金靖靠卖笑成名却被宋丹丹嫌弃?

小椰的奶奶 浏览 472

你穿卫衣+半裙的样子,好看到犯规!

Yuki女人故事 浏览 563

马杜罗在美首次出庭表示不认罪:我仍是委内瑞拉总统

每日经济新闻 浏览 365

美媒:美正向中东增派包括航母在内的兵力

界面新闻 浏览 332

大哥承诺每月给1万养家费 小弟把事扛了入狱发现被耍

方圆 浏览 463

限时先享价25.98万 吉利银河M9黑金智曜版正式上市

网易汽车 浏览 210

上汽零售赶超比亚迪

大象新闻 浏览 374

马斯克的「移动客厅」又火了:20人座无方向盘,每公里才3毛钱

机器之心Pro 浏览 395

国民党"内讧"郑丽文开会不邀卢秀燕 党内炸锅大佬现身

博览历史 浏览 392

空姐穿毛衣上班,被吐槽“很土”?

正解局 浏览 1526

马特塔:对阵佛罗伦萨首次首发,品尝错失的意甲滋味

绿茵情报局 浏览 224

丰田"世极"正式独立 全新概念车剑指劳斯莱斯

网易汽车 浏览 472
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4