关闭广告

LLM越狱攻击威胁被系统性高估? 基于分解式评分越狱评估新范式

机器之心Pro1038人阅读



JADES 由德国亥姆霍兹信息安全中心 (CISPA),富莱睿(Flexera)和西安交通大学的研究团队合作完成。本文的通讯作者为CISPA 教授张阳。

引言

回想一下,老师会如何批改考试中的开放题:如果考生只在开头写「答:」,但是后面却没有给出答案,当然不能得分;反之,如果他开头说「我不会」,却在后面写出了正确答案,那就该得分。另一方面,还有的答案看似组织良好、道理高深,却句句不在点上,那么依然只能低分;只有当回答准确且全面地涵盖了解决问题的关键要点时,其得分才较高。老师给分的依据,在于答案的实际内容和关键点,而不在于答案的开头、词藻或者形式。

可惜,目前 LLM 越狱攻击(Jailbreak)的评估往往就掉进了这些坑。常见做法要么依赖关键词匹配、毒性分数等间接指标,要么直接用 LLM 来当裁判做宏观判断。这些方法往往只能看到表象,无法覆盖得分的要点,导致评估容易出现偏差,很难为不同攻击的横向比较和防御机制的效果验证提供一个坚实的基准。

为了克服这一难题,来自CI

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

特朗普"闯祸"泄露军事机密:美军要重返阿富汗对付中国

文雅笔墨 浏览 1172

秋到没边的氛围感美甲,一眼心动

时尚COSMO 浏览 969

限时补贴价9.28-10.98万 MG 4X正式上市

网易汽车 浏览 695

杨振宁17年前的演讲发人深省:争夺国际话语权,需要中国人的创新精神

上观新闻 浏览 1010

"柴怼怼"被逮捕:因"打假"走红后售假 有人消费近10万

澎湃新闻 浏览 1052

韩媒:签约布莱顿后,18岁韩国球员尹棹泳外租至荷甲SBV精英

直播吧 浏览 1328

张予曦毕雯珺好敬业,剧播完那么久了 还一直营业

东方不败然多多 浏览 1165

1189元起!vivo Y500发布:四大史上最强,打造国民神机

雷科技 浏览 1073

媒体:中国元首时隔11年再次访韩 在韩国引发很大反响

新民周刊 浏览 975

匈牙利总理欧尔班:西欧正准备与俄罗斯开战

扬子晚报 浏览 932

苹果iOS 26.2开发者预览版Beta发布:大批功能改!锁屏也能自定义液态玻璃

快科技 浏览 933

孟菲斯·德佩,荷兰射手王+助攻王

体坛周报 浏览 972

2026年了,最好看还是这件大衣!

LinkFashion 浏览 963

胡塞武装称若加沙停火破裂将恢复袭击以色列

极目新闻 浏览 945

口子窖第三季度利润下降超9成,高端酒卖不动了

红星资本局 浏览 3175

2028年4月投产 全新宝马iX6效果图曝光

车质网 浏览 738

张雪峰还是不服?

老斯基财经 浏览 1943

特斯拉你学坏了!发文内涵国内车企,国产纯电轿车、SUV挨个躺枪

小李车评李建红 浏览 899

央企旗下四川水电开发公司36.79%股权挂牌转让,底价19.3亿元

红星资本局 浏览 4130

蔚来四季度盈利的底气,到底是什么?

21世纪经济报道 浏览 1033

小米汽车2026年月销稳站3万+台阶

盖世汽车 浏览 682
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
闽ICP备16027347号-4